فلش‌کارت‌های آموزشی استاد مدل‌های زبانی بزرگ: از صفر تا ساخت اپلیکیشن

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره استاد مدل‌های زبانی بزرگ: از صفر تا ساخت اپلیکیشن

موضوع کلی: هوش مصنوعی

موضوع میانی: یادگیری ماشین

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر مدل‌های زبانی بزرگ (LLM) و کاربردهای آن‌ها
• 2. تاریخچه و تکامل مدل‌های زبانی
• 3. معماری ترانسفورمر: بلوک ساختمانی LLMها
• 4. مکانیسم توجه (Attention Mechanism) در ترانسفورمرها
• 5. Embedding لغات و نقش آن در LLMها
• 6. پیش‌آموزش (Pre-training) و تنظیم دقیق (Fine-tuning)
• 7. مجموعه داده‌های بزرگ متنی و منابع رایگان
• 8. معرفی کتابخانه‌های محبوب LLM (PyTorch, TensorFlow, Hugging Face)
• 9. نصب و راه‌اندازی محیط توسعه برای LLMها
• 10. آشنایی با Hugging Face Transformers
• 11. بارگیری و استفاده از مدل‌های از پیش آموزش‌دیده
• 12. تولید متن با LLMها: روش‌های مختلف
• 13. کنترل خلاقیت و تصادفی بودن در تولید متن
• 14. ارزیابی مدل‌های زبانی: معیارها و روش‌ها
• 15. درک مفهوم پرپلکسیتی (Perplexity)
• 16. روش‌های بهبود کیفیت متن تولید شده
• 17. مهندسی پرامپت (Prompt Engineering): اصول اولیه
• 18. انواع پرامپت‌ها و تاثیر آن‌ها بر خروجی
• 19. پرامپت‌های زنجیره‌ای (Chain-of-Thought Prompting)
• 20. استفاده از LLMها برای خلاصه‌سازی متن
• 21. استفاده از LLMها برای ترجمه ماشینی
• 22. استفاده از LLMها برای پاسخ به سوالات (Question Answering)
• 23. استفاده از LLMها برای تولید کد
• 24. آشنایی با RAG (Retrieval-Augmented Generation)
• 25. پیاده‌سازی RAG با استفاده از پایگاه‌های دانش
• 26. بهینه‌سازی LLMها برای استقرار (Deployment)
• 27. کوانتیزاسیون (Quantization) مدل‌ها
• 28. تقطیر دانش (Knowledge Distillation)
• 29. استفاده از LLMها در چت‌بات‌ها
• 30. ساخت یک چت‌بات ساده با LLM
• 31. استفاده از LLMها در تحلیل احساسات (Sentiment Analysis)
• 32. استفاده از LLMها در تشخیص موجودیت نام‌دار (Named Entity Recognition)
• 33. آشنایی با مدل‌های زبانی چندزبانه
• 34. استفاده از LLMها برای تولید محتوای خلاقانه
• 35. محدودیت‌های LLMها و چالش‌های پیش رو
• 36. مسائل اخلاقی در استفاده از LLMها
• 37. سوگیری (Bias) در LLMها و روش‌های کاهش آن
• 38. امنیت LLMها و حملات احتمالی
• 39. آینده LLMها و روندهای نوظهور
• 40. استفاده از LLMها در صنعت و کسب‌وکار
• 41. ساخت API برای دسترسی به LLMها
• 42. استقرار LLMها در محیط ابری
• 43. مقایسه مدل‌های زبانی مختلف (GPT-3, PaLM, LLaMA)
• 44. آشنایی با fine-tuning LLaMA
• 45. استفاده از LoRA برای fine-tuning کارآمد
• 46. بهینه‌سازی پرامپت برای وظایف خاص
• 47. عیب‌یابی و رفع مشکلات رایج در LLMها
• 48. استفاده از ابزارهای مانیتورینگ برای LLMها
• 49. مقدمه‌ای بر یادگیری تقویتی با LLMها (RLHF)
• 50. ساخت یک اپلیکیشن ساده با LLM و فریم‌ورک Streamlit