دوره مدل‌های زبانی بزرگ: LLM و فراتر همراه با فلش‌کارت آموزشی — ارائه روی فلش مموری

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره مدل‌های زبانی بزرگ: LLM و فراتر

موضوع کلی: یادگیری ماشین و بهینه‌سازی

موضوع میانی: هوش مصنوعی مولد (Generative AI) و بهینه‌سازی

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر پردازش زبان طبیعی
• 2. مفاهیم اساسی مدل‌های زبانی
• 3. تاریخچه و تکامل مدل‌های زبانی
• 4. معماری شبکه‌های عصبی بازگشتی
• 5. شبکه‌های عصبی پیچشی برای پردازش متن
• 6. مکانیسم توجه در مدل‌های زبانی
• 7. مدل‌های زبانی مبتنی بر ترانسفورمر
• 8. معماری ترانسفورمر: تشریح جزئیات
• 9. رمزگذاری موقعیتی در ترانسفورمرها
• 10. لایه‌های نرمال‌سازی و اتصال باقیمانده
• 11. آموزش مدل‌های ترانسفورمر: چالش‌ها و راهکارها
• 12. مدل BERT: معماری و کاربردها
• 13. Fine-tuning مدل‌های پیش‌آموزش‌دیده
• 14. مدل GPT: تولید متن خودکار
• 15. تولید متن خلاقانه با GPT
• 16. مدل‌های زبانی چندزبانه
• 17. مدل‌های زبانی برای زبان فارسی
• 18. ارزیابی مدل‌های زبانی: معیارها و روش‌ها
• 19. Perplexity و BLEU score در ارزیابی LLM
• 20. مجموعه‌داده‌های بزرگ برای آموزش مدل‌های زبانی
• 21. پیش‌پردازش متن برای مدل‌های زبانی
• 22. توکنایزرها و واژگان
• 23. Embeddingهای کلمه: Word2Vec و GloVe
• 24. Embeddingهای متنی: Sentence Transformers
• 25. یادگیری نمایش توزیعی کلمات
• 26. مدل‌های زبانی شرطی
• 27. مدل‌های زبانی مولد
• 28. کنترل تولید متن در LLMها
• 29. تکنیک‌های نمونه‌برداری: Greedy Decoding، Beam Search
• 30. تکنیک‌های نمونه‌برداری: Top-k و Top-p Sampling
• 31. مدل‌های زبانی و خلاصه‌سازی متن
• 32. مدل‌های زبانی و ترجمه ماشینی
• 33. مدل‌های زبانی و پاسخ به سؤال
• 34. مدل‌های زبانی و تحلیل احساسات
• 35. مدل‌های زبانی و تشخیص موجودیت نام‌دار
• 36. کاربردهای LLM در چت‌بات‌ها
• 37. مدل‌های زبانی و تولید کد
• 38. مدل‌های زبانی و استخراج اطلاعات
• 39. چالش‌های اخلاقی در استفاده از LLMها
• 40. سوگیری در مدل‌های زبانی
• 41. حریم خصوصی و امنیت داده‌ها در LLMها
• 42. تفسیرپذیری مدل‌های زبانی
• 43. تکنیک‌های کاهش سوگیری در LLMها
• 44. بهینه‌سازی مدل‌های زبانی برای استقرار
• 45. فشرده‌سازی و کوانتیزاسیون مدل‌های زبانی