کتاب صوتی DPO برای LLMهای گفتگویی

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره DPO برای LLMهای گفتگویی

موضوع کلی: توسعه و بهینه‌سازی مدل‌های زبانی بزرگ (LLM)

موضوع میانی: تکنیک‌های جایگزین RLHF (Direct Preference Optimization - DPO)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر مدل‌های زبان بزرگ مکالمه‌ای
• 2. معماری ترانسفورمر و کاربرد آن در LLMها
• 3. پردازش زبان طبیعی: مفاهیم و تکنیک‌ها
• 4. توکن‌سازی و لغت‌نامه‌ها در LLMها
• 5. Embedding کلمات و جملات
• 6. مدل‌های زبانی احتمالی
• 7. شبکه‌های عصبی بازگشتی (RNN) و انواع آن
• 8. مشکلات گرادیان محو و انفجار در RNNها
• 9. شبکه‌های LSTM و GRU برای پردازش دنباله‌ها
• 10. توجه (Attention) در مدل‌های ترانسفورمر
• 11. مکانیسم‌های خود-توجه (Self-Attention)
• 12. ترانسفورمرها: رمزگذار و رمزگشا
• 13. آموزش مدل‌های ترانسفورمر
• 14. پیش‌آموزش و تنظیم دقیق (Fine-tuning)
• 15. مجموعه‌داده‌های بزرگ و کیفیت داده‌ها
• 16. ارزیابی مدل‌های زبانی: معیارها و روش‌ها
• 17. Perplexity به عنوان معیار ارزیابی
• 18. BLEU و ROUGE در ارزیابی ترجمه ماشینی
• 19. انواع وظایف پردازش زبان طبیعی
• 20. تولید متن با LLMها
• 21. خلاصه‌سازی متن به کمک LLMها
• 22. ترجمه ماشینی عصبی با LLMها
• 23. پاسخ به سؤالات (Question Answering)
• 24. چت‌بات‌ها و دیالوگ منیجمنت
• 25. مدیریت حافظه در مکالمات طولانی
• 26. تولید پاسخ‌های متنوع و خلاقانه
• 27. کنترل خروجی LLMها: دما و نمونه‌برداری
• 28. سوگیری در LLMها و روش‌های کاهش آن
• 29. تکنیک‌های تقویت یادگیری برای LLMها
• 30. یادگیری تقویتی از بازخورد انسانی (RLHF)
• 31. معماری‌های LLM پیشرفته: BERT، GPT، T5
• 32. بهینه‌سازی LLMها برای استقرار
• 33. کوآنتیزاسیون و برش (Pruning)
• 34. تقطیر دانش (Knowledge Distillation)
• 35. استفاده از GPU و TPU در آموزش LLMها
• 36. مفاهیم پایه‌ای درباره‌ی Parallelism و Distributed Training
• 37. تنظیم پارامترهای LLMها: نرخ یادگیری و Batch Size
• 38. نظارت و پایش LLMها در محیط عملیاتی
• 39. امنیت LLMها: دفاع در برابر حملات
• 40. توضیح‌پذیری LLMها: روش‌های تفسیر مدل
• 41. تولید داده‌های مصنوعی برای آموزش LLMها
• 42. استفاده از LLMها در صنایع مختلف
• 43. آینده‌ی LLMها و روندهای نوظهور
• 44. تکنیک های Prompt Engineering
• 45. استفاده از Vector Databases برای LLM ها