کتاب صوتی مدل‌سازی زبان: از N-gram تا شبکه‌های عصبی

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره مدل‌سازی زبان: از N-gram تا شبکه‌های عصبی

موضوع کلی: مهندسی کامپیوتر و معماری سیستم‌ها

موضوع میانی: پردازش زبان طبیعی

📋 سرفصل‌های دوره

• 1. مدل‌سازی زبان: مقدمه‌ای و کاربردها
• 2. احتمال و اطلاعات در مدل‌سازی زبان
• 3. N-gram ها: اصول و محاسبات
• 4. هموارسازی (Smoothing) در مدل‌های N-gram
• 5. ارزیابی مدل‌های N-gram
• 6. زبان‌های فرمال و غیررسمی در مدل‌سازی
• 7. مدل‌سازی زبان با استفاده از زنجیره‌های مارکوف
• 8. شبکه‌های عصبی: اصول اولیه
• 9. پرceptron و یادگیری آن
• 10. شبکه‌های عصبی چندلایه
• 11. تابع فعال‌سازی و نقش آن
• 12. انتشار پس‌رو (Backpropagation)
• 13. بهینه‌سازی گرادیان کاهشی
• 14. شبکه‌های عصبی بازگشتی (RNN)
• 15. مشکلات گرادیان در RNN
• 16. شبکه‌های LSTM و کاربردها
• 17. شبکه‌های GRU و مقایسه با LSTM
• 18. مدل‌های ترانسفورمر: معرفی و ساختار
• 19. مکانیسم توجه (Attention)
• 20. خود-توجهی (Self-Attention)
• 21. رمزگذار-رمزگشا در ترانسفورمر
• 22. آموزش مدل‌های ترانسفورمر
• 23. BERT: معماری و پیش‌آموزش
• 24. Fine-tuning مدل BERT برای وظایف مختلف
• 25. مدل‌های زبانی مبتنی بر ترانسفورمر: GPT
• 26. تولید متن با مدل‌های GPT
• 27. کنترل تولید متن با پارامترهای مختلف
• 28. ارزیابی کیفیت متن تولید شده
• 29. مدل‌های زبانی برای ترجمه ماشینی
• 30. ترجمه ماشینی عصبی (NMT)
• 31. توجه در ترجمه ماشینی
• 32. مدل‌های زبانی برای خلاصه‌سازی متن
• 33. خلاصه‌سازی انتزاعی و استخراجی
• 34. ارزیابی کیفیت خلاصه‌سازی
• 35. مدل‌های زبانی برای پاسخ به سؤال
• 36. سیستم‌های پرسش و پاسخ (QA)
• 37. مدل‌های زبانی برای تشخیص موجودیت نام‌دار
• 38. تشخیص موجودیت نام‌دار (NER)
• 39. مدل‌های زبانی برای تحلیل احساسات
• 40. تحلیل احساسات در متن
• 41. مدل‌های زبانی برای تصحیح املا و گرامر
• 42. اصلاح خودکار متن
• 43. کاربرد مدل‌های زبانی در پردازش زبان طبیعی
• 44. چالش‌های مدل‌سازی زبان
• 45. داده‌های مورد نیاز برای آموزش مدل‌های زبانی