فلش‌کارت‌های آموزشی مبانی ریاضی ترنسفورمرها و مدل‌های زبانی برای هوش مصنوعی پیشرفته

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره مبانی ریاضی ترنسفورمرها و مدل‌های زبانی برای هوش مصنوعی پیشرفته

موضوع کلی: هوش مصنوعی و یادگیری ماشین

موضوع میانی: مدل‌های زبانی بزرگ (LLMs)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر هوش مصنوعی و یادگیری ماشین
• 2. مبانی ریاضیات گسسته برای هوش مصنوعی
• 3. آشنایی با جبر خطی و کاربردهای آن
• 4. مفاهیم پایه حساب دیفرانسیل و انتگرال
• 5. آمار و احتمالات در یادگیری ماشین
• 6. مقدمه‌ای بر مدل‌های زبانی
• 7. تاریخچه و تحول مدل‌های زبانی
• 8. کاربرد مدل‌های زبانی در پردازش زبان طبیعی
• 9. معرفی مدل‌های زبانی آماری
• 10. مدل‌های زبانی مبتنی بر N-gram
• 11. ارزیابی مدل‌های زبانی
• 12. مقدمه‌ای بر شبکه‌های عصبی
• 13. انواع شبکه‌های عصبی
• 14. نورون‌های مصنوعی و لایه‌ها
• 15. توابع فعال‌سازی
• 16. پس‌انتشار خطا (Backpropagation)
• 17. بهینه‌سازی در شبکه‌های عصبی
• 18. گرادیان کاهشی و انواع آن
• 19. مقدمه‌ای بر ترنسفورمرها
• 20. معماری ترنسفورمر
• 21. مکانیزم توجه (Attention Mechanism)
• 22. خود-توجهی (Self-Attention)
• 23. توجه چند-سری (Multi-Head Attention)
• 24. انواع توجه در ترنسفورمرها
• 25. جایگذاری‌ها (Embeddings)
• 26. جایگذاری‌های کلمه (Word Embeddings)
• 27. جایگذاری‌های موقعیتی (Positional Embeddings)
• 28. مفهوم ترنسفورمرها در مدل‌های زبانی
• 29. معماری رمزگذار-رمزگشا (Encoder-Decoder)
• 30. رمزگذار ترنسفورمر
• 31. رمزگشای ترنسفورمر
• 32. کاربرد ترنسفورمرها در ترجمه ماشینی
• 33. کاربرد ترنسفورمرها در خلاصه‌سازی متن
• 34. کاربرد ترنسفورمرها در پاسخگویی به سوال
• 35. مقدمه‌ای بر مدل‌های زبانی بزرگ (LLMs)
• 36. معرفی مدل GPT
• 37. معماری GPT
• 38. آموزش مدل GPT
• 39. تنظیم دقیق (Fine-tuning) مدل GPT
• 40. کاربردهای عملی GPT
• 41. معرفی مدل BERT
• 42. معماری BERT
• 43. آموزش مدل BERT
• 44. تنظیم دقیق (Fine-tuning) مدل BERT
• 45. کاربردهای عملی BERT
• 46. مبانی ریاضیات برداری برای ترنسفورمرها
• 47. ضرب ماتریس‌ها در ترنسفورمرها
• 48. مفهوم فضای برداری
• 49. فاصله اقلیدسی و شباهت کسینوسی
• 50. کاربرد بردارهای ویژگی
• 51. پایگاه‌های داده برداری (Vector Databases)
• 52. مقدمه‌ای بر پیاده‌سازی مدل‌های زبانی
• 53. انتخاب چارچوب‌های یادگیری عمیق
• 54. نصب و راه‌اندازی کتابخانه‌های لازم
• 55. پیاده‌سازی مکانیزم توجه
• 56. پیاده‌سازی خود-توجهی
• 57. پیاده‌سازی توجه چند-سری
• 58. پیاده‌سازی جایگذاری‌های کلمه
• 59. پیاده‌سازی جایگذاری‌های موقعیتی
• 60. ساخت معماری رمزگذار ترنسفورمر
• 61. ساخت معماری رمزگشای ترنسفورمر
• 62. آموزش یک مدل ترنسفورمر ساده
• 63. ارزیابی عملکرد مدل ترنسفورمر
• 64. تنظیم دقیق مدل ترنسفورمر برای وظایف خاص
• 65. مقدمه‌ای بر بهینه‌سازی مدل‌های زبانی
• 66. تکنیک‌های تنظیم هایپرپارامترها
• 67. روش‌های جلوگیری از بیش‌برازش (Overfitting)
• 68. روش‌های منظم‌سازی (Regularization)
• 69. آموزش توزیع‌شده (Distributed Training)
• 70. ملاحظات اخلاقی در مدل‌های زبانی
• 71. سوگیری در داده‌ها و مدل‌ها
• 72. روش‌های کاهش سوگیری
• 73. مسئولیت‌پذیری در هوش مصنوعی
• 74. امنیت مدل‌های زبانی
• 75. حریم خصوصی داده‌ها
• 76. آینده مدل‌های زبانی بزرگ
• 77. روندهای پژوهشی نوین
• 78. کاربردهای پیشرفته مدل‌های زبانی
• 79. مدل‌های زبانی چندوجهی (Multimodal LLMs)
• 80. مدل‌های زبانی مولد (Generative LLMs)
• 81. مدل‌های زبانی با قابلیت استدلال
• 82. مقدمه‌ای بر پردازش زبان طبیعی پیشرفته
• 83. استخراج اطلاعات از متن
• 84. شناسایی موجودیت‌های نام‌دار (NER)
• 85. تحلیل احساسات (Sentiment Analysis)
• 86. طبقه‌بندی متن (Text Classification)
• 87. مدل‌های گراف دانش (Knowledge Graphs)
• 88. کاربرد گراف دانش در مدل‌های زبانی
• 89. مبانی پیاده‌سازی با استفاده از کتابخانه‌های متن‌باز
• 90. آموزش مدل‌های زبانی بر روی داده‌های سفارشی
• 91. نکات عملی در کار با مدل‌های زبانی بزرگ
• 92. پروژه‌های عملی با استفاده از ترنسفورمرها
• 93. جمع‌بندی و مسیرهای آینده
• 94. مقدمه‌ای بر کاربردهای صنعتی هوش مصنوعی
• 95. تکنیک‌های هوش مصنوعی در صنعت
• 96. مباحث پیشرفته در یادگیری ماشین
• 97. اصول مهندسی داده برای مدل‌های زبانی
• 98. مبانی پردازش موازی برای یادگیری عمیق
• 99. مقدمه‌ای بر مدل‌های یادگیری تقویتی
• 100. کاربرد هوش مصنوعی در علوم اسلامی