دوره مبانی مهندسی هوش مصنوعی: درک مدل‌های زبانی بزرگ و معماری ترنسفورمرها همراه با فلش‌کارت آموزشی — ارائه روی فلش مموری

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره مبانی مهندسی هوش مصنوعی: درک مدل‌های زبانی بزرگ و معماری ترنسفورمرها

موضوع کلی: علوم رایانه و هوش مصنوعی

موضوع میانی: یادگیری ماشین و پردازش زبان طبیعی

📋 سرفصل‌های دوره

• 1. مبانی هوش مصنوعی و جایگاه مدل‌های زبانی در عصر حاضر
• 2. تاریخچه تکامل مدل‌های زبانی از روش‌های آماری تا یادگیری عمیق
• 3. مفاهیم پایه یادگیری ماشین و نقش داده‌ها در آموزش مدل‌ها
• 4. ساختار شبکه‌های عصبی مصنوعی و یادگیری بازگشتی
• 5. محدودیت‌های مدل‌های زبانی سنتی و ظهور ترنسفورمرها
• 6. معماری ترنسفورمر: درک مکانیسم توجه به خود یا Self-Attention
• 7. نقش انکودر و دیکودر در پردازش زبان طبیعی
• 8. تکنیک‌های پیش‌پردازش متن و توکن‌سازی در مدل‌های زبانی
• 9. مفهوم بردارسازی کلمات و فضاهای برداری Embedding
• 10. مکانیسم توجه چندسر یا Multi-Head Attention در مدل‌های ترنسفورمر
• 11. نقش لایه‌های نرمال‌سازی و توابع فعال‌ساز در پایداری مدل
• 12. مفهوم یادگیری نظارت‌شده در آموزش مدل‌های زبانی
• 13. مدل‌های زبانی بزرگ یا LLM چیست و چه تفاوتی با مدل‌های کوچک دارند
• 14. فرآیند پیش‌آموزش مدل‌های زبانی بر روی داده‌های متنی حجیم
• 15. مفهوم یادگیری انتقالی و تنظیم دقیق یا Fine-tuning
• 16. استراتژی‌های تنظیم دقیق برای وظایف خاص زبانی
• 17. تکنیک‌های بهینه‌سازی مدل و کاهش حجم پارامترها
• 18. مفهوم تراز کردن مدل با دستورالعمل‌ها یا Instruction Tuning
• 19. روش‌های یادگیری تقویتی با بازخورد انسانی در آموزش مدل‌ها
• 20. معرفی مدل‌های زبانی متن‌باز و کاربرد آن‌ها در صنعت
• 21. مهندسی پرامپت و روش‌های بهینه‌سازی ورودی برای مدل‌های زبانی
• 22. تکنیک‌های زنجیره تفکر یا Chain of Thought در استدلال مدل
• 23. مفهوم بازیابی افزوده یا RAG برای ارتقای دانش مدل‌ها
• 24. ارزیابی عملکرد مدل‌های زبانی و معیارهای دقت و صحت
• 25. چالش‌های اخلاقی و سوگیری در داده‌های آموزشی
• 26. مسائل امنیتی در استفاده از مدل‌های زبانی و مقابله با نفوذ
• 27. حریم خصوصی و حفاظت از داده‌ها در سامانه‌های هوش مصنوعی
• 28. کاربردهای عملی مدل‌های زبانی در تولید محتوای هوشمند
• 29. نقش هوش مصنوعی در تحلیل متون تخصصی و علمی
• 30. یکپارچه‌سازی مدل‌های زبانی با پایگاه‌های داده و ابزارهای خارجی
• 31. مبانی استقرار مدل‌های زبانی در محیط‌های تولیدی
• 32. مدیریت منابع محاسباتی و سخت‌افزارهای مورد نیاز برای پردازش مدل‌ها
• 33. مفاهیم پایه در توزیع بار و مقیاس‌پذیری مدل‌های بزرگ
• 34. آینده هوش مصنوعی و روندهای نوین در معماری ترنسفورمرها
• 35. اخلاق در هوش مصنوعی و مسئولیت‌پذیری در مهندسی نرم‌افزار
• 36. قوانین و چارچوب‌های حاکم بر توسعه هوش مصنوعی در ایران
• 37. ارائه پروژه‌های کاربردی مبتنی بر مدل‌های زبانی بومی
• 38. تکنیک‌های کاهش توهم یا Hallucination در پاسخ‌های مدل
• 39. روش‌های مانیتورینگ و نگهداری مدل‌های مستقر شده
• 40. خلاصه و چشم‌انداز آینده مهندسی هوش مصنوعی در کشور