دوره تقطیر دانش: انتقال هوش به مدل‌های کوچک همراه با فلش‌کارت آموزشی — ارائه روی فلش مموری

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره تقطیر دانش: انتقال هوش به مدل‌های کوچک

موضوع کلی: بهینه‌سازی و فشرده‌سازی مدل‌های زبان بزرگ (LLM)

موضوع میانی: پلتفرم‌های متمرکز بر فشرده‌سازی مدل

📋 سرفصل‌های دوره

• 1. مبانی تقطیر دانش
• 2. تقطیر دانش و یادگیری ماشین
• 3. معماری مدل‌های بزرگ و کوچک
• 4. مجموعه داده‌ها و نقش آن‌ها در تقطیر دانش
• 5. انتخاب مدل معلم مناسب
• 6. انتخاب مدل دانش‌آموز مناسب
• 7. توابع هزینه در تقطیر دانش
• 8. نرمال‌سازی دما در تقطیر دانش
• 9. تاثیر دما بر عملکرد تقطیر
• 10. روش‌های نمونه‌برداری داده برای تقطیر
• 11. تقطیر دانش با استفاده از ویژگی‌ها
• 12. تقطیر دانش با استفاده از پاسخ‌ها
• 13. تقطیر دانش با استفاده از روابط بین نمونه‌ها
• 14. تقطیر دانش در شبکه‌های عصبی کانولوشنال
• 15. تقطیر دانش در شبکه‌های عصبی بازگشتی
• 16. تقطیر دانش در مدل‌های ترانسفورمر
• 17. تقطیر دانش برای پردازش زبان طبیعی
• 18. تقطیر دانش برای تشخیص تصویر
• 19. تقطیر دانش برای تشخیص گفتار
• 20. تقطیر دانش برای یادگیری تقویتی
• 21. انتقال دانش در شبکه‌های گراف
• 22. تقطیر دانش چندوظیفه‌ای
• 23. تقطیر دانش خودنظارتی
• 24. تقطیر دانش با استفاده از داده‌های ترکیبی
• 25. تقطیر دانش با استفاده از داده‌های مصنوعی
• 26. تقطیر دانش در محیط‌های با منابع محدود
• 27. بهینه‌سازی مدل دانش‌آموز
• 28. تنظیم هایپرمترها در تقطیر دانش
• 29. ارزیابی عملکرد مدل‌های تقطیر شده
• 30. مقایسه روش‌های مختلف تقطیر دانش
• 31. تاثیر اندازه مدل دانش‌آموز بر عملکرد
• 32. تاثیر پیچیدگی مدل معلم بر عملکرد
• 33. تقطیر دانش با استفاده از اطلاعات عدم قطعیت
• 34. تقطیر دانش با استفاده از روش‌های ensemble
• 35. تقطیر دانش و قابلیت تفسیرپذیری مدل
• 36. تقطیر دانش و امنیت مدل
• 37. تقطیر دانش و حریم خصوصی داده‌ها
• 38. تقطیر دانش و یادگیری فدرال
• 39. کاربردهای تقطیر دانش در دستگاه‌های موبایل
• 40. تقطیر دانش و محاسبات لبه
• 41. تقطیر دانش و اینترنت اشیا
• 42. آینده تقطیر دانش و چالش‌های پیش رو
• 43. پیاده‌سازی تقطیر دانش با استفاده از TensorFlow
• 44. پیاده‌سازی تقطیر دانش با استفاده از PyTorch
• 45. بهبود تقطیر دانش با استفاده از تکنیک‌های regularization