فلش‌کارت‌های آموزشی ترنسفورمرها: از تئوری تا پیاده‌سازی عملی

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره ترنسفورمرها: از تئوری تا پیاده‌سازی عملی

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: شبکه‌های عصبی ترنسفورمر (Transformer Networks)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر ترنسفورمرها
• 2. معماری ترنسفورمر: یک نمای کلی
• 3. مکانیسم توجه (Attention) در ترنسفورمرها
• 4. توجه خودکار (Self-Attention)
• 5. چند سر توجه (Multi-Head Attention)
• 6. رمزگذار (Encoder) در ترنسفورمرها
• 7. رمزگشا (Decoder) در ترنسفورمرها
• 8. اتصالات باقیمانده و نرمال‌سازی لایه (Residual Connections and Layer Normalization)
• 9. موقعیت‌یابی در ترنسفورمرها
• 10. مدل‌های ترنسفورمر پیش‌آموزش‌دیده (Pre-trained Transformer Models)
• 11. BERT: مبانی و کاربردها
• 12. GPT: مبانی و کاربردها
• 13. تفاوت‌های کلیدی بین BERT و GPT
• 14. ترنسفورمرها در پردازش زبان طبیعی (NLP)
• 15. ترجمه ماشینی با ترنسفورمرها
• 16. خلاصه‌سازی متن با ترنسفورمرها
• 17. تولید متن با ترنسفورمرها
• 18. تحلیل احساسات با ترنسفورمرها
• 19. تشخیص موجودیت‌های نام‌گذاری‌شده (NER) با ترنسفورمرها
• 20. ترنسفورمرها در بینایی کامپیوتر (Computer Vision)
• 21. شبکه‌های ترنسفورمر بصری (Vision Transformers - ViT)
• 22. تشخیص اشیا با ترنسفورمرها
• 23. دسته‌بندی تصاویر با ترنسفورمرها
• 24. ترنسفورمرها در تشخیص گفتار (Speech Recognition)
• 25. تبدیل گفتار به متن با ترنسفورمرها
• 26. ترنسفورمرها در پردازش سیگنال
• 27. کاربردهای ترنسفورمرها در سری‌های زمانی
• 28. بهینه‌سازی ترنسفورمرها برای سرعت و حافظه
• 29. کوانتیزاسیون (Quantization) ترنسفورمرها
• 30. هرس (Pruning) ترنسفورمرها
• 31. تقطیر دانش (Knowledge Distillation)
• 32. ترنسفورمرها و یادگیری انتقالی (Transfer Learning)
• 33. Fine-tuning ترنسفورمرها برای وظایف خاص
• 34. پیاده‌سازی ترنسفورمرها با TensorFlow
• 35. پیاده‌سازی ترنسفورمرها با PyTorch
• 36. استفاده از کتابخانه Hugging Face Transformers
• 37. آماده‌سازی داده‌ها برای آموزش ترنسفورمرها
• 38. ارزیابی عملکرد ترنسفورمرها
• 39. متریک‌های ارزیابی در NLP
• 40. متریک‌های ارزیابی در بینایی کامپیوتر
• 41. مشکلات رایج در آموزش ترنسفورمرها
• 42. جلوگیری از بیش‌برازش (Overfitting)
• 43. تنظیم هایپرپارامترها (Hyperparameter Tuning)
• 44. ترنسفورمرها و محاسبات توزیع‌شده
• 45. استفاده از GPUها برای آموزش ترنسفورمرها
• 46. استفاده از TPUها برای آموزش ترنسفورمرها
• 47. ترنسفورمرها و یادگیری خودنظارتی (Self-Supervised Learning)
• 48. تکنیک‌های یادگیری خودنظارتی برای ترنسفورمرها
• 49. ترنسفورمرها و یادگیری تقویتی (Reinforcement Learning)
• 50. ترنسفورمرها در رباتیک
• 51. ترنسفورمرها و پردازش داده‌های چندوجهی (Multimodal Data)
• 52. ترکیب متن و تصویر با ترنسفورمرها
• 53. ترکیب متن و صدا با ترنسفورمرها
• 54. ترنسفورمرها و اخلاق در هوش مصنوعی
• 55. مسائل مربوط به سوگیری (Bias) در ترنسفورمرها
• 56. تفسیرپذیری ترنسفورمرها (Explainable AI)
• 57. آینده ترنسفورمرها و تحقیقات جاری
• 58. ترنسفورمرهای اسپارس (Sparse Transformers)
• 59. ترنسفورمرهای طولانی‌برد (Long-Range Transformers)