فلش‌کارت‌های آموزشی ترنسفورمرها: از تئوری تا ساخت مدل‌های پرکاربرد

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره ترنسفورمرها: از تئوری تا ساخت مدل‌های پرکاربرد

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: شبکه‌های عصبی ترنسفورمر (Transformer Networks)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر شبکه‌های عصبی
• 2. پیش‌پردازش داده‌ها برای مدل‌های ترنسفورمر
• 3. مفهوم توجه (Attention) در شبکه‌های عصبی
• 4. توجه خودکار (Self-Attention)
• 5. مکانیزم‌های توجه چندگانه (Multi-Head Attention)
• 6. معماری Encoder در ترنسفورمرها
• 7. معماری Decoder در ترنسفورمرها
• 8. اتصالات باقیمانده (Residual Connections) و نرمال‌سازی لایه (Layer Normalization)
• 9. موقعیت‌یابی در ترنسفورمرها (Positional Encoding)
• 10. تابع فعال‌سازی (Activation Function) در ترنسفورمرها
• 11. بهینه‌سازها (Optimizers) و نرخ یادگیری (Learning Rate)
• 12. تنظیم بیش‌ازحد (Overfitting) و روش‌های جلوگیری از آن
• 13. مدل‌های زبانی بزرگ (Large Language Models - LLMs)
• 14. ترنسفورمرها در پردازش زبان طبیعی (NLP)
• 15. ترجمه ماشینی با استفاده از ترنسفورمرها
• 16. خلاصه‌سازی متن با ترنسفورمرها
• 17. تولید متن با ترنسفورمرها
• 18. تشخیص احساسات (Sentiment Analysis) با ترنسفورمرها
• 19. پرسش و پاسخ (Question Answering) با ترنسفورمرها
• 20. مدل BERT و کاربردهای آن
• 21. مدل GPT و کاربردهای آن
• 22. مدل T5 و کاربردهای آن
• 23. Fine-tuning ترنسفورمرها برای وظایف خاص
• 24. استفاده از ترنسفورمرها در بینایی کامپیوتر (Computer Vision)
• 25. ترنسفورمرها برای تشخیص اشیا (Object Detection)
• 26. ترنسفورمرها برای تقسیم‌بندی معنایی (Semantic Segmentation)
• 27. ترنسفورمرها برای تولید تصویر (Image Generation)
• 28. استفاده از ترنسفورمرها در پردازش صدا (Audio Processing)
• 29. ترنسفورمرها برای تشخیص گفتار (Speech Recognition)
• 30. ترنسفورمرها برای تولید صدا (Speech Synthesis)
• 31. ترنسفورمرها در سری‌های زمانی (Time Series)
• 32. پیش‌بینی سری‌های زمانی با ترنسفورمرها
• 33. ترنسفورمرها در سیستم‌های توصیه‌گر (Recommender Systems)
• 34. پیاده‌سازی ترنسفورمرها با استفاده از TensorFlow
• 35. پیاده‌سازی ترنسفورمرها با استفاده از PyTorch
• 36. استفاده از کتابخانه Hugging Face Transformers
• 37. تنظیم هایپرمترها (Hyperparameter Tuning)
• 38. معماری Transformer-XL
• 39. معماری Reformer
• 40. معماری Longformer
• 41. مدل‌های ترنسفورمر چندوجهی (Multimodal Transformers)
• 42. استفاده از ترنسفورمرها در رباتیک
• 43. ترنسفورمرها و یادگیری تقویتی (Reinforcement Learning)
• 44. ترنسفورمرها و داده‌های ساختاریافته (Structured Data)
• 45. محدودیت‌های ترنسفورمرها
• 46. چالش‌های مقیاس‌پذیری ترنسفورمرها
• 47. روش‌های کاهش مصرف حافظه در ترنسفورمرها
• 48. ترنسفورمرها و محاسبات کوانتومی (Quantum Computing)
• 49. ترنسفورمرها و یادگیری فدرال (Federated Learning)
• 50. ترنسفورمرها و حریم خصوصی داده‌ها (Data Privacy)
• 51. آینده ترنسفورمرها و تحقیقات در حال انجام
• 52. بررسی موردی: ساخت یک مدل خلاصه‌سازی متن با ترنسفورمرها
• 53. بررسی موردی: ساخت یک سیستم تشخیص احساسات با ترنسفورمرها
• 54. بررسی موردی: ساخت یک مدل ترجمه ماشینی با ترنسفورمرها
• 55. روش‌های ارزیابی مدل‌های ترنسفورمر
• 56. تفسیرپذیری مدل‌های ترنسفورمر (Interpretability)
• 57. نرم‌افزارهای کاربردی برای کار با ترنسفورمرها
• 58. منابع آنلاین برای یادگیری ترنسفورمرها