کتاب صوتی ترانسفورمرها: فراتر از RNN و CNN

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره ترانسفورمرها: فراتر از RNN و CNN

موضوع کلی: یادگیری عمیق و کاربردهای آن

موضوع میانی: معماری‌های نوظهور در یادگیری عمیق

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر شبکه‌های عصبی ترانسفورمر
• 2. معماری ترانسفورمر: یک نمای کلی
• 3. مکانیسم توجه (Attention) در ترانسفورمرها
• 4. توجه چندگانه (Multi-Head Attention)
• 5. انکودر و دیکودر در ترانسفورمرها
• 6. لایه‌های پیش‌خور (Feed Forward Layers)
• 7. اتصالات باقیمانده و نرمال‌سازی لایه (Residual Connections & Layer Normalization)
• 8. رمزگذاری موقعیتی (Positional Encoding)
• 9. ترانسفورمرها در مقایسه با شبکه‌های عصبی بازگشتی (RNN)
• 10. ترانسفورمرها در مقایسه با شبکه‌های عصبی کانولوشنی (CNN)
• 11. کاربردهای ترانسفورمرها در پردازش زبان طبیعی (NLP)
• 12. مدل‌های زبانی مبتنی بر ترانسفورمر
• 13. BERT: مدل زبانی دوجهته
• 14. GPT: مدل تولید متن
• 15. مدل‌های ترانسفورمر برای ترجمه ماشینی
• 16. توکن‌سازی و واژگان‌سازی در مدل‌های ترانسفورمر
• 17. آموزش ترانسفورمرها: بهینه‌سازی و تنظیم هایپرپارامترها
• 18. داده‌های آموزشی برای ترانسفورمرها
• 19. ارزیابی مدل‌های ترانسفورمر
• 20. پیش‌پردازش داده‌ها برای مدل‌های ترانسفورمر
• 21. تکنیک‌های تنظیم دقیق (Fine-tuning) ترانسفورمرها
• 22. انتقال یادگیری (Transfer Learning) با ترانسفورمرها
• 23. استفاده از ترانسفورمرها در طبقه‌بندی متن
• 24. استفاده از ترانسفورمرها در خلاصه‌سازی متن
• 25. استفاده از ترانسفورمرها در پاسخ به پرسش‌ها
• 26. استفاده از ترانسفورمرها در تشخیص موجودیت نام‌دار (NER)
• 27. ترانسفورمرها و مدل‌های تولید تصویر
• 28. ترانسفورمرها و پردازش سیگنال
• 29. ترانسفورمرها و داده‌های سری زمانی
• 30. تکنیک‌های کاهش حافظه در ترانسفورمرها
• 31. مدل‌های ترانسفورمر سبک‌وزن
• 32. تسریع آموزش و استنتاج ترانسفورمرها
• 33. کمیت‌سازی (Quantization) مدل‌های ترانسفورمر
• 34. هرس (Pruning) مدل‌های ترانسفورمر
• 35. دانش‌تقطیر (Knowledge Distillation) برای ترانسفورمرها
• 36. ترانسفورمرها و حریم خصوصی داده‌ها
• 37. تفسیرپذیری مدل‌های ترانسفورمر
• 38. چالش‌ها و محدودیت‌های ترانسفورمرها
• 39. آینده ترانسفورمرها: تحقیقات و روندها
• 40. استفاده از ترانسفورمرها در تحلیل احساسات
• 41. ترانسفورمرها و تولید کد
• 42. ترانسفورمرها و رباتیک
• 43. ترانسفورمرها و بینایی کامپیوتر
• 44. ترانسفورمرها و تشخیص تقلب
• 45. ترانسفورمرها و سیستم‌های توصیه‌گر