فلش‌کارت‌های آموزشی ترنسفورمرها: از مبانی تا کاربرد عملی

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره ترنسفورمرها: از مبانی تا کاربرد عملی

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: شبکه‌های عصبی ترنسفورمر (Transformer Networks)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر شبکه‌های عصبی و یادگیری عمیق
• 2. مبانی ترنسفورمرها: معماری پایه
• 3. مکانیزم توجه (Attention Mechanism)
• 4. توجه خودی (Self-Attention)
• 5. توجه چندسر (Multi-Head Attention)
• 6. رمزگذار و رمزگشا در ترنسفورمرها
• 7. پردازش زبان طبیعی با ترنسفورمرها
• 8. مدل‌های زبانی مبتنی بر ترنسفورمر
• 9. ترنسفورمرهای مبتنی بر رمزگذار (Encoder-only Transformers)
• 10. ترنسفورمرهای مبتنی بر رمزگشا (Decoder-only Transformers)
• 11. ترنسفورمرهای رمزگذار-رمزگشا (Encoder-Decoder Transformers)
• 12. کاربرد ترنسفورمرها در ترجمه ماشینی
• 13. کاربرد ترنسفورمرها در خلاصه‌سازی متن
• 14. کاربرد ترنسفورمرها در تولید متن
• 15. کاربرد ترنسفورمرها در پاسخ به سوال
• 16. کاربرد ترنسفورمرها در تحلیل احساسات
• 17. کاربرد ترنسفورمرها در دسته‌بندی متن
• 18. کاربرد ترنسفورمرها در برچسب‌گذاری نهاد نام‌دار (NER)
• 19. کاربرد ترنسفورمرها در تشخیص رابطه بین نهادها
• 20. کاربرد ترنسفورمرها در پردازش گفتار
• 21. آموزش ترنسفورمرها: مجموعه داده‌ها
• 22. پیش‌پردازش داده‌ها برای ترنسفورمرها
• 23. توکنیزه کردن (Tokenization)
• 24. توکنیزه کردن مبتنی بر واژگان (Word-based Tokenization)
• 25. توکنیزه کردن مبتنی بر زیرواژگان (Subword Tokenization)
• 26. Byte Pair Encoding (BPE)
• 27. WordPiece
• 28. SentencePiece
• 29. تنظیمات و هایپرپارامترهای ترنسفورمرها
• 30. بهینه‌سازی (Optimization) در آموزش ترنسفورمرها
• 31. نرخ یادگیری (Learning Rate)
• 32. کاهش نرخ یادگیری (Learning Rate Scheduling)
• 33. تنظیم‌کننده‌ها (Regularization)
• 34. کاهش احتمال (Dropout)
• 35. نرمال‌سازی دسته‌ای (Batch Normalization)
• 36. نرمال‌سازی لایه‌ای (Layer Normalization)
• 37. استفاده از GPU و TPU برای آموزش
• 38. موازی‌سازی داده‌ها (Data Parallelism)
• 39. موازی‌سازی مدل (Model Parallelism)
• 40. موازی‌سازی تانسور (Tensor Parallelism)
• 41. موازی‌سازی خط لوله (Pipeline Parallelism)
• 42. کاربرد ترنسفورمرها در بینایی ماشین
• 43. بینایی ماشین با ترنسفورمرها: مبانی
• 44. Vision Transformer (ViT)
• 45. کاربرد ViT در دسته‌بندی تصاویر
• 46. کاربرد ViT در تشخیص اشیاء
• 47. کاربرد ViT در قطعه‌بندی تصاویر (Image Segmentation)
• 48. کاربرد ViT در تولید تصاویر
• 49. ترنسفورمرها در حوزه‌های دیگر
• 50. ترنسفورمرها در پردازش سیگنال
• 51. ترنسفورمرها در مدل‌سازی سری‌های زمانی
• 52. ترنسفورمرها در هوش مصنوعی مولد
• 53. ملاحظات اخلاقی در هوش مصنوعی و ترنسفورمرها
• 54. سوگیری در مدل‌های زبانی بزرگ
• 55. حریم خصوصی در داده‌های آموزشی
• 56. شفافیت و قابلیت توضیح‌پذیری مدل‌ها
• 57. امنیت مدل‌های ترنسفورمر
• 58. کاربردهای امن ترنسفورمرها در نظام جمهوری اسلامی ایران
• 59. پردازش زبان فارسی با ترنسفورمرها
• 60. شبکه‌های عصبی کانولوشنی (CNN) در مقابل ترنسفورمرها
• 61. شبکه‌های عصبی بازگشتی (RNN) در مقابل ترنسفورمرها
• 62. مزایا و معایب معماری ترنسفورمر
• 63. ترنسفورمرهای کوچک‌تر و کارآمدتر
• 64. تکنیک‌های کوانتیزاسیون (Quantization)
• 65. هرس کردن (Pruning) مدل‌ها
• 66. ترنسفورمرهای توزیع‌شده (Distributed Transformers)
• 67. کاربرد ترنسفورمرها در سیستم‌های توصیه‌گر
• 68. ترنسفورمرها در بازیابی اطلاعات
• 69. ترنسفورمرها در استخراج اطلاعات
• 70. ترنسفورمرها در تولید کد
• 71. ترنسفورمرها در رباتیک
• 72. کاربرد ترنسفورمرها در سلامت و پزشکی
• 73. پردازش اسناد پزشکی با ترنسفورمرها
• 74. تشخیص بیماری با ترنسفورمرها
• 75. تولید دارو با ترنسفورمرها
• 76. ترنسفورمرهای چندوجهی (Multimodal Transformers)
• 77. ترکیب متن و تصویر در ترنسفورمرها
• 78. ترکیب متن و صدا در ترنسفورمرها
• 79. ترنسفورمرهای گراف (Graph Transformers)
• 80. کاربرد ترنسفورمرها در علم مواد
• 81. ترنسفورمرها در شیمی محاسباتی
• 82. ترنسفورمرها در مدل‌سازی مولکولی
• 83. ملاحظات حقوقی و شرعی در استفاده از هوش مصنوعی
• 84. اصول فقهی در حوزه فناوری اطلاعات
• 85. قوانین و مقررات مربوط به محتوای دیجیتال
• 86. مسئولیت‌پذیری در توسعه و به‌کارگیری هوش مصنوعی
• 87. موازین شرعی در پردازش داده‌ها
• 88. امنیت سایبری و حفاظت از اطلاعات در چارچوب قوانین
• 89. استانداردهای بومی‌سازی فناوری‌های نوین
• 90. توسعه نرم‌افزارهای بومی مبتنی بر ترنسفورمر
• 91. کاربرد ترنسفورمرها در آموزش مجازی
• 92. ارزیابی عملکرد مدل‌های ترنسفورمر
• 93. معیارهای ارزیابی در پردازش زبان طبیعی
• 94. معیارهای ارزیابی در بینایی ماشین
• 95. مقایسه مدل‌های مختلف ترنسفورمر
• 96. آینده ترنسفورمرها و هوش مصنوعی
• 97. ترنسفورمرهای خودبازگشتی (Autoregressive Transformers)
• 98. ترنسفورمرهای مبتنی بر رویداد (Event-based Transformers)
• 99. ترنسفورمرهای کوانتومی (Quantum Transformers)
• 100. یادگیری تقویتی با ترنسفورمرها