فلش‌کارت‌های آموزشی تسلط بر مکانیسم‌های توجه و خود-توجه در شبکه‌های عصبی

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره تسلط بر مکانیسم‌های توجه و خود-توجه در شبکه‌های عصبی

موضوع کلی: یادگیری ماشین و هوش مصنوعی

موضوع میانی: شبکه‌های عصبی عمیق

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر شبکه‌های عصبی و یادگیری ماشین
• 2. شبکه‌های عصبی پیش‌خور و کاربردهای آن‌ها
• 3. شبکه‌های عصبی بازگشتی و پردازش زبان طبیعی
• 4. مکانیسم توجه: یک نمای کلی
• 5. توجه در شبکه‌های عصبی ترتیبی
• 6. محاسبه وزن‌های توجه
• 7. انواع مختلف مکانیسم‌های توجه
• 8. خود-توجه: معرفی و مفاهیم کلیدی
• 9. خود-توجه مقیاس‌بندی‌شده
• 10. چند-سر توجه: معماری و مزایا
• 11. پیاده‌سازی خود-توجه با استفاده از TensorFlow
• 12. پیاده‌سازی خود-توجه با استفاده از PyTorch
• 13. مکانیسم‌های توجه در ترجمه ماشینی
• 14. مکانیسم‌های توجه در خلاصه‌سازی متن
• 15. مکانیسم‌های توجه در تشخیص گفتار
• 16. توجه در مدل‌های تصویر
• 17. شبکه‌های عصبی کانولوشنال و توجه
• 18. توجه فضایی در شبکه‌های عصبی کانولوشنال
• 19. توجه کانالی در شبکه‌های عصبی کانولوشنال
• 20. ترکیب توجه فضایی و کانالی
• 21. مکانیسم‌های توجه در تشخیص اشیا
• 22. مدل‌های مبتنی بر توجه برای تشخیص اشیا
• 23. شبکه‌های ترانسفورمر: معرفی و معماری
• 24. انکودر و دیکودر در شبکه‌های ترانسفورمر
• 25. مکانیسم خود-توجه در ترانسفورمرها
• 26. لایه‌های Feedforward در ترانسفورمرها
• 27. آموزش شبکه‌های ترانسفورمر
• 28. کاربردهای ترانسفورمر در پردازش زبان طبیعی
• 29. مدل BERT و مشتقات آن
• 30. مدل GPT و تولید متن
• 31. توجه در شبکه‌های عصبی گراف
• 32. شبکه‌های عصبی گراف و یادگیری بازنمایی
• 33. توجه در شبکه‌های عصبی گراف برای طبقه‌بندی گره
• 34. توجه در شبکه‌های عصبی گراف برای پیش‌بینی پیوند
• 35. مکانیسم‌های توجه در پردازش سیگنال‌های زمانی
• 36. توجه در شبکه‌های عصبی تکراری برای پیش‌بینی سری‌های زمانی
• 37. توجه در شبکه‌های عصبی کانولوشنال برای پردازش سیگنال
• 38. توجه و یادگیری تقویتی
• 39. مدل‌های Q مبتنی بر توجه
• 40. سیاست‌های مبتنی بر توجه در یادگیری تقویتی
• 41. مکانیسم‌های توجه در یادگیری چندوجهی
• 42. ادغام اطلاعات متنی و تصویری با استفاده از توجه
• 43. ادغام اطلاعات صوتی و تصویری با استفاده از توجه
• 44. تفسیرپذیری مدل‌های مبتنی بر توجه
• 45. تجسم وزن‌های توجه
• 46. استخراج دانش از مکانیسم‌های توجه
• 47. بهینه‌سازی مکانیسم‌های توجه
• 48. روش‌های کاهش پیچیدگی محاسباتی توجه
• 49. تکنیک‌های بهبود دقت مکانیسم‌های توجه
• 50. مکانیسم‌های توجه در یادگیری بدون نظارت
• 51. خود-رمزگذارها و توجه
• 52. مدل‌های مولد مبتنی بر توجه
• 53. مکانیسم‌های توجه در پردازش داده‌های سری زمانی طولانی
• 54. توجه رقیق‌شده (Sparse Attention)
• 55. توجه محلی (Local Attention)
• 56. مکانیسم‌های توجه در شبکه‌های عصبی حافظه بلندمدت (LSTM)
• 57. مکانیسم‌های توجه در شبکه‌های عصبی گیت‌گذاری بازگشتی (GRU)
• 58. کاربردهای پیشرفته مکانیسم‌های توجه در پردازش زبان طبیعی
• 59. کاربردهای پیشرفته مکانیسم‌های توجه در بینایی ماشین
• 60. مکانیسم‌های توجه در پردازش ویدئو
• 61. مکانیسم‌های توجه در تشخیص فعالیت انسان
• 62. مکانیسم‌های توجه در رباتیک
• 63. چالش‌ها و آینده مکانیسم‌های توجه در هوش مصنوعی