فلش‌کارت‌های آموزشی تسریع یادگیری ماشین با JAX: از صفر تا استادی

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره تسریع یادگیری ماشین با JAX: از صفر تا استادی

موضوع کلی: یادگیری ماشین

موضوع میانی: بهینه‌سازی و محاسبات عددی

📋 سرفصل‌های دوره

• 1. معرفی JAX و اکوسیستم آن
• 2. نصب و راه‌اندازی JAX
• 3. مفاهیم کلیدی JAX: NumPy در دنیای GPU/TPU
• 4. آرایه‌های JAX: ساخت، دستکاری و ویژگی‌ها
• 5. تبدیلات خودکار (Automatic Differentiation) در JAX: مقدمه‌ای
• 6. تبدیلات خودکار: مشتق‌گیری مرتبه بالاتر
• 7. کامپایل JAX: XLA و بهینه‌سازی کد
• 8. استفاده از `jax.jit` برای افزایش سرعت
• 9. مفهوم Functors و Vectorization در JAX
• 10. برنامه‌نویسی تابعی در JAX
• 11. مدیریت حالت (State) در JAX
• 12. آرایه‌های چندبعدی و عملیات بر روی آن‌ها
• 13. شاخص‌گذاری و برش آرایه‌ها در JAX
• 14. توابع تصادفی در JAX
• 15. ساختارهای داده JAX: PyTrees
• 16. نگاشت (Mapping) و کاهش (Reducing) در PyTrees
• 17. کار با داده‌های عددی ممیز شناور در JAX
• 18. انواع داده‌های مختلف در JAX
• 19. عملیات ریاضی پیشرفته در JAX
• 20. حل معادلات دیفرانسیل با JAX
• 21. بهینه‌سازی توابع با JAX: Gradient Descent
• 22. بهینه‌سازی: الگوریتم‌های پیشرفته (Adam, RMSprop)
• 23. ساخت شبکه‌های عصبی ساده با JAX
• 24. استفاده از JAX برای آموزش مدل‌های خطی
• 25. شبکه‌های عصبی عمیق با JAX
• 26. پیاده‌سازی لایه‌های مختلف شبکه عصبی (Dense, Conv2D, RNN)
• 27. استفاده از JAX برای آموزش مدل‌های تصویر
• 28. آموزش مدل‌های زبانی با JAX
• 29. مدل‌سازی بیزی با JAX
• 30. استفاده از JAX با Flax: مقدمه‌ای
• 31. Flax: ساخت مدل‌های عصبی با رویکرد ماژولار
• 32. Flax: مدیریت حالت و آموزش مدل
• 33. Flax: استفاده از Optimizerها
• 34. JAX و Equinox: یک رویکرد متفاوت
• 35. Equinox: تعریف مدل‌ها با استفاده از کلاس‌های پایتون
• 36. Equinox: آموزش و ارزیابی مدل
• 37. JAX و Haiku: شبکه‌های عصبی با تمرکز بر سادگی
• 38. Haiku: ساخت و آموزش مدل‌ها
• 39. JAX و Orbax: مدیریت Checkpointها و Replay
• 40. Orbax: ذخیره و بازیابی مدل‌ها
• 41. JAX و Trax: یک چارچوب برای مدل‌های ترانسفورمر
• 42. Trax: ساخت مدل‌های NLP
• 43. استفاده از JAX در محیط‌های توزیع‌شده
• 44. JAX و TPU: آموزش مدل‌های بزرگ
• 45. آشنایی با ابزارهای Profiling JAX
• 46. بهینه‌سازی عملکرد JAX: نکات و ترفندها
• 47. اشکال‌زدایی (Debugging) کدهای JAX
• 48. ادغام JAX با سایر کتابخانه‌های پایتون
• 49. آینده JAX و مسیر یادگیری