دوره بهینه‌سازی عملکرد شبکه‌های عصبی با ریاضیات همراه با فلش‌کارت آموزشی — ارائه روی فلش مموری

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره بهینه‌سازی عملکرد شبکه‌های عصبی با ریاضیات

موضوع کلی: مدل‌سازی ریاضی پدیده‌های پیچیده

موضوع میانی: مدل‌سازی مدل‌های بهینه‌سازی استراتژی‌های ارائه خدمات مهندسی هوش مصنوعی در توسعه شبکه‌های عصبی

📋 سرفصل‌های دوره

• 1. بهینه‌سازی گرادیان کاهشی
• 2. محاسبه مشتقات توابع فعال‌سازی
• 3. مقدمه‌ای بر جبر خطی در شبکه‌های عصبی
• 4. بردارها و ماتریس‌ها در یادگیری عمیق
• 5. ضرب ماتریسی و کاربردهای آن
• 6. فضای برداری و زیرفضاها
• 7. مقادیر ویژه و بردارهای ویژه
• 8. تجزیه مقادیر منفرد (SVD)
• 9. مفاهیم پایه‌ای حساب دیفرانسیل و انتگرال
• 10. مشتق‌گیری از توابع چند متغیره
• 11. قاعده زنجیره‌ای در شبکه‌های عصبی
• 12. بهینه‌سازی محدب و غیرمحدب
• 13. الگوریتم‌های بهینه‌سازی محلی
• 14. الگوریتم نیوتن-رافسون
• 15. روش‌های شبه‌نیوتن (BFGS, L-BFGS)
• 16. تنظیم نرخ یادگیری
• 17. تکنیک‌های مومنتوم و Adam
• 18. نرمال‌سازی دسته‌ای (Batch Normalization)
• 19. رگولاریزاسیون L1 و L2
• 20. dropout و جلوگیری از بیش‌برازش
• 21. شبکه‌های عصبی بازگشتی (RNN) و گرادیان محو شونده
• 22. طراحی معماری‌های شبکه عصبی
• 23. انتخاب تابع فعال‌سازی مناسب
• 24. مقایسه توابع فعال‌سازی (Sigmoid, ReLU, Tanh)
• 25. شبکه‌های عصبی پیچشی (CNN) و عملیات کانولوشن
• 26. استفاده از جبر خطی در عملیات کانولوشن
• 27. لایه pooling و کاهش ابعاد
• 28. شبکه‌های مولد تخاصمی (GAN) و تابع زیان
• 29. بهینه‌سازی GANها و جلوگیری از ناپایداری
• 30. یادگیری تقویتی و الگوریتم Q-learning
• 31. مشتق‌گیری در یادگیری تقویتی
• 32. توابع سیاست گرادیان
• 33. بهینه‌سازی توابع سیاست در یادگیری تقویتی
• 34. شبکه‌های عصبی عمیق (DNN) و چالش‌های بهینه‌سازی
• 35. بهینه‌سازی موازی شبکه‌های عصبی
• 36. استفاده از GPU برای تسریع آموزش
• 37. محاسبه گرادیان در شبکه‌های بزرگ
• 38. تکنیک‌های کاهش حافظه در آموزش شبکه‌های عصبی
• 39. کمینه‌سازی تصادفی (Stochastic Gradient Descent)
• 40. بهینه‌سازی دسته‌ای (Batch Optimization)
• 41. بهینه‌سازی مینی‌دسته‌ای (Mini-Batch Optimization)
• 42. بهینه‌سازی توزیع‌شده (Distributed Optimization)
• 43. تکنیک‌های پیش‌پردازش داده‌ها برای شبکه‌های عصبی
• 44. انتخاب ویژگی و کاهش ابعاد
• 45. ارزیابی عملکرد شبکه‌های عصبی