دوره بهینه‌سازی با گرادیان: تئوری و کاربرد همراه با فلش‌کارت آموزشی — ارائه روی فلش مموری

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره بهینه‌سازی با گرادیان: تئوری و کاربرد

موضوع کلی: یادگیری ماشین و بهینه‌سازی

موضوع میانی: هوش مصنوعی مولد (Generative AI) و بهینه‌سازی

📋 سرفصل‌های دوره

• 1. بهینه‌سازی با گرادیان: مفاهیم پایه
• 2. گرادیان و مشتقات جزئی
• 3. محاسبه گرادیان در ابعاد مختلف
• 4. روش‌های یافتن کمینه و بیشینه توابع
• 5. نزول گرادیان: الگوریتم اصلی
• 6. نرخ یادگیری در نزول گرادیان
• 7. انتخاب نرخ یادگیری مناسب
• 8. توقف زودهنگام در نزول گرادیان
• 9. نزول گرادیان تصادفی
• 10. مزایا و معایب نزول گرادیان تصادفی
• 11. مینی‌بچ گرادیان دیسنت
• 12. بهینه‌سازی دسته‌ای در مقابل تصادفی
• 13. بهینه‌سازی توابع محدب
• 14. شرایط بهینگی برای توابع محدب
• 15. همگرایی در بهینه‌سازی
• 16. روش‌های پیشرفته نزول گرادیان
• 17. مومنتوم در بهینه‌سازی
• 18. روش Adam: ترکیبی از مزایا
• 19. روش RMSprop: تطبیق نرخ یادگیری
• 20. بهینه‌سازی L-BFGS
• 21. بهینه‌سازی با محدودیت
• 22. ضرب لاگرانژ
• 23. بهینه‌سازی درجه دوم
• 24. بهینه‌سازی با استفاده از مشتقات مرتبه دوم
• 25. کاربرد گرادیان در یادگیری ماشین
• 26. گرادیان کاهشی در شبکه‌های عصبی
• 27. پس‌انتشار خطا
• 28. بهینه‌سازی در رگرسیون لجستیک
• 29. بهینه‌سازی در ماشین‌های بردار پشتیبان
• 30. بهینه‌سازی در خوشه‌بندی K-means
• 31. بهینه‌سازی در تحلیل مولفه‌های اصلی
• 32. بهینه‌سازی توابع هدف غیر محدب
• 33. نقاط زینی و چالش‌های بهینه‌سازی
• 34. روش‌های فرار از نقاط زینی
• 35. بهینه‌سازی سراسری در مقابل محلی
• 36. جستجوی تصادفی
• 37. الگوریتم‌های تکاملی
• 38. بهینه‌سازی چند هدفه
• 39. بهینه‌سازی در داده‌های بزرگ
• 40. تکنیک‌های موازی‌سازی
• 41. استفاده از GPU برای بهینه‌سازی
• 42. بهینه‌سازی توابع هدف با نویز
• 43. روش‌های فیلتر کردن نویز
• 44. کاربردهای عملی بهینه‌سازی گرادیان در مهندسی
• 45. بهینه‌سازی در کنترل فرایندها