فلش‌کارت‌های آموزشی تعمیم‌دهی دشوار و بهینه‌سازی آسان: رویکردهای مدرن

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره تعمیم‌دهی دشوار و بهینه‌سازی آسان: رویکردهای مدرن

موضوع کلی: یادگیری ماشین و بهینه‌سازی

موضوع میانی: مدل‌سازی پیشرفته و تعمیم‌پذیری

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر تعمیم‌پذیری در یادگیری ماشین
• 2. بیش‌برازش و کم‌برازش: مفاهیم و تشخیص
• 3. تکنیک‌های منظم‌سازی L1 و L2
• 4. منظم‌سازی با Dropout
• 5. Early Stopping و جلوگیری از بیش‌برازش
• 6. اعتبارسنجی متقابل (Cross-Validation)
• 7. انتخاب ویژگی (Feature Selection) و اهمیت آن
• 8. روش‌های فیلتر، Wrapper و Embedded در انتخاب ویژگی
• 9. کاهش ابعاد با PCA
• 10. کاهش ابعاد با t-SNE
• 11. مقدمه‌ای بر یادگیری نیمه‌نظارتی
• 12. یادگیری انتقالی (Transfer Learning)
• 13. Fine-tuning مدل‌های پیش‌آموزش‌دیده
• 14. داده‌های مصنوعی (Data Augmentation)
• 15. تکنیک‌های تولید داده‌های مصنوعی
• 16. یادگیری فعال (Active Learning)
• 17. انتخاب نمونه‌های آموزشی با استفاده از عدم قطعیت
• 18. روش‌های Ensemble Learning: Bagging
• 19. روش‌های Ensemble Learning: Boosting
• 20. روش‌های Ensemble Learning: Random Forest
• 21. بررسی الگوریتم‌های Boosting: AdaBoost، Gradient Boosting
• 22. بررسی الگوریتم‌های Boosting: XGBoost، LightGBM
• 23. بهینه‌سازی توابع هزینه با گرادیان کاهشی
• 24. روش‌های گرادیان کاهشی: Batch Gradient Descent، Stochastic Gradient Descent
• 25. روش‌های گرادیان کاهشی: Mini-Batch Gradient Descent
• 26. الگوریتم‌های بهینه‌سازی: Momentum
• 27. الگوریتم‌های بهینه‌سازی: AdaGrad
• 28. الگوریتم‌های بهینه‌سازی: RMSprop
• 29. الگوریتم‌های بهینه‌سازی: Adam
• 30. تنظیم نرخ یادگیری (Learning Rate Scheduling)
• 31. بهینه‌سازی سطح اول و سطح دوم
• 32. روش‌های بهینه‌سازی تصادفی
• 33. مقدمه‌ای بر بهینه‌سازی محدب
• 34. شرایط بهینگی در توابع محدب
• 35. روش‌های نقطه داخلی (Interior Point Methods)
• 36. روش‌های نیوتن (Newton's Methods)
• 37. روش‌های شبه‌نیوتن (Quasi-Newton Methods)
• 38. بهینه‌سازی غیرمحدب: چالش‌ها و راهکارها
• 39. نقطه‌های زینی (Saddle Points) و مشکل آنها
• 40. روش‌های فرار از نقاط زینی
• 41. بهینه‌سازی تصادفی (Stochastic Optimization) در شبکه‌های عصبی
• 42. Gradient Clipping و جلوگیری از انفجار گرادیان
• 43. Batch Normalization و بهبود فرایند آموزش
• 44. Layer Normalization و کاربردهای آن
• 45. Weight Decay و منظم‌سازی وزن‌ها
• 46. Dropout در لایه‌های مختلف شبکه
• 47. مقدمه‌ای بر بهینه‌سازی توزیع‌شده
• 48. Data Parallelism و Model Parallelism
• 49. استفاده از GPU و TPU در یادگیری ماشین
• 50. بهینه‌سازی حافظه در شبکه‌های عمیق
• 51. Quantization و کاهش دقت محاسبات
• 52. Pruning و حذف اتصالات غیرضروری
• 53. یادگیری ماشین فدرال (Federated Learning)
• 54. حریم خصوصی تفاضلی (Differential Privacy)
• 55. مقدمه‌ای بر بهینه‌سازی مقاوم (Robust Optimization)
• 56. حملات خصمانه (Adversarial Attacks)
• 57. دفاع در برابر حملات خصمانه
• 58. تفسیرپذیری مدل‌های یادگیری ماشین
• 59. روش‌های LIME و SHAP
• 60. اهمیت ویژگی‌ها و تحلیل حساسیت
• 61. بررسی اثرات تغییرات ورودی بر خروجی مدل
• 62. استفاده از Visualization برای درک مدل
• 63. تشخیص و رفع مشکلات تعمیم‌پذیری
• 64. پایش عملکرد مدل در داده‌های جدید
• 65. به‌روزرسانی مدل با داده‌های جدید
• 66. انتخاب معماری شبکه مناسب
• 67. جستجوی هایپرپارامتر (Hyperparameter Tuning)
• 68. استفاده از Bayesian Optimization برای تنظیم هایپرپارامتر
• 69. مقدمه‌ای بر یادگیری تقویتی (Reinforcement Learning)
• 70. Q-Learning و Deep Q-Networks
• 71. Policy Gradient Methods
• 72. استفاده از یادگیری تقویتی در مسائل بهینه‌سازی
• 73. کاربردهای یادگیری ماشین در علوم داده
• 74. کاربردهای یادگیری ماشین در پردازش تصویر
• 75. کاربردهای یادگیری ماشین در پردازش زبان طبیعی
• 76. کاربردهای یادگیری ماشین در تشخیص تقلب
• 77. کاربردهای یادگیری ماشین در سیستم‌های توصیه‌گر