اپلیکیشن اندرویدی فلش‌کارت آموزشی بهینه‌سازی شبکه‌های عصبی

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره بهینه‌سازی شبکه‌های عصبی

موضوع کلی: تاریخ علوم کامپیوتر و برنامه‌نویسی

موضوع میانی: شبکه‌های عصبی مصنوعی (اولیه)

📋 سرفصل‌های دوره

• 1. بهینه‌سازی شبکه‌های عصبی
• 2. مقدمه‌ای بر شبکه‌های عصبی مصنوعی
• 3. معماری‌های پایه شبکه‌های عصبی
• 4. تابع فعال‌سازی و انواع آن
• 5. انتشار پس‌رو (Backpropagation) و گرادیان کاهشی
• 6. نرخ یادگیری و تنظیم آن
• 7. روش‌های بهینه‌سازی گرادیان کاهشی
• 8. گرادیان کاهشی تصادفی (SGD)
• 9. گرادیان کاهشی دسته‌ای (Batch Gradient Descent)
• 10. گرادیان کاهشی مینی‌باتی (Mini-Batch Gradient Descent)
• 11. الگوریتم‌های بهینه‌سازی پیشرفته: Momentum
• 12. الگوریتم‌های بهینه‌سازی پیشرفته: AdaGrad
• 13. الگوریتم‌های بهینه‌سازی پیشرفته: RMSProp
• 14. الگوریتم‌های بهینه‌سازی پیشرفته: Adam
• 15. مقایسه الگوریتم‌های بهینه‌سازی
• 16. تنظیم بیشینه (Overfitting) و تنظیم کمینه (Underfitting)
• 17. روش‌های جلوگیری از تنظیم بیشینه: Regularization L1
• 18. روش‌های جلوگیری از تنظیم بیشینه: Regularization L2
• 19. روش‌های جلوگیری از تنظیم بیشینه: Dropout
• 20. روش‌های جلوگیری از تنظیم بیشینه: Early Stopping
• 21. اعتبارسنجی متقابل (Cross-Validation)
• 22. بهینه‌سازی پارامترهای هایپر (Hyperparameter Tuning)
• 23. جستجوی شبکه‌ای (Grid Search)
• 24. جستجوی تصادفی (Random Search)
• 25. بهینه‌سازی بیزی (Bayesian Optimization)
• 26. شبکه‌های عصبی پیچشی (CNN) و بهینه‌سازی آن‌ها
• 27. لایه کانولوشن و بهینه‌سازی پارامترهای آن
• 28. لایه تجمیع (Pooling) و انواع آن
• 29. شبکه‌های عصبی بازگشتی (RNN) و بهینه‌سازی آن‌ها
• 30. مشکل محو شدن گرادیان در RNNها
• 31. شبکه‌های حافظه طولانی کوتاه‌مدت (LSTM) و بهینه‌سازی
• 32. واحد تکراری دروازه‌ای (GRU) و بهینه‌سازی
• 33. شبکه‌های مولد تخاصمی (GAN) و بهینه‌سازی
• 34. تابع هزینه در GANها
• 35. بهینه‌سازی شبکه‌های عصبی با استفاده از سخت‌افزار تخصصی (GPU)
• 36. بهینه‌سازی مصرف انرژی در شبکه‌های عصبی
• 37. بهینه‌سازی شبکه‌های عصبی برای دستگاه‌های موبایل
• 38. بهینه‌سازی شبکه‌های عصبی برای اینترنت اشیا (IoT)
• 39. تکنیک‌های کوانتیزاسیون (Quantization)
• 40. تکنیک‌های هرس (Pruning)
• 41. تکنیک‌های تقطیر دانش (Knowledge Distillation)
• 42. بهینه‌سازی معماری شبکه‌های عصبی با استفاده از جستجوی معماری عصبی (NAS)
• 43. استفاده از کتابخانه‌های بهینه‌سازی شبکه‌های عصبی (TensorFlow, PyTorch)
• 44. بهینه‌سازی شبکه عصبی برای داده‌های نامتوازن
• 45. بهینه‌سازی شبکه‌های عصبی برای داده‌های پر ابعاد