فلش‌کارت‌های آموزشی ساخت شبکه‌های عصبی مقیاس‌پذیر با PyTorch

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره ساخت شبکه‌های عصبی مقیاس‌پذیر با PyTorch

موضوع کلی: یادگیری ماشین

موضوع میانی: شبکه‌های عصبی

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر یادگیری عمیق و PyTorch
• 2. نصب و راه‌اندازی PyTorch: محیط توسعه و پیش‌نیازها
• 3. مفاهیم پایه تانسورها در PyTorch
• 4. عملیات پایه با تانسورها: ریاضیات و دستکاری
• 5. گرادیان و انتشار پس‌رو (Backpropagation)
• 6. بهینه‌سازها در PyTorch: SGD، Adam، RMSprop
• 7. ساخت اولین شبکه عصبی ساده با PyTorch
• 8. مجموعه‌داده‌ها و Data Loaderها در PyTorch
• 9. پیش‌پردازش داده‌ها: نرمال‌سازی، استانداردسازی
• 10. ساخت مدل‌های شبکه عصبی سفارشی
• 11. لایه‌های خطی (Linear Layers) و توابع فعال‌سازی
• 12. شبکه‌های عصبی کانولوشنی (CNN) برای پردازش تصویر
• 13. معماری‌های معروف CNN: LeNet، AlexNet، VGG
• 14. شبکه‌های عصبی بازگشتی (RNN) برای پردازش دنباله
• 15. معماری‌های RNN: LSTM، GRU
• 16. پیاده‌سازی شبکه‌های LSTM برای پیش‌بینی سری زمانی
• 17. شبکه‌های مولد تخاصمی (GAN) و کاربردهای آن
• 18. ساخت یک GAN ساده برای تولید تصاویر
• 19. تنظیم هایپرپارامترها: یادگیری نرخ، اندازه دسته‌ای
• 20. Regularization: L1، L2، Dropout
• 21. ذخیره و بارگیری مدل‌های PyTorch
• 22. استفاده از CUDA برای آموزش سریع‌تر مدل‌ها
• 23. Parallel Data Loading و Distributed Training
• 24. مدل‌های از پیش آموزش‌دیده (Pre-trained Models) در PyTorch
• 25. Fine-tuning مدل‌های از پیش آموزش‌دیده
• 26. انتقال یادگیری (Transfer Learning)
• 27. پیاده‌سازی Autoencoders برای کاهش ابعاد
• 28. تشخیص ناهنجاری با Autoencoders
• 29. شبکه‌های عصبی ترانسفورمر (Transformers)
• 30. مکانیسم توجه (Attention Mechanism)
• 31. پیاده‌سازی یک Transformer ساده
• 32. کاربرد Transformers در پردازش زبان طبیعی (NLP)
• 33. مدل‌های زبانی بزرگ (LLMs) و PyTorch
• 34. استفاده از Hugging Face Transformers
• 35. بهینه‌سازی حافظه در شبکه‌های عصبی بزرگ
• 36. Quantization و Pruning برای کاهش اندازه مدل
• 37. Monitoring و Visualization آموزش مدل
• 38. Debugging شبکه‌های عصبی در PyTorch
• 39. استقرار مدل‌های PyTorch
• 40. استفاده از TorchServe برای استقرار مدل
• 41. بهینه‌سازی مدل برای استقرار روی دستگاه‌های محدود
• 42. مدیریت نسخه مدل و آزمایش‌ها
• 43. بهترین روش‌ها برای ساخت شبکه‌های عصبی مقیاس‌پذیر
• 44. مقیاس‌بندی مدل‌ها با استفاده از تکنیک‌های موازی
• 45. استفاده از TensorBoard برای Visualization
• 46. استفاده از Weights & Biases برای Tracking آزمایش‌ها