فلش‌کارت‌های آموزشی رمزگشایی کارآمدی یادگیر ماشین: از تئوری تا استقرار عملی مدل‌های بهینه

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره رمزگشایی کارآمدی یادگیر ماشین: از تئوری تا استقرار عملی مدل‌های بهینه

موضوع کلی: یادگیر ماشین و هوش مصنوعی

موضوع میانی: بهینه‌سازی و کارآمدی مدل‌های یادگیری ماشین

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر کارآمدی در یادگیر ماشین
• 2. چرا کارآمدی مهم است: هزینهٔ محاسباتی مدل‌ها
• 3. پارامترها، FLOPs و مقیاس مدل‌ها
• 4. بازار و نیازمندی‌های واقعی یادگیری ماشین کارآمد
• 5. معماری‌های کلاسیک و محدودیت‌های آن‌ها
• 6. معرفی EfficientNet و معماری‌های بهینه
• 7. MobileNet و طراحی برای دستگاه‌های موبایل
• 8. ShuffleNet و محاسبات سبک‌وزن
• 9. SqueezeNet و فشرده‌سازی شدید مدل
• 10. مبانی فشرده‌سازی مدل (Model Compression)
• 11. کوانتیزاسیون (Quantization): از FP32 تا INT8
• 12. کوانتیزاسیون آگاه به ترازو (Quantization-Aware Training)
• 13. تقطیر دانش (Knowledge Distillation): معرفی و مفهوم
• 14. تقطیر دانش: آموزش دانش‌آموز از معلم بزرگ
• 15. پرونینگ (Pruning): حذف وزن‌های غیرضروری
• 16. پرونینگ ساختاریافته و غیرساختاریافته
• 17. مشترک‌سازی پارامترها (Parameter Sharing)
• 18. کدگذاری پایین‌رتبه (Low-Rank Factorization)
• 19. مولدهای هندسی معماری (Neural Architecture Search)
• 20. NAS با پادکار مورفورک
• 21. NAS با تشدید انگلش (Evolutionary Methods)
• 22. معماری‌های کارآمد خاص: EfficientNetV2
• 23. معماری‌های کارآمد خاص: MobileNetV3
• 24. معماری‌های کارآمد خاص: GhostNet
• 25. معماری‌های کارآمد خاص: RegNet
• 26. معماری‌های کارآمد خاص: ConvNeXt
• 27. معماری‌های کارآمد خاص: MobileViT
• 28. ترنسفورمرهای کارآمد: Efficient Attention
• 29. Linear Attention و Kernelized Attention
• 30. Performer و Linear Transformer
• 31. Sparse Attention و Longformer
• 32. موتورهای استنباط سریع: TensorRT و ONNX Runtime
• 33. بهینه‌سازی روی GPU و TPU
• 34. استنباط روی حاشیه (Edge Inference)
• 35. ابزارهای TensorFlow Lite برای موبایل
• 36. ابزارهای PyTorch Mobile و Core ML
• 37. استخراج و بهینه‌سازی مدل با TensorFlow Lite Converter
• 38. آموزش با دادهٔ کم (Data-Efficient Learning)
• 39. افزایش داده هوشمند (Smart Data Augmentation)
• 40. خودکار آموزش مدل (AutoML) برای کارآمدی
• 41. مدیریه حافظه در آموزش عمیق
• 42. آموزش با Batch Size بزرگ (LARS, LAMB)
• 43. Mixed Precision Training
• 44. Gradient Checkpointing و آموزش با حافظهٔ کم
• 45. توزیع‌پذیری آموزش (Distributed Training)
• 46. FPGAs و ASICs برای استنباط کارآمد
• 47. NPUها و هاردور سفارشی برای ML
• 48. اندازه‌گیری کارآمدی: مقایسهٔ مدل‌ها
• 49. benchmark و رتبه‌بندی مدل‌ها (ImageNet, MLPerf)
• 50. بهینه‌سازی هایپرپارامتر برای سرعت
• 51. آموزش تدریجی (Curriculum Learning)
• 52. Transfer Learning و فاین‌تیونینگ کارآمد
• 53. Fine-tuning با LoRA و Adapter Layers
• 54. کارآمدی در پردازش زبان طبیعی (NLP)
• 55. کارآمدی در بینایی ماشین (Computer Vision)
• 56. کارآمدی در گفتارشناسی (Speech)
• 57. کارآمدی در تولید متن (LLMs)
• 58. بهینه‌سازی مدل‌های زبانی بزرگ (LLM Optimization)
• 59. کوانتیزاسیون LLMها (GPTQ, AWQ)
• 60. استنباط LLM با GGUF و llama.cpp
• 61. مدل‌های ترکیبی (Ensemble) و کارآمدی
• 62. مقایسهٔ دقت و سرعت: Pareto Frontier
• 63. تعادل دقت و هزینه (Accuracy-Efficiency Tradeoff)
• 64. نمونه‌های عملی: استقرار مدل در تولید
• 65. مانیتورینگ و بهینه‌سازی مداوم مدل
• 66. چالش‌های امنیتی مدل‌های فشرده
• 67. مقاومت مدل‌ها در برابر حملات adversarial
• 68. آیندهٔ یادگیری ماشین کارآمد
• 69. استانداردهای صنعتی و بهترین شیوه‌ها
• 70. پروژهٔ نهایی: طراحی و استقرار مدل کارآمد