فلش‌کارت‌های آموزشی کوانتیزاسیون مدل‌های زبانی بزرگ و استنتاج با زمان‌اجرای ONNX

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره کوانتیزاسیون مدل‌های زبانی بزرگ و استنتاج با زمان‌اجرای ONNX

موضوع کلی: هوش مصنوعی و مهندسی نرم‌افزار

موضوع میانی: بهینه‌سازی و استقرار مدل‌های هوش مصنوعی

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر مهندسی نرم‌افزار و هوش مصنوعی
• 2. مبانی هوش مصنوعی و یادگیری ماشین
• 3. معماری مدل‌های زبانی بزرگ (LLMs)
• 4. مفاهیم کوانتیزاسیون در یادگیری ماشین
• 5. اهمیت کوانتیزاسیون برای مدل‌های زبانی
• 6. کوانتیزاسیون و کاهش حجم مدل
• 7. کوانتیزاسیون و افزایش سرعت استنتاج
• 8. انواع روش‌های کوانتیزاسیون (INT8، FP16 و غیره)
• 9. کوانتیزاسیون با دقت پایین (Low-Precision Quantization)
• 10. کوانتیزاسیون مبتنی بر وزن (Weight-only Quantization)
• 11. کوانتیزاسیون مبتنی بر فعال‌سازی (Activation Quantization)
• 12. کوانتیزاسیون پس از آموزش (Post-Training Quantization)
• 13. کوانتیزاسیون حین آموزش (Quantization-Aware Training)
• 14. چالش‌های کوانتیزاسیون در مدل‌های زبانی بزرگ
• 15. تأثیر کوانتیزاسیون بر دقت مدل
• 16. روش‌های ارزیابی دقت مدل‌های کوانتیزه شده
• 17. مقدمه‌ای بر زمان‌اجرای ONNX (ONNX Runtime)
• 18. معماری ONNX Runtime
• 19. مزایای استفاده از ONNX Runtime
• 20. نصب و راه‌اندازی ONNX Runtime
• 21. تبدیل مدل‌های زبانی به فرمت ONNX
• 22. استفاده از ابزارهای تبدیل ONNX
• 23. بهینه‌سازی مدل‌ها برای ONNX Runtime
• 24. مراحل استنتاج با ONNX Runtime
• 25. اجرای مدل‌های کوانتیزه شده با ONNX Runtime
• 26. بهینه‌سازی سخت‌افزار برای استنتاج ONNX
• 27. استفاده از شتاب‌دهنده‌های سخت‌افزاری
• 28. کوانتیزاسیون و استقرار مدل‌های زبانی در لبه (Edge)
• 29. کاربرد کوانتیزاسیون در دستگاه‌های موبایل
• 30. کاربرد کوانتیزاسیون در اینترنت اشیاء (IoT)
• 31. مدیریت چرخه عمر مدل‌های هوش مصنوعی (LLMOps)
• 32. مراحل LLMOps
• 33. اهمیت LLMOps برای تولیدکنندگان
• 34. پایش و مانیتورینگ مدل‌های هوش مصنوعی
• 35. مدیریت نسخه مدل‌ها
• 36. استقرار مدل‌ها در محیط‌های عملیاتی
• 37. مکانیسم‌های بازخورد برای بهبود مدل
• 38. اتوماسیون فرآیندهای LLMOps
• 39. ابزارهای LLMOps
• 40. فریم‌ورک‌های LLMOps
• 41. یکپارچه‌سازی LLMOps با CI/CD
• 42. ملاحظات امنیتی در LLMOps
• 43. حفاظت از داده‌ها در فرآیندهای LLMOps
• 44. مدیریت خطاهای مدل
• 45. تکنیک‌های اشکال‌زدایی مدل‌های زبانی
• 46. ارزیابی عملکرد مدل در زمان اجرا
• 47. مقایسه عملکرد مدل‌های مختلف
• 48. انتخاب بهترین مدل برای استقرار
• 49. استفاده از مدل‌های کوچک‌تر و بهینه‌تر
• 50. چالش‌های مقیاس‌پذیری در LLMOps
• 51. استراتژی‌های مقیاس‌پذیری
• 52. استقرار مدل‌ها در مقیاس بزرگ
• 53. ملاحظات مربوط به هزینه‌ها در LLMOps
• 54. بهینه‌سازی هزینه‌های محاسباتی
• 55. بهینه‌سازی هزینه‌های ذخیره‌سازی
• 56. بهینه‌سازی هزینه‌های انتقال داده
• 57. ارزیابی تأثیرات زیست‌محیطی در LLMOps
• 58. مدل‌های هوش مصنوعی و پایداری
• 59. کاهش مصرف انرژی در استنتاج
• 60. مقدمه‌ای بر اخلاق در هوش مصنوعی
• 61. مسئولیت‌پذیری در هوش مصنوعی
• 62. شفافیت در مدل‌های هوش مصنوعی
• 63. انصاف در هوش مصنوعی
• 64. حریم خصوصی و هوش مصنوعی
• 65. تأثیرات اجتماعی هوش مصنوعی
• 66. آینده LLMOps
• 67. پیشرفت‌های آینده در کوانتیزاسیون
• 68. توسعه زمان‌اجراهای بهینه‌تر
• 69. نوآوری در ابزارهای LLMOps
• 70. نقش هوش مصنوعی در مهندسی نرم‌افزار
• 71. کاربرد LLMs در توسعه نرم‌افزار
• 72. تولید کد با LLMs
• 73. تست نرم‌افزار با LLMs
• 74. مستندسازی نرم‌افزار با LLMs
• 75. بهبود کیفیت نرم‌افزار با LLMs
• 76. مقدمه‌ای بر زبان برنامه‌نویسی پایتون
• 77. ساختار داده‌ها در پایتون
• 78. الگوریتم‌ها در پایتون
• 79. مفاهیم شی‌گرایی در پایتون
• 80. کتابخانه‌های کلیدی برای هوش مصنوعی در پایتون
• 81. NumPy و پردازش آرایه‌ها
• 82. Pandas و تحلیل داده‌ها
• 83. Matplotlib و مصورسازی داده‌ها
• 84. Scikit-learn و یادگیری ماشین
• 85. TensorFlow و PyTorch برای یادگیری عمیق
• 86. استفاده از TensorFlow Lite برای استقرار
• 87. استفاده از PyTorch Mobile برای استقرار
• 88. مقدمه‌ای بر مفاهیم گرافیکی در ONNX
• 89. بهینه‌سازی‌های مخصوص سخت‌افزار
• 90. مدیریت حافظه در زمان استنتاج
• 91. تکنیک‌های پیشرفته کوانتیزاسیون
• 92. کوانتیزاسیون ترکیبی (Hybrid Quantization)
• 93. کوانتیزاسیون با استفاده از یادگیری تقویتی
• 94. کوانتیزاسیون پویا (Dynamic Quantization)
• 95. کوانتیزاسیون استاتیک (Static Quantization)
• 96. ارزیابی ریسک در استقرار مدل‌ها
• 97. مدیریت ریسک‌های عملیاتی
• 98. برنامه‌ریزی بازیابی فاجعه
• 99. استانداردهای صنعتی در LLMOps
• 100. بهترین شیوه‌ها در LLMOps