فلش‌کارت‌های آموزشی استقرار مدل‌های زبان بزرگ (LLMs) با بهینه‌سازی 4 بیتی در پردازنده‌های مرکزی (CPU) با استفاده از C# و ONNX

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره استقرار مدل‌های زبان بزرگ (LLMs) با بهینه‌سازی 4 بیتی در پردازنده‌های مرکزی (CPU) با استفاده از C# و ONNX

موضوع کلی: هوش مصنوعی و یادگیری ماشین

موضوع میانی: استقرار مدل‌های زبان بزرگ (LLMs)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر هوش مصنوعی و یادگیری ماشین
• 2. اصول اولیه یادگیری ماشین
• 3. معرفی مدل‌های زبان بزرگ (LLMs)
• 4. معماری ترنسفورمر و LLMs
• 5. کاربردها و قابلیت‌های LLMs
• 6. چالش‌های استقرار LLMs
• 7. مفهوم استقرار مدل (Model Deployment)
• 8. اهمیت بهینه‌سازی مدل‌ها
• 9. مقدمه‌ای بر بهینه‌سازی 4 بیتی
• 10. مزایای کوانتیزاسیون 4 بیتی
• 11. معرفی فرمت ONNX
• 12. مزایای استفاده از ONNX
• 13. استفاده از ONNX برای LLMs
• 14. مقدمه‌ای بر زبان برنامه‌نویسی C#
• 15. کاربرد C# در توسعه نرم‌افزار
• 16. محیط توسعه Visual Studio
• 17. مبانی کار با Visual Studio
• 18. نصب ابزارها و SDK های مورد نیاز
• 19. تنظیم محیط توسعه برای C# و ONNX
• 20. آشنایی با مدل Phi-3 4K Instruct
• 21. ویژگی‌های مدل Phi-3 4K Instruct
• 22. معماری مدل Phi-3 4K Instruct
• 23. کاربرد مدل Phi-3 4K Instruct
• 24. مقدمه‌ای بر استنتاج (Inference)
• 25. فرآیند استنتاج در LLMs
• 26. چالش‌های استنتاج در CPU
• 27. بهینه‌سازی استنتاج برای CPU
• 28. تکنیک‌های کوانتیزاسیون
• 29. کوانتیزاسیون 4 بیتی در عمل
• 30. پیاده‌سازی کوانتیزاسیون 4 بیتی
• 31. تبدیل مدل به فرمت ONNX
• 32. استفاده از ابزارهای تبدیل ONNX
• 33. نحوه وارد کردن مدل ONNX در C#
• 34. بارگذاری مدل ONNX در برنامه C#
• 35. مدیریت حافظه در استقرار LLMs
• 36. بهینه‌سازی مصرف حافظه
• 37. تکنیک‌های کاهش سربار محاسباتی
• 38. مدیریت پردازشگر مرکزی (CPU)
• 39. نظارت بر عملکرد CPU
• 40. تنظیمات بهینه‌سازی CPU
• 41. مقدمه‌ای بر API های LLM
• 42. طراحی API برای استقرار مدل
• 43. پیاده‌سازی API با ASP.NET Core
• 44. مدیریت درخواست‌ها و پاسخ‌ها
• 45. پردازش ورودی‌های متنی
• 46. تولید خروجی‌های متنی
• 47. ارزیابی عملکرد مدل مستقر شده
• 48. معیارهای ارزیابی کیفیت خروجی
• 49. تست مدل در سناریوهای مختلف
• 50. مدیریت خطا و استثنائات
• 51. پیاده‌سازی مکانیزم‌های بازیابی
• 52. نکات امنیتی در استقرار مدل
• 53. حفاظت از مدل و داده‌ها
• 54. ملاحظات اخلاقی در استفاده از LLMs
• 55. تأثیر LLMs بر جامعه
• 56. مسئولیت‌پذیری در توسعه هوش مصنوعی
• 57. مقدمه‌ای بر پلتفرم‌های ابری
• 58. استقرار LLMs در محیط‌های ابری
• 59. مزایای استفاده از خدمات ابری
• 60. مدیریت منابع در محیط ابری
• 61. بهینه‌سازی هزینه در استقرار ابری
• 62. معرفی ابزارهای مانیتورینگ
• 63. نظارت بر سلامت و عملکرد مدل
• 64. ثبت وقایع (Logging)
• 65. تحلیل داده‌های ثبت شده
• 66. بهبود مستمر مدل و استقرار
• 67. بازخوردگیری از کاربران
• 68. تکنیک‌های تنظیم دقیق (Fine-tuning)
• 69. کاربرد تنظیم دقیق برای LLMs
• 70. مراحل تنظیم دقیق مدل
• 71. آماده‌سازی داده‌ها برای تنظیم دقیق
• 72. ارزیابی مدل پس از تنظیم دقیق
• 73. مدیریت نسخه‌های مختلف مدل
• 74. سیستم‌های کنترل نسخه برای مدل‌ها
• 75. استقرار چندین نسخه از مدل
• 76. جابجایی بین نسخه‌های مدل
• 77. آشنایی با معماری‌های موازی
• 78. استفاده از پردازش موازی در C#
• 79. بهینه‌سازی استنتاج با موازی‌سازی
• 80. مقدمه‌ای بر یادگیری انتقالی (Transfer Learning)
• 81. کاربرد یادگیری انتقالی در LLMs
• 82. مفاهیم پیشرفته کوانتیزاسیون
• 83. تکنیک‌های کوانتیزاسیون پیشرفته
• 84. مقایسه روش‌های مختلف کوانتیزاسیون
• 85. اثرات کوانتیزاسیون بر دقت مدل
• 86. بهینه‌سازی پارامترهای مدل
• 87. تنظیم پارامترهای ONNX Runtime
• 88. کاربرد ابزارهای پروفایلینگ
• 89. شناسایی گلوگاه‌های عملکردی
• 90. بهینه‌سازی کد C# برای استنتاج
• 91. الگوهای طراحی نرم‌افزار در استقرار
• 92. مدیریت وابستگی‌ها
• 93. ایجاد یک برنامه کاربردی کامل
• 94. راه اندازی برنامه در محیط عملیاتی
• 95. پشتیبان‌گیری و بازیابی داده‌ها
• 96. برنامه‌ریزی برای مقیاس‌پذیری
• 97. پیش‌بینی نیازهای آینده
• 98. توسعه مستمر و نگهداری
• 99. آخرین روندها در LLM و استقرار
• 100. آینده استنتاج در CPU