کتاب استقرار مدلهای زبان بزرگ (LLMs) با بهینهسازی 4 بیتی در پردازندههای مرکزی (CPU) با استفاده از C# و ONNX با فرمت AZW3 برای کتابخوان کیندل و فرمت EPUB
🎓 دوره آموزشی جامع
📚 اطلاعات دوره
عنوان دوره: دوره استقرار مدلهای زبان بزرگ (LLMs) با بهینهسازی 4 بیتی در پردازندههای مرکزی (CPU) با استفاده از C# و ONNX
موضوع کلی: هوش مصنوعی و یادگیری ماشین
موضوع میانی: استقرار مدلهای زبان بزرگ (LLMs)
📋 سرفصلهای دوره
- 1. مقدمهای بر هوش مصنوعی و یادگیری ماشین
- 2. اصول اولیه یادگیری ماشین
- 3. معرفی مدلهای زبان بزرگ (LLMs)
- 4. معماری ترنسفورمر و LLMs
- 5. کاربردها و قابلیتهای LLMs
- 6. چالشهای استقرار LLMs
- 7. مفهوم استقرار مدل (Model Deployment)
- 8. اهمیت بهینهسازی مدلها
- 9. مقدمهای بر بهینهسازی 4 بیتی
- 10. مزایای کوانتیزاسیون 4 بیتی
- 11. معرفی فرمت ONNX
- 12. مزایای استفاده از ONNX
- 13. استفاده از ONNX برای LLMs
- 14. مقدمهای بر زبان برنامهنویسی C#
- 15. کاربرد C# در توسعه نرمافزار
- 16. محیط توسعه Visual Studio
- 17. مبانی کار با Visual Studio
- 18. نصب ابزارها و SDK های مورد نیاز
- 19. تنظیم محیط توسعه برای C# و ONNX
- 20. آشنایی با مدل Phi-3 4K Instruct
- 21. ویژگیهای مدل Phi-3 4K Instruct
- 22. معماری مدل Phi-3 4K Instruct
- 23. کاربرد مدل Phi-3 4K Instruct
- 24. مقدمهای بر استنتاج (Inference)
- 25. فرآیند استنتاج در LLMs
- 26. چالشهای استنتاج در CPU
- 27. بهینهسازی استنتاج برای CPU
- 28. تکنیکهای کوانتیزاسیون
- 29. کوانتیزاسیون 4 بیتی در عمل
- 30. پیادهسازی کوانتیزاسیون 4 بیتی
- 31. تبدیل مدل به فرمت ONNX
- 32. استفاده از ابزارهای تبدیل ONNX
- 33. نحوه وارد کردن مدل ONNX در C#
- 34. بارگذاری مدل ONNX در برنامه C#
- 35. مدیریت حافظه در استقرار LLMs
- 36. بهینهسازی مصرف حافظه
- 37. تکنیکهای کاهش سربار محاسباتی
- 38. مدیریت پردازشگر مرکزی (CPU)
- 39. نظارت بر عملکرد CPU
- 40. تنظیمات بهینهسازی CPU
- 41. مقدمهای بر API های LLM
- 42. طراحی API برای استقرار مدل
- 43. پیادهسازی API با ASP.NET Core
- 44. مدیریت درخواستها و پاسخها
- 45. پردازش ورودیهای متنی
- 46. تولید خروجیهای متنی
- 47. ارزیابی عملکرد مدل مستقر شده
- 48. معیارهای ارزیابی کیفیت خروجی
- 49. تست مدل در سناریوهای مختلف
- 50. مدیریت خطا و استثنائات
- 51. پیادهسازی مکانیزمهای بازیابی
- 52. نکات امنیتی در استقرار مدل
- 53. حفاظت از مدل و دادهها
- 54. ملاحظات اخلاقی در استفاده از LLMs
- 55. تأثیر LLMs بر جامعه
- 56. مسئولیتپذیری در توسعه هوش مصنوعی
- 57. مقدمهای بر پلتفرمهای ابری
- 58. استقرار LLMs در محیطهای ابری
- 59. مزایای استفاده از خدمات ابری
- 60. مدیریت منابع در محیط ابری
- 61. بهینهسازی هزینه در استقرار ابری
- 62. معرفی ابزارهای مانیتورینگ
- 63. نظارت بر سلامت و عملکرد مدل
- 64. ثبت وقایع (Logging)
- 65. تحلیل دادههای ثبت شده
- 66. بهبود مستمر مدل و استقرار
- 67. بازخوردگیری از کاربران
- 68. تکنیکهای تنظیم دقیق (Fine-tuning)
- 69. کاربرد تنظیم دقیق برای LLMs
- 70. مراحل تنظیم دقیق مدل
- 71. آمادهسازی دادهها برای تنظیم دقیق
- 72. ارزیابی مدل پس از تنظیم دقیق
- 73. مدیریت نسخههای مختلف مدل
- 74. سیستمهای کنترل نسخه برای مدلها
- 75. استقرار چندین نسخه از مدل
- 76. جابجایی بین نسخههای مدل
- 77. آشنایی با معماریهای موازی
- 78. استفاده از پردازش موازی در C#
- 79. بهینهسازی استنتاج با موازیسازی
- 80. مقدمهای بر یادگیری انتقالی (Transfer Learning)
- 81. کاربرد یادگیری انتقالی در LLMs
- 82. مفاهیم پیشرفته کوانتیزاسیون
- 83. تکنیکهای کوانتیزاسیون پیشرفته
- 84. مقایسه روشهای مختلف کوانتیزاسیون
- 85. اثرات کوانتیزاسیون بر دقت مدل
- 86. بهینهسازی پارامترهای مدل
- 87. تنظیم پارامترهای ONNX Runtime
- 88. کاربرد ابزارهای پروفایلینگ
- 89. شناسایی گلوگاههای عملکردی
- 90. بهینهسازی کد C# برای استنتاج
- 91. الگوهای طراحی نرمافزار در استقرار
- 92. مدیریت وابستگیها
- 93. ایجاد یک برنامه کاربردی کامل
- 94. راه اندازی برنامه در محیط عملیاتی
- 95. پشتیبانگیری و بازیابی دادهها
- 96. برنامهریزی برای مقیاسپذیری
- 97. پیشبینی نیازهای آینده
- 98. توسعه مستمر و نگهداری
- 99. آخرین روندها در LLM و استقرار
- 100. آینده استنتاج در CPU
نظرات
هنوز نظری ثبت نشده است.
وارد شوید تا نظر ثبت کنید.