کتاب صوتی بهینه‌سازی مدل‌های زبان بزرگ با روش‌های کوانتیزاسیون (QLoRA, GPTQ) و پیاده‌سازی با LLama.cpp

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره بهینه‌سازی مدل‌های زبان بزرگ با روش‌های کوانتیزاسیون (QLoRA, GPTQ) و پیاده‌سازی با LLama.cpp

موضوع کلی: هوش مصنوعی و یادگیری ماشین

موضوع میانی: بهینه‌سازی و پیاده‌سازی مدل‌های زبان بزرگ

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر هوش مصنوعی و مدل‌های زبان بزرگ
• 2. مبانی یادگیری ماشین برای مدل‌های زبان
• 3. معماری ترنسفورمر در مدل‌های زبان
• 4. مفهوم کوانتیزاسیون در یادگیری ماشین
• 5. چرا کوانتیزاسیون برای مدل‌های زبان مهم است؟
• 6. انواع روش‌های کوانتیزاسیون
• 7. کوانتیزاسیون ۲ بیتی و ۴ بیتی
• 8. کوانتیزاسیون ۸ بیتی و ۱۶ بیتی
• 9. معرفی QLoRA
• 10. مبانی QLoRA و تنظیم دقیق پارامترهای کارآمد
• 11. پیکربندی QLoRA برای مدل‌های زبان
• 12. آموزش مدل با QLoRA
• 13. ارزیابی مدل‌های آموزش‌دیده با QLoRA
• 14. معرفی GPTQ
• 15. مبانی GPTQ و گرانولاریتی کوانتیزاسیون
• 16. پیاده‌سازی GPTQ برای مدل‌های زبان
• 17. تنظیم پارامترهای GPTQ
• 18. آموزش مدل با GPTQ
• 19. مقایسه QLoRA و GPTQ
• 20. مزایا و معایب هر روش
• 21. معرفی LLama.cpp
• 22. مبانی LLama.cpp و اجرای مدل‌های زبان روی CPU
• 23. نصب و راه‌اندازی LLama.cpp
• 24. کامپایل LLama.cpp
• 25. بارگذاری مدل‌های کوانتیزه شده در LLama.cpp
• 26. اجرای مدل‌های زبان با LLama.cpp
• 27. تنظیمات پیشرفته در LLama.cpp
• 28. استفاده از LLama.cpp برای استنتاج
• 29. بهینه‌سازی عملکرد با LLama.cpp
• 30. مثال‌های عملی پیاده‌سازی
• 31. کوانتیزاسیون مدل‌های LLama 2
• 32. پیاده‌سازی QLoRA برای LLama 2
• 33. پیاده‌سازی GPTQ برای LLama 2
• 34. استفاده از LLama.cpp با مدل‌های LLama 2
• 35. کوچک‌سازی مدل‌های زبان برای دستگاه‌های محدود
• 36. کوانتیزاسیون در لبه (Edge AI)
• 37. کاربرد کوانتیزاسیون در اپلیکیشن‌های موبایل
• 38. تکنیک‌های پیشرفته کوانتیزاسیون
• 39. کوانتیزاسیون تطبیقی (Adaptive Quantization)
• 40. کوانتیزاسیون مبتنی بر آموزش (Quantization-Aware Training)
• 41. کوانتیزاسیون پس از آموزش (Post-Training Quantization)
• 42. ارزیابی کیفیت مدل‌های کوانتیزه شده
• 43. معیارهای ارزیابی در کوانتیزاسیون
• 44. تاثیر کوانتیزاسیون بر دقت مدل
• 45. کاهش حجم مدل و افزایش سرعت استنتاج
• 46. مدیریت حافظه در مدل‌های زبان بزرگ
• 47. بهینه‌سازی مصرف انرژی با کوانتیزاسیون
• 48. ملاحظات امنیتی در کوانتیزاسیون مدل‌ها
• 49. کوانتیزاسیون و حفظ حریم خصوصی داده‌ها
• 50. اخلاق در توسعه و پیاده‌سازی مدل‌های زبان
• 51. مسئولیت‌پذیری در هوش مصنوعی
• 52. چالش‌های پیاده‌سازی مدل‌های زبان بزرگ
• 53. مستندسازی مدل‌های کوانتیزه شده
• 54. ابزارهای متن‌باز برای کوانتیزاسیون
• 55. کتابخانه‌های پایتون برای کوانتیزاسیون
• 56. فریم‌ورک‌های یادگیری عمیق و کوانتیزاسیون
• 57. TensorFlow Lite و کوانتیزاسیون
• 58. PyTorch Mobile و کوانتیزاسیون
• 59. ONNX Runtime و کوانتیزاسیون
• 60. مدل‌های زبان کوچک‌تر و کارآمدتر
• 61. آینده کوانتیزاسیون در مدل‌های زبان
• 62. کوانتیزاسیون هاردور (Hardware Quantization)
• 63. تأثیر کوانتیزاسیون بر معماری‌های جدید
• 64. بهینه‌سازی مدل‌های زبان برای پردازنده‌های گرافیکی
• 65. بهینه‌سازی مدل‌های زبان برای پردازنده‌های مرکزی
• 66. استفاده از دانش تقطیر (Knowledge Distillation) برای کوانتیزاسیون
• 67. کوانتیزاسیون و فشرده‌سازی مدل
• 68. مقایسه روش‌های فشرده‌سازی و کوانتیزاسیون
• 69. کاربرد کوانتیزاسیون در پردازش زبان طبیعی (NLP)
• 70. کوانتیزاسیون برای ترجمه ماشینی
• 71. کوانتیزاسیون برای خلاصه‌سازی متن
• 72. کوانتیزاسیون برای پاسخ به پرسش
• 73. کوانتیزاسیون برای طبقه‌بندی متن
• 74. مدیریت زیرساخت برای استقرار مدل‌های کوانتیزه شده
• 75. استقرار مدل‌های کوانتیزه شده در فضای ابری
• 76. استقرار مدل‌های کوانتیزه شده روی سرورهای داخلی
• 77. بهینه‌سازی شبکه برای انتقال مدل‌های کوانتیزه شده
• 78. تست و اعتبارسنجی مدل‌های کوانتیزه شده در محیط عملیاتی
• 79. مانیتورینگ عملکرد مدل‌های کوانتیزه شده
• 80. عیب‌یابی مشکلات رایج در کوانتیزاسیون
• 81. درس‌های آموخته از پیاده‌سازی‌های واقعی
• 82. برنامه‌ریزی برای آینده مدل‌های زبان بهینه‌سازی شده
• 83. مقدمه‌ای بر مدل‌های زبانی مولد
• 84. تولید متن با مدل‌های زبان
• 85. کاربردهای خلاقانه مدل‌های زبان
• 86. محدودیت‌های مدل‌های زبان فعلی
• 87. مسائل مربوط به بایاس در مدل‌های زبان
• 88. کشف و کاهش بایاس در کوانتیزاسیون
• 89. تأثیر کوانتیزاسیون بر تفسیرپذیری مدل
• 90. کوانتیزاسیون و مدل‌های زبان قابل اعتماد
• 91. مقدمه‌ای بر یادگیری تقویتی برای بهینه‌سازی مدل
• 92. بهینه‌سازی مداوم مدل‌ها
• 93. نتیجه‌گیری و چشم‌انداز آینده