کتاب انتخاب بهترین روش فشرده‌سازی LLM با فرمت AZW3 برای کتابخوان کیندل و فرمت EPUB

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره انتخاب بهترین روش فشرده‌سازی LLM

موضوع کلی: بهینه‌سازی و فشرده‌سازی مدل‌های زبان بزرگ (LLM)

موضوع میانی: پلتفرم‌های متمرکز بر فشرده‌سازی مدل

📋 سرفصل‌های دوره

• 1. مبانی مدل‌های زبانی بزرگ
• 2. معماری ترانسفورمر و نقش آن در LLMها
• 3. تکنیک‌های پیش‌آموزش مدل‌های زبانی
• 4. مجموعه‌داده‌های مورد استفاده در آموزش LLMها
• 5. ارزیابی عملکرد مدل‌های زبانی
• 6. مقدمه‌ای بر فشرده‌سازی مدل
• 7. اهمیت فشرده‌سازی LLMها
• 8. روش‌های مختلف فشرده‌سازی مدل
• 9. هرس وزن (Weight Pruning)
• 10. کوانتیزاسیون (Quantization)
• 11. تقطیر دانش (Knowledge Distillation)
• 12. کاهش ابعاد (Dimensionality Reduction)
• 13. ماتریس‌های کم‌رتبه (Low-Rank Matrix Factorization)
• 14. فشرده‌سازی مبتنی بر هرس ساختاری
• 15. فشرده‌سازی مبتنی بر کوانتیزاسیون پس از آموزش
• 16. فشرده‌سازی مبتنی بر تقطیر دانش با استفاده از مدل‌های کوچکتر
• 17. فشرده‌سازی با استفاده از معماری‌های کارآمد
• 18. بهینه‌سازی سخت‌افزاری برای LLMهای فشرده
• 19. تاثیر فشرده‌سازی بر دقت مدل
• 20. تاثیر فشرده‌سازی بر سرعت استنتاج
• 21. تاثیر فشرده‌سازی بر اندازه مدل
• 22. ابزارهای فشرده‌سازی LLMها
• 23. TensorFlow Model Optimization Toolkit
• 24. PyTorch Quantization
• 25. ONNX Runtime
• 26. فشرده‌سازی LLMها برای استقرار روی دستگاه‌های لبه
• 27. فشرده‌سازی LLMها برای استقرار در فضای ابری
• 28. چالش‌های فشرده‌سازی LLMها
• 29. حفظ تعادل بین دقت و فشرده‌سازی
• 30. فشرده‌سازی LLMهای چندزبانه
• 31. فشرده‌سازی LLMها برای وظایف خاص
• 32. فشرده‌سازی LLMها با استفاده از یادگیری تقویتی
• 33. روش‌های خودکار فشرده‌سازی LLMها
• 34. بررسی موردی: فشرده‌سازی BERT
• 35. بررسی موردی: فشرده‌سازی GPT
• 36. بررسی موردی: فشرده‌سازی T5
• 37. فشرده‌سازی LLMها برای پردازش زبان طبیعی
• 38. فشرده‌سازی LLMها برای تولید متن
• 39. فشرده‌سازی LLMها برای ترجمه ماشینی
• 40. فشرده‌سازی LLMها برای پاسخگویی به سوالات
• 41. فشرده‌سازی LLMها برای خلاصه‌سازی متن
• 42. فشرده‌سازی LLMها برای تشخیص احساسات
• 43. فشرده‌سازی LLMها برای تشخیص موجودیت نام‌دار
• 44. آینده فشرده‌سازی LLMها و روندهای نوظهور
• 45. فشرده‌سازی LLMها و حریم خصوصی داده‌ها