کتاب صوتی بهینه‌سازی سرعت و کارایی توکن‌سازها در استنتاج

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره بهینه‌سازی سرعت و کارایی توکن‌سازها در استنتاج

موضوع کلی: هوش مصنوعی

موضوع میانی: پردازش زبان طبیعی

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر توکن‌سازی و اهمیت بهینه‌سازی آن
• 2. معماری‌های توکن‌ساز: بررسی انواع مختلف
• 3. مفهوم استنتاج (Inference) و گلوگاه‌های عملکردی
• 4. معیارهای ارزیابی عملکرد توکن‌ساز
• 5. پروفایلینگ عملکرد توکن‌ساز: شناسایی نقاط بحرانی
• 6. بهینه‌سازی کد: تکنیک‌های سطح پایین
• 7. استفاده از کامپایلرها و flagهای بهینه‌سازی
• 8. بهینه‌سازی مصرف حافظه در توکن‌سازی
• 9. روش‌های کاهش سربار تخصیص حافظه
• 10. استفاده از ساختارهای داده کارآمد
• 11. بهینه‌سازی الگوریتم‌های جستجو در واژگان
• 12. روش‌های فشرده‌سازی واژگان
• 13. تکنیک‌های quantization برای کاهش اندازه مدل
• 14. Quantization پس از آموزش (Post-Training Quantization)
• 15. Quantization آگاه از آموزش (Quantization-Aware Training)
• 16. استفاده از pruning برای کاهش پیچیدگی مدل
• 17. Pruning ساختاریافته در مقابل Pruning غیرساختاریافته
• 18. بهینه‌سازی موازی‌سازی (Parallelization) توکن‌سازی
• 19. مدل‌های توکن‌سازی توزیع‌شده
• 20. استفاده از GPU برای تسریع توکن‌سازی
• 21. بهینه‌سازی استفاده از CPU برای توکن‌سازی
• 22. بهینه‌سازی برای معماری‌های خاص سخت‌افزاری (ARM, x86)
• 23. استفاده از کتابخانه‌های بهینه‌شده (TensorFlow Lite, ONNX Runtime)
• 24. بهینه‌سازی توکن‌سازی برای زبان‌های مختلف
• 25. چالش‌های بهینه‌سازی توکن‌سازی برای زبان‌های با منابع کم
• 26. بهینه‌سازی توکن‌سازی برای متون طولانی
• 27. روش‌های تقسیم متن و توکن‌سازی موازی
• 28. بهینه‌سازی برای سناریوهای Real-time
• 29. استفاده از caching برای کاهش زمان پاسخ
• 30. بهینه‌سازی برای استنتاج دسته‌ای (Batch Inference)
• 31. تکنیک‌های کاهش تأخیر (Latency Reduction)
• 32. بهینه‌سازی توکن‌سازی برای مدل‌های زبانی بزرگ (LLM)
• 33. استفاده از knowledge distillation برای توکن‌سازها
• 34. بهینه‌سازی توکن‌سازی برای وظایف خاص (ترجمه، خلاصه‌سازی)
• 35. بهینه‌سازی توکن‌سازی در محیط‌های ابری
• 36. استفاده از Auto-tuning برای بهینه‌سازی خودکار
• 37. بهینه‌سازی توکن‌سازی برای دستگاه‌های موبایل
• 38. مقایسه ابزارهای مختلف بهینه‌سازی توکن‌سازی
• 39. معرفی ابزارها و فریم‌ورک‌های متن‌باز
• 40. بهینه‌سازی توکن‌سازی برای مدل‌های مبتنی بر Transformer
• 41. استفاده از تکنیک‌های attention برای تسریع توکن‌سازی
• 42. بهینه‌سازی توکن‌سازی برای مدل‌های Subword
• 43. BPE, WordPiece, SentencePiece: بهینه‌سازی‌های خاص
• 44. بررسی case studyهای موفق بهینه‌سازی توکن‌سازی
• 45. معماری‌های جدید توکن‌سازی و آینده بهینه‌سازی
• 46. آشنایی با آخرین تحقیقات در زمینه بهینه‌سازی توکن‌سازی
• 47. پیاده‌سازی یک توکن‌ساز بهینه از ابتدا
• 48. عیب‌یابی و رفع مشکلات رایج در بهینه‌سازی توکن‌سازی
• 49. بهینه‌سازی توکن‌ساز برای داده‌های نامتوازن
• 50. بهینه‌سازی توکن‌سازی در برابر حملات خصمانه
• 51. آینده بهینه‌سازی توکن‌سازی: روندهای نوظهور