کتاب صوتی راهکارهای عملیاتی‌سازی مدل‌های زبانی بزرگ با استفاده از vLLM، PyTorch و Kubernetes

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره راهکارهای عملیاتی‌سازی مدل‌های زبانی بزرگ با استفاده از vLLM، PyTorch و Kubernetes

موضوع کلی: علوم رایانه و فناوری اطلاعات

موضوع میانی: زیرساخت‌های هوش مصنوعی و پردازش ابری

📋 سرفصل‌های دوره

• 1. مبانی و معماری مدل‌های زبانی بزرگ
• 2. آشنایی با اکوسیستم متن‌باز هوش مصنوعی
• 3. نصب و راه‌اندازی محیط توسعه PyTorch
• 4. مدیریت کتابخانه‌ها و وابستگی‌های نرم‌افزاری هوش مصنوعی
• 5. مفاهیم پایه و معماری vLLM برای استنتاج بهینه
• 6. بررسی سازوکار PagedAttention در افزایش کارایی مدل
• 7. آماده‌سازی مدل‌های زبانی برای استقرار در محیط عملیاتی
• 8. بهینه‌سازی حافظه گرافیکی در پردازش مدل‌های بزرگ
• 9. آشنایی با مفاهیم پایه کانتینرسازی و داکر
• 10. نوشتن داکرفایل برای سرویس‌های هوش مصنوعی
• 11. مدیریت تصاویر کانتینر در مخازن امن داخلی
• 12. مبانی کوبرنتیز و نقش آن در مقیاس‌پذیری هوش مصنوعی
• 13. تعریف Podها و سرویس‌ها برای استقرار مدل
• 14. مدیریت منابع سخت‌افزاری و اختصاص GPU در کوبرنتیز
• 15. استقرار مدل‌های زبانی با استفاده از vLLM در کوبرنتیز
• 16. مدیریت تنظیمات و اسرار در محیط کوبرنتیز
• 17. استفاده از Ingress برای مدیریت ترافیک مدل‌های زبانی
• 18. مانیتورینگ و مشاهده‌پذیری در سرویس‌های هوش مصنوعی
• 19. کاربرد Prometheus و Grafana در پایش عملکرد مدل
• 20. بهینه‌سازی تأخیر در پاسخ‌دهی مدل‌های زبانی
• 21. استفاده از تکنیک‌های Quantization برای کاهش حجم مدل
• 22. مدیریت نسخه‌های مختلف مدل در محیط عملیاتی
• 23. پیاده‌سازی مکانیزم‌های بازیابی خودکار در کلاستر
• 24. مقیاس‌پذیری افقی خودکار در سرویس‌های استنتاج
• 25. امن‌سازی ارتباطات در کلاستر کوبرنتیز
• 26. مدیریت سطوح دسترسی و کنترل دسترسی مبتنی بر نقش
• 27. بررسی چالش‌های استقرار مدل در محیط‌های توزیع‌شده
• 28. بهینه‌سازی مصرف انرژی در سرورهای پردازشی
• 29. استفاده از کتابخانه‌های بهینه‌ساز در PyTorch
• 30. ارزیابی دقت و کارایی مدل‌های مستقر شده
• 31. ایجاد خط لوله استقرار خودکار برای مدل‌های هوش مصنوعی
• 32. حل چالش‌های متداول در اجرای vLLM بر روی کوبرنتیز
• 33. استفاده از ذخیره‌سازهای دائمی برای بارگذاری مدل‌ها
• 34. بررسی استانداردهای کدنویسی تمیز در پروژه‌های هوش مصنوعی
• 35. مستندسازی فنی و گزارش‌گیری از عملکرد مدل
• 36. تطبیق راهکارهای ابری با الزامات امنیتی شبکه داخلی
• 37. مدیریت لاگ‌ها و عیب‌یابی در سرویس‌های توزیع‌شده
• 38. به‌روزرسانی مدل‌ها بدون قطعی سرویس
• 39. نتیجه‌گیری و مسیرهای آینده در توسعه زیرساخت‌های هوش مصنوعی