فلش‌کارت‌های آموزشی پیاده‌سازی زیرساخت‌های مقیاس‌پذیر و بهینه برای استنتاج هوش مصنوعی (ML Inference) بر بستر کوبرنتیز

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره پیاده‌سازی زیرساخت‌های مقیاس‌پذیر و بهینه برای استنتاج هوش مصنوعی (ML Inference) بر بستر کوبرنتیز

موضوع کلی: رایانش ابری و زیرساخت‌های هوشمند

موضوع میانی: مدیریت و استقرار مدل‌های هوش مصنوعی بر بستر کوبرنتیز

📋 سرفصل‌های دوره

• 1. مبانی رایانش ابری و معماری استنتاج هوش مصنوعی
• 2. آشنایی با چرخه‌حیات مدل‌های یادگیری ماشین در تولید
• 3. معماری کلاستر کوبرنتیز برای بارهای کاری سنگین
• 4. مفاهیم پایه و ضرورت‌های مدل‌های بدون سرور در استنتاج
• 5. مقایسه راهکارهای استقرار مدل: سرورلس در برابر سرورهای اختصاصی
• 6. نصب و پیکربندی اولیه کوبرنتیز برای سرویس‌های هوش مصنوعی
• 7. مدیریت منابع محاسباتی و تخصیص هوشمند GPU به پادها
• 8. آشنایی با فریم‌ورک‌های اجرای مدل در کانتینر
• 9. ایجاد کانتینرهای بهینه برای مدل‌های تنسورفلو و پای‌تورچ
• 10. مدیریت حافظه و بهینه‌سازی بارگذاری مدل در زمان اجرا
• 11. مفهوم Cold Start در استنتاج و چالش‌های تأخیر
• 12. استفاده از Knative برای پیاده‌سازی زیرساخت سرورلس
• 13. پیکربندی مقیاس‌پذیری خودکار بر اساس ترافیک درخواست‌ها
• 14. مدیریت صف‌بندی درخواست‌های استنتاج در مقیاس بالا
• 15. راهکارهای کاهش زمان پاسخ‌دهی در مدل‌های سنگین
• 16. مانیتورینگ و مشاهده‌پذیری پادهای استنتاج هوش مصنوعی
• 17. استفاده از Prometheus و Grafana برای تحلیل عملکرد مدل
• 18. مدیریت لاگ‌ها و عیب‌یابی در کلاسترهای توزیع‌شده
• 19. ایمن‌سازی ارتباطات و احراز هویت در سرویس‌های استنتاج
• 20. پیکربندی شبکه و مدیریت ترافیک ورودی با Ingress
• 21. استفاده از Service Mesh برای مدیریت ارتباطات میکروسرویس‌ها
• 22. بهینه‌سازی هزینه در استقرار مدل‌های هوش مصنوعی
• 23. راهکارهای ذخیره‌سازی مدل‌ها و استفاده از Object Storage
• 24. استفاده از مدل‌های متن‌باز و استقرار امن آن‌ها
• 25. تکنیک‌های فشرده‌سازی مدل برای اجرا در محیط‌های محدود
• 26. پیکربندی اتصالات پایگاه‌داده برای سرویس‌های هوش مصنوعی
• 27. مدیریت نسخه‌بندی مدل‌ها در محیط عملیاتی
• 28. پیاده‌سازی استراتژی‌های استقرار تدریجی و Canary
• 29. تست بار و ارزیابی پایداری زیرساخت استنتاج
• 30. مدیریت خطاهای زمان اجرا و بازیابی خودکار سرویس‌ها
• 31. استفاده از ابزارهای CI/CD برای استقرار خودکار مدل‌ها
• 32. یکپارچه‌سازی مدل‌های هوش مصنوعی با اپلیکیشن‌های تحت وب
• 33. بهینه‌سازی استفاده از منابع در محیط‌های چندمستاجری
• 34. ارائه خدمات استنتاج با SLA مشخص و تضمین کیفیت
• 35. بررسی چالش‌های مقیاس‌پذیری در ترافیک‌های غیرقابل پیش‌بینی
• 36. آینده زیرساخت‌های هوشمند و تکنولوژی‌های ابری
• 37. خلاصه و جمع‌بندی طراحی زیرساخت‌های مقیاس‌پذیر