کتاب صوتی راهکارهای عملیاتی‌سازی مدل‌های هوش مصنوعی با استفاده از پردازنده‌های گرافیکی NVIDIA در مراکز داده

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره راهکارهای عملیاتی‌سازی مدل‌های هوش مصنوعی با استفاده از پردازنده‌های گرافیکی NVIDIA در مراکز داده

موضوع کلی: علوم رایانه و فناوری اطلاعات

موضوع میانی: هوش مصنوعی و زیرساخت‌های محاسباتی پیشرفته

📋 سرفصل‌های دوره

• 1. مبانی معماری پردازنده‌های گرافیکی NVIDIA در مراکز داده
• 2. آشنایی با پلتفرم‌های سخت‌افزاری OCP و استانداردهای مرکز داده
• 3. بررسی معماری هسته‌های CUDA و Tensor Cores در پردازنده‌های گرافیکی
• 4. آشنایی با معماری Hopper و قابلیت‌های موتور ترنسفورمر
• 5. نقش پردازنده‌های گرافیکی در تسریع محاسبات هوش مصنوعی و یادگیری عمیق
• 6. مبانی محاسبات موازی و مدیریت حافظه در GPU
• 7. زیرساخت‌های شبکه با سرعت بالا در مراکز داده هوش مصنوعی
• 8. معرفی استانداردهای OCP برای سرورهای GPU
• 9. طراحی سیستم‌های خنک‌کننده برای پردازنده‌های گرافیکی با چگالی بالا
• 10. مدیریت توان مصرفی در مراکز داده نسل جدید
• 11. نصب و پیکربندی درایورهای NVIDIA در محیط لینوکس
• 12. محیط‌های مجازی‌سازی و کانتینرسازی برای پردازنده‌های گرافیکی
• 13. معرفی NVIDIA Container Toolkit برای محیط‌های ابری
• 14. مدیریت منابع GPU در محیط‌های Kubernetes
• 15. آشنایی با کتابخانه‌های شتاب‌دهنده NVIDIA CUDA
• 16. بهینه‌سازی مدل‌های یادگیری عمیق با استفاده از TensorRT
• 17. استفاده از Triton Inference Server برای استقرار مدل‌ها
• 18. معماری سیستم‌های ذخیره‌سازی برای پردازش داده‌های حجیم هوش مصنوعی
• 19. بررسی اتصالات پرسرعت NVLink و NVSwitch
• 20. مانیتورینگ و مدیریت سلامت پردازنده‌های گرافیکی در مراکز داده
• 21. استراتژی‌های مقیاس‌پذیری برای آموزش مدل‌های زبانی بزرگ
• 22. بهینه‌سازی مصرف انرژی در خوشه‌های پردازشی هوش مصنوعی
• 23. پیاده‌سازی راهکارهای پشتیبان‌گیری و بازیابی داده‌ها در مراکز داده
• 24. تکنیک‌های عیب‌یابی و رفع خطاهای سخت‌افزاری در سرورهای GPU
• 25. مدیریت چرخه حیات مدل‌های هوش مصنوعی (MLOps) با استفاده از شتاب‌دهنده‌ها
• 26. بررسی چالش‌های پهنای باند حافظه در پردازش‌های سنگین
• 27. استانداردسازی کابل‌کشی و اتصالات در دیتاسنترهای OCP
• 28. ارتقای پایداری سیستم‌های محاسباتی با استفاده از مدیریت هوشمند بار
• 29. اصول بهره‌برداری از هوش مصنوعی مولد در چارچوب‌های بومی
• 30. تحلیل هزینه‌-فایده در استقرار زیرساخت‌های GPU
• 31. آینده‌نگری در معماری مراکز داده و هوش مصنوعی صنعتی