اپلیکیشن اندرویدی فلش‌کارت آموزشی راهکارهای پیشرفته شتاب‌دهی و استقرار مدل‌های هوش مصنوعی با استفاده از Nvidia TensorRT

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره راهکارهای پیشرفته شتاب‌دهی و استقرار مدل‌های هوش مصنوعی با استفاده از Nvidia TensorRT

موضوع کلی: هوش مصنوعی و یادگیری ماشین (Artificial Intelligence & Machine Learning)

موضوع میانی: مهندسی عملیاتی مدل‌های زبانی بزرگ (LLMOps) و بهینه‌سازی زیرساخت‌های پردازشی

📋 سرفصل‌های دوره

• 1. مبانی معماری پردازش موازی در پردازنده‌های گرافیکی انویدیا
• 2. آشنایی با مفاهیم پایه در هوش مصنوعی مولد و مدل‌های زبانی بزرگ
• 3. نقش اکوسیستم انویدیا در بهینه‌سازی زیرساخت‌های محاسباتی
• 4. نصب و پیکربندی محیط توسعه و درایورهای CUDA
• 5. معماری و ساختار هسته‌های تنسور در پردازنده‌های گرافیکی
• 6. مفاهیم اساسی استنتاج و چالش‌های عملیاتی در استقرار مدل‌ها
• 7. آشنایی با فرمت‌های استاندارد مدل‌سازی هوش مصنوعی
• 8. کاربرد کتابخانه TensorRT در بهینه‌سازی شبکه‌های عصبی
• 9. فرآیند تبدیل مدل‌های PyTorch و TensorFlow به فرمت TensorRT
• 10. تحلیل گراف محاسباتی و بهینه‌سازی لایه‌های شبکه
• 11. تکنیک‌های کوانتایزیشن و کاهش دقت محاسبات برای افزایش سرعت
• 12. پیاده‌سازی استراتژی‌های FP16 و INT8 در مدل‌های زبانی
• 13. مدیریت حافظه در کارت‌های گرافیک برای استنتاج بهینه
• 14. استفاده از ابزارهای Profiling برای شناسایی گلوگاه‌های پردازشی
• 15. اصول طراحی پایپ‌لاین‌های استنتاج در محیط‌های عملیاتی
• 16. بهینه‌سازی توابع فعال‌ساز و لایه‌های خاص در مدل‌های ترنسفورمر
• 17. استقرار مدل‌های زبانی بزرگ با استفاده از TensorRT-LLM
• 18. راهکارهای شتاب‌دهی به فرآیند تولید متن در مدل‌های مولد
• 19. مقیاس‌پذیری زیرساخت‌های پردازشی در مراکز داده
• 20. مدیریت صف و اولویت‌بندی درخواست‌ها در سرویس‌های هوش مصنوعی
• 21. تکنیک‌های Batching هوشمند برای افزایش نرخ پاسخ‌دهی
• 22. مانیتورینگ کارایی و نرخ تأخیر در مدل‌های مستقر شده
• 23. بهینه‌سازی مصرف انرژی در سرورهای پردازش هوش مصنوعی
• 24. ایمن‌سازی زیرساخت‌های استنتاج در برابر حملات تزریق داده
• 25. یکپارچه‌سازی TensorRT با فریم‌ورک‌های سرویس‌دهی مدل
• 26. روش‌های عیب‌یابی و رفع خطاهای رایج در مرحله استنتاج
• 27. بررسی پایداری مدل در محیط‌های عملیاتی با ترافیک بالا
• 28. ارتقای مدل‌های زبانی با استفاده از تکنیک‌های کاهش حجم
• 29. مدیریت نسخه‌بندی و استقرار مدل‌های بهینه‌سازی شده
• 30. مستندسازی و استانداردهای نگهداری سیستم‌های یادگیری ماشین صنعتی