فلش‌کارت‌های آموزشی پیاده‌سازی و اجرای بهینه مدل‌های هوش مصنوعی بر روی دستگاه‌های کاربر با استفاده از ONNX Runtime و Olive

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره پیاده‌سازی و اجرای بهینه مدل‌های هوش مصنوعی بر روی دستگاه‌های کاربر با استفاده از ONNX Runtime و Olive

موضوع کلی: هوش مصنوعی و یادگیری ماشین (Artificial Intelligence & Machine Learning)

موضوع میانی: بهینه‌سازی و اجرای مدل‌های هوش مصنوعی بر روی سخت‌افزارهای محلی

📋 سرفصل‌های دوره

• 1. مبانی هوش مصنوعی و ضرورت اجرای محلی مدل‌ها
• 2. معرفی اکوسیستم هوش مصنوعی روی دستگاه و مزایای حریم خصوصی
• 3. آشنایی با فرمت ONNX و نقش آن در تعامل‌پذیری مدل‌ها
• 4. معماری و اجزای تشکیل‌دهنده ONNX Runtime
• 5. نصب و راه‌اندازی محیط توسعه برای اجرای مدل‌های محلی
• 6. بررسی چالش‌های سخت‌افزاری در اجرای مدل‌های یادگیری عمیق
• 7. مقدمه‌ای بر بهینه‌سازی مدل‌ها با ابزار Olive
• 8. مراحل پیش‌پردازش مدل برای اجرا در محیط‌های محدود
• 9. تکنیک‌های فشرده‌سازی مدل شامل کوانتایزیشن (Quantization)
• 10. آشنایی با انواع کوانتایزیشن و تاثیر آن بر دقت و سرعت
• 11. بهینه‌سازی گراف محاسباتی مدل در ONNX Runtime
• 12. پیکربندی سخت‌افزاری برای شتاب‌دهی گرافیکی و پردازشی
• 13. مدیریت حافظه در هنگام اجرای مدل‌های سنگین روی دستگاه
• 14. بررسی استراتژی‌های اجرای مدل روی پردازنده مرکزی (CPU)
• 15. شتاب‌دهی اجرای مدل با استفاده از پردازنده گرافیکی (GPU)
• 16. استفاده از شتاب‌دهنده‌های اختصاصی هوش مصنوعی (NPU)
• 17. تجزیه و تحلیل عملکرد و بنچ‌مارک مدل‌های بهینه‌سازی شده
• 18. کاهش تأخیر در استنتاج (Inference) مدل‌های محلی
• 19. پیاده‌سازی مدل‌های پردازش متن (LLMs) روی سخت‌افزارهای محلی
• 20. بهینه‌سازی مدل‌های بینایی ماشین برای کاربردهای بلادرنگ
• 21. مدیریت نسخه‌بندی و نگهداری مدل‌ها در پروژه‌های محلی
• 22. امنیت اجرای مدل‌های هوش مصنوعی در دستگاه‌های کاربر
• 23. تکنیک‌های کاهش حجم فایل مدل برای توزیع بهینه
• 24. ارزیابی پایداری مدل پس از اعمال فرآیندهای بهینه‌سازی
• 25. مستندسازی و رفع خطاهای رایج در اجرای ONNX Runtime
• 26. تلفیق مدل‌های بهینه شده با رابط‌های کاربری بومی
• 27. استفاده از Olive برای خودکارسازی فرآیند بهینه‌سازی مدل
• 28. بررسی توان مصرفی و مدیریت حرارت در اجرای مدل‌های محلی
• 29. بهینه‌سازی مدل‌های کوچک برای دستگاه‌های با منابع محدود
• 30. تست و اعتبارسنجی مدل‌های بهینه شده در شرایط عملیاتی
• 31. استقرار مدل‌های هوش مصنوعی در محیط‌های آفلاین
• 32. به‌روزرسانی مدل‌ها بدون نیاز به اتصال دائم به سرور
• 33. ملاحظات اخلاقی و حقوقی در توسعه هوش مصنوعی محلی
• 34. آینده هوش مصنوعی روی دستگاه و روندهای سخت‌افزاری
• 35. پروژه عملی: بهینه‌سازی و اجرای یک مدل طبقه بندی تصویر
• 36. پروژه عملی: پیاده‌سازی دستیار هوشمند متنی روی سیستم محلی