در عصر حاضر که هوش مصنوعی و بینایی ماشین در صنایع مختلف به‌سرعت در حال نفوذ است، سرعت اجرای مدل‌های یادگیری عمیق و بهینه‌سازی آنها اهمیت ویژه‌ای پیدا کرده است. TensorRT به‌عنوان یک فریمورک قدرتمند از شرکت NVIDIA، امکان بهینه‌سازی و شتاب‌دهی به این مدل‌ها را در سخت‌افزارهای مبتنی بر GPU فراهم می‌کند. این دوره جامع به شما کمک می‌کند تا از مفاهیم پایه تا پیاده‌سازی پروژه‌های واقعی در حوزه تشخیص اشیاء و سگمنت‌بندی مسلط شوید.

• آشنایی گام‌به‌گام با مفاهیم TensorRT و چرخه بهینه‌سازی مدل‌های یادگیری عمیق
• افزایش سرعت Inference تا چندین برابر با استفاده از تکنیک‌های Quantization و Layer Fusion
• طراحی و اجرای پروژه‌های واقعی در زمینه تشخیص اشیاء (Object Detection) و سگمنت‌بندی (Segmentation)
• کاملاً پروژه‌محور و ارائه مثال‌های کاربردی با مدل‌های معروف مانند YOLOv5 و UNet
• قابل استفاده برای توسعه‌دهندگان، پژوهشگران و مهندسان هوش مصنوعی

• آشنایی پایه با زبان پایتون و کتابخانه‌های NumPy و PyTorch یا TensorFlow
• مفاهیم اولیه شبکه‌های عصبی کانولوشنی (CNN)
• سخت‌افزار مبتنی بر GPU (توصیه‌شده: کارت‌های NVIDIA با Compute Capability ≥ 6.0)
• آشنایی ابتدایی با سیستم‌عامل لینوکس و مدیریت بسته‌ها (apt, pip)

• آشنایی با TensorRT
  • مفهوم Graph Optimization و Engine Building
  • نصب و تنظیمات اولیه NVIDIA TensorRT
• بهینه‌سازی مدل
  • Quantization از FP32 به FP16 و INT8
  • Layer Fusion و حذف لایه‌های غیرضروری
• تشخیص اشیاء (Object Detection)
  • مروری بر معماری YOLOv5 و SSD
  • تبدیل مدل PyTorch/ONNX به TensorRT Engine
• سگمنت‌بندی تصویر (Segmentation)
  • معرفی UNet و DeepLabV3+
  • بهینه‌سازی و استریم تصاویر در زمان واقعی
• پروژه‌های عملی
  • ساخت یک سیستم نظارتی با تشخیص و دنبال‌کردن اشیاء
  • سگمنت‌بندی خودرو و عابر پیاده در محیط‌های شهری

• ترکیب و تبدیل مدل‌های شبکه عصبی از فریمورک‌های مختلف به فرمت TensorRT
• تنظیمات اطلاع‌دهنده (Calibration) برای دقت بالای عملیات Quantization
• تنظیمات پروفایل‌های ورودی و خروجی (Dynamic Shape Profiling)
• استفاده از APIهای Python و C++ برای بارگذاری و اجرای Engine
• بهینه‌سازی مصرف حافظه و افزایش Throughput در برنامه‌های تولیدی

در بخش پروژه‌های عملی، مثال‌های زیر را گام‌به‌گام پیاده‌سازی می‌کنیم:

• تبدیل مدل YOLOv5 به TensorRT Engine و مقایسه سرعت Inference با نسخه اولیه PyTorch
• اجرا و ارزیابی مدل UNet برای سگمنت‌بندی تصاویر سطح زمین از دوربین‌ نصب‌شده روی پهپاد
• تنظیم پارامترهای workspace size و batch size برای رسیدن به حداکثر کارایی در GPU
• توسعه یک اسکریپت ساده با Python API برای بارگذاری مدل و نمایش نتایج تشخیص در ویدئو زنده

• همواره پیش از Quantization، دقت مدل را در حالت FP32 ثبت کنید تا اثرات کاهش دقت کم‌تر باشد.
• برای کار با اشکال ورودی پویا (dynamic shapes) از قابلیت‌های TensorRT Profiler استفاده کنید.
• در پروژه‌های تولیدی، حالت mixed precision (FP16 + INT8) تعادل مطلوبی بین دقت و سرعت فراهم می‌کند.
• استفاده از TensorRT Inspector برای مشاهده گراف بهینه‌سازی‌شده و رفع خطاها توصیه می‌شود.