🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: بهینه‌سازی مدل‌های مولد برای سرعت تولید

موضوع کلی: برنامه نویسی

موضوع میانی: محاسبات سطح بالا (High-Performance Computing)

📋 سرفصل‌های دوره (100 موضوع)

• 1. مقدمه‌ای بر مدل‌های مولد و چالش سرعت تولید
• 2. مفاهیم کلیدی محاسبات سطح بالا (HPC)
• 3. معیارهای ارزیابی سرعت: تأخیر (Latency) و توان عملیاتی (Throughput)
• 4. آشنایی با ابزارهای پروفایلینگ کد
• 5. تحلیل گلوگاه‌ها (Bottlenecks) در پایپ‌لاین تولید
• 6. مروری بر معماری ترنسفورمرها (Transformers)
• 7. معماری مدل‌های زبانی بزرگ (LLMs)
• 8. مروری بر مدل‌های انتشاری (Diffusion Models)
• 9. مروری بر شبکه‌های مولد تخاصمی (GANs)
• 10. مبانی ریاضیاتی مورد نیاز: جبر خطی و آمار
• 11. ساختار حافظه و سلسله‌مراتب آن (Memory Hierarchy)
• 12. پردازش موازی: مفاهیم و اصول
• 13. آشنایی با معماری CPU و بهینه‌سازی‌های آن
• 14. آشنایی با معماری GPU و نقش آن در هوش مصنوعی
• 15. تفاوت بین آموزش (Training) و تولید (Inference)
• 16. چرخه حیات یک مدل مولد: از طراحی تا استقرار
• 17. بنچمارکینگ استاندارد برای مدل‌های مولد
• 18. معرفی مجموعه داده‌ها و وظایف رایج (Tasks)
• 19. اصول محاسبات ممیز شناور (Floating-Point Arithmetic)
• 20. اهمیت بهینه‌سازی: هزینه، انرژی و تجربه کاربری
• 21. معماری داخلی GPU: هسته‌های CUDA و هسته‌های Tensor
• 22. برنامه‌نویسی مقدماتی CUDA برای محاسبات سفارشی
• 23. استفاده از حافظه مشترک (Shared Memory) در CUDA
• 24. بهینه‌سازی دسترسی به حافظه جهانی (Global Memory Coalescing)
• 25. معرفی هسته‌های Tensor و کاربرد آن‌ها در محاسبات ماتریسی
• 26. بهینه‌سازی‌های سطح CPU: برداری‌سازی (Vectorization) با SIMD
• 27. چندنخی (Multi-threading) برای پیش‌پردازش و پس‌پردازش
• 28. تأثیر پهنای باند حافظه (Memory Bandwidth) بر سرعت
• 29. مدیریت حافظه در GPU و جلوگیری از سربار انتقال داده
• 30. معرفی شتاب‌دهنده‌های اختصاصی هوش مصنوعی (TPU, NPU)
• 31. مقایسه عملکرد CPU، GPU و TPU برای وظایف تولید
• 32. اصول برنامه‌نویسی برای معماری‌های ناهمگون (Heterogeneous)
• 33. پروفایلینگ عملکرد GPU با ابزارهای تخصصی مانند NVIDIA Nsight
• 34. درک و تحلیل گزارش‌های پروفایلر سخت‌افزار
• 35. بهینه‌سازی برای انواع داده با دقت پایین (FP16, BFloat16)
• 36. تأثیر اندازه کش (Cache Size) پردازنده بر عملکرد
• 37. ارتباطات بین پردازشی (Inter-Process Communication) برای پایپ‌لاین‌های پیچیده
• 38. بهینه‌سازی برای پلتفرم‌های لبه (Edge Devices)
• 39. مفاهیم توان مصرفی و بهره‌وری انرژی (Power Efficiency)
• 40. انتخاب سخت‌افزار مناسب برای استقرار مدل‌های مولد
• 41. کوانتیزاسیون (Quantization): مبانی و مفاهیم
• 42. کوانتیزاسیون پس از آموزش (Post-Training Quantization – PTQ)
• 43. کوانتیزاسیون آگاه از آموزش (Quantization-Aware Training – QAT)
• 44. کوانتیزاسیون به فرمت‌های INT8 و INT4
• 45. فرمت‌های نوین: FP8 و محاسبات با دقت ترکیبی (Mixed-Precision)
• 46. هرس (Pruning): کاهش اندازه و پیچیدگی مدل
• 47. هرس ساختاریافته (Structured Pruning) در مقابل هرس بدون ساختار
• 48. تأثیر هرس بر دقت و سرعت مدل
• 49. تقطیر دانش (Knowledge Distillation): آموزش مدل‌های کوچک‌تر و سریع‌تر
• 50. انتخاب مدل معلم (Teacher) و دانش‌آموز (Student)
• 51. انواع توابع زیان در تقطیر دانش
• 52. اصلاح معماری مدل برای سرعت بیشتر
• 53. مکانیزم‌های توجه (Attention) بهینه شده
• 54. جایگزینی لایه‌های سنگین با معادل‌های سبک و کارآمد
• 55. فشرده‌سازی وزن‌ها (Weight Compression)
• 56. فاکتورسازی ماتریس (Matrix Factorization) در لایه‌های مدل
• 57. معرفی Low-Rank Adaptation (LoRA) و کاربردهای آن
• 58. استفاده از LoRA و مشتقات آن برای بهینه‌سازی تولید
• 59. مدل‌های ترکیبی از متخصصین (Mixture of Experts – MoE) برای تولید سریع
• 60. بهینه‌سازی توکن‌های ورودی (Prompt Engineering for Speed)
• 61. کش کردن زوج‌های کلید-مقدار (KV Cache) در ترنسفورمرها
• 62. مدیریت و بهینه‌سازی حافظه KV Cache
• 63. طراحی مدل‌های مولد کوچک از ابتدا (Small Generative Models)
• 64. تحلیل توازن بین دقت، سرعت و اندازه مدل (Trade-offs)
• 65. ارزیابی مدل‌های بهینه‌سازی شده: فراتر از معیارهای استاندارد
• 66. کامپایل درجا (Just-In-Time – JIT Compilation)
• 67. معرفی کامپایلرهای یادگیری عمیق: TensorRT, OpenVINO, TVM
• 68. گراف محاسباتی و بهینه‌سازی‌های آن
• 69. تکنیک فیوژن لایه‌ها (Layer Fusion)
• 70. حذف گره‌های غیرضروری در گراف محاسباتی (Dead Code Elimination)
• 71. بهینه‌سازی عملیات از طریق کتابخانه‌های سطح پایین (cuBLAS, cuDNN)
• 72. آشنایی با FlashAttention و پیاده‌سازی‌های مشابه
• 73. فریم‌ورک‌های خدمت‌رسانی (Serving) مدل: NVIDIA Triton
• 74. فریم‌ورک‌های خدمت‌رسانی مدل: TorchServe و TensorFlow Serving
• 75. فریم‌ورک‌های تخصصی برای LLMها: vLLM
• 76. استراتژی‌های دسته‌بندی (Batching): استاتیک و دینامیک
• 77. پیاده‌سازی دسته‌بندی دینامیک برای حداکثر توان عملیاتی
• 78. دسته‌بندی پیوسته (Continuous Batching)
• 79. تکنیک PagedAttention و مدیریت حافظه پویا
• 80. سریال‌سازی و بارگذاری سریع مدل (ONNX, SafeTensors)
• 81. بهینه‌سازی پایپ‌لاین‌های پیش‌پردازش و پس‌پردازش داده
• 82. استفاده از حافظه پین شده (Pinned Memory) برای انتقال سریع‌تر داده
• 83. جریان‌های CUDA (CUDA Streams) برای هم‌پوشانی محاسبات و ارتباطات
• 84. پروفایلینگ در سطح فریم‌ورک و کامپایلر
• 85. مقایسه عملکرد فریم‌ورک‌های مختلف خدمت‌رسانی
• 86. تولید توزیع‌شده: موازی‌سازی داده‌ها (Data Parallelism)
• 87. موازی‌سازی تانسور (Tensor Parallelism) برای تولید
• 88. موازی‌سازی پایپ‌لاین (Pipeline Parallelism) برای مدل‌های بسیار بزرگ
• 89. ترکیب استراتژی‌های موازی‌سازی (3D Parallelism)
• 90. روش‌های نمونه‌گیری (Sampling) بهینه: Top-k, Nucleus
• 91. رمزگشایی سوداگرانه (Speculative Decoding)
• 92. رمزگشایی به کمک مدل‌های کوچک‌تر (Assisted Generation)
• 93. بهینه‌سازی تولید برای مدل‌های چندوجهی (Multi-modal)
• 94. مدیریت صف درخواست‌ها و زمان‌بندی (Request Scheduling)
• 95. مطالعه موردی: بهینه‌سازی یک مدل زبانی بزرگ (مانند Llama 2)
• 96. مطالعه موردی: بهینه‌سازی یک مدل انتشاری (مانند Stable Diffusion)
• 97. مطالعه موردی: استقرار مدل روی دستگاه‌های لبه با منابع محدود
• 98. مانیتورینگ عملکرد مدل در محیط عملیاتی (Production)
• 99. روندهای آینده در بهینه‌سازی مدل‌های مولد
• 100. پروژه نهایی: بهینه‌سازی یک مدل مولد از ابتدا تا انتها

📦 مجموعه شامل:

• ✅ ویدیوهای فارسی
• ✅ پادکست های صوتی فارسی
• ✅ کتاب PDF فارسی
• ✅ کتاب ۱۰۰۰ نکته فارسی خودمونی
• ✅ کتاب ۱۰۰۰ نکته رسمی فارسی
• ✅ کتاب ۱۰۰۰ پرسش و پاسخ ۴ گزینه ای فارسی

📚 محتوای این محصول آموزشی (پکیج کامل)

🎁 محتویات کامل بسته دانلودی

• ویدیوهای آموزشی فارسی — آموزش قدم‌به‌قدم، کاربردی و قابل فهم
• پادکست‌های صوتی فارسی — توضیح مفاهیم کلیدی و نکات تکمیلی
• کتاب PDF فارسی — شامل کلیهٔ سرفصل‌ها و محتوای آموزشی
• کتاب خلاصه نکات ویدیوها و پادکست‌ها – نسخه PDF — مناسب مرور سریع و جمع‌بندی مباحث
• کتاب صدها نکته فارسی (خودمونی) – نسخه PDF — زبان ساده و کاربردی
• کتاب صدها نکته رسمی فارسی – نسخه PDF — نگارش استاندارد، علمی و مناسب چاپ
• کتاب صدها پرسش و پاسخ تشریحی – نسخه PDF
  — هر سؤال بلافاصله همراه با پاسخ کامل و شفاف ارائه شده است؛ مناسب درک عمیق مفاهیم و رفع ابهام.
• کتاب صدها پرسش و پاسخ چهارگزینه‌ای – نسخه PDF (نسخه یادگیری سریع)
  — پاسخ‌ها بلافاصله پس از سؤال قرار دارند؛ مناسب یادگیری سریع و تثبیت مطالب.
• کتاب صدها پرسش و پاسخ چهارگزینه‌ای – نسخه PDF (نسخه خودآزمایی پایان‌بخش)
  — پاسخ‌ها در انتهای هر بخش آمده‌اند؛ مناسب آزمون واقعی و سنجش میزان یادگیری.
• کتاب تمرین‌های درست / نادرست (True / False) – نسخه PDF
  — مناسب افزایش دقت مفهومی و تشخیص صحیح یا نادرست بودن گزاره‌ها.
• کتاب تمرین‌های جای خالی – نسخه PDF
  — تقویت یادگیری فعال و تسلط بر مفاهیم و اصطلاحات کلیدی.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل آموزش تصویری، صوتی، کتاب‌ها، تمرین‌ها و خودآزمایی .

---

ℹ️ نکات مهم هنگام خرید

• این محصول به صورت فایل دانلودی کامل ارائه می‌شود و نسخهٔ چاپی ندارد.
• تمامی فایل‌ها و کتاب‌ها کاملاً فارسی هستند.
• توجه: لینک‌های اختصاصی دوره طی ۴۸ ساعت پس از ثبت سفارش ارسال می‌شوند.
• نیازی به درج شماره موبایل نیست؛ اما برای پشتیبانی سریع‌تر توصیه می‌شود.
• در صورت بروز مشکل در دانلود با شماره 09395106248 تماس بگیرید.
• اگر پرداخت انجام شده ولی لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا پیامک: 09395106248
تلگرام: @ma_limbs