فلش‌کارت‌های آموزشی بهینه‌سازی الگوریتم‌های پردازش سیگنال برای سرعت

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره بهینه‌سازی الگوریتم‌های پردازش سیگنال برای سرعت

موضوع کلی: برنامه نویسی

موضوع میانی: محاسبات سطح بالا (High-Performance Computing)

📋 سرفصل‌های دوره

• 1. بخش اول: مبانی و اصول اولیه**
• 2. مقدمه‌ای بر محاسبات سطح بالا در پردازش سیگنال
• 3. مروری بر مفاهیم پایه پردازش سیگنال دیجیتال (DSP)
• 4. سیگنال‌های گسسته در زمان و تبدیل فوریه گسسته (DFT)
• 5. مفهوم کانولوشن، همبستگی و فیلترهای دیجیتال (FIR و IIR)
• 6. تحلیل پیچیدگی الگوریتم‌ها: نماد O بزرگ و اهمیت آن در عملکرد
• 7. معیارهای اندازه‌گیری عملکرد: سرعت، توان عملیاتی و تاخیر
• 8. اصول بنچمارکینگ: نحوه اندازه‌گیری دقیق زمان اجرا
• 9. آشنایی با ابزارهای اولیه پروفایل‌بندی برای شناسایی گلوگاه‌ها
• 10. معماری پردازنده‌های مدرن (CPU): خط لوله (Pipelining) و اجرای خارج از نوبت
• 11. سلسله مراتب حافظه: رجیستر، کش (L1, L2, L3)، حافظه اصلی و دیسک
• 12. تاثیر سلسله مراتب حافظه بر عملکرد الگوریتم‌ها
• 13. مفهوم تنگنا (Bottleneck) در عملکرد: CPU-bound در مقابل Memory-bound
• 14. بخش دوم: بهینه‌سازی تک هسته‌ای (Single-Core Optimization)**
• 15. نقش کامپایلر در بهینه‌سازی کد
• 16. پرچم‌های بهینه‌سازی کامپایلر (مانند -O1, -O2, -O3, -Ofast)
• 17. تحلیل کد اسمبلی تولید شده توسط کامپایلر
• 18. درون‌خطی کردن توابع (Function Inlining) و باز کردن حلقه‌ها (Loop Unrolling)
• 19. بهینه‌سازی‌های مبتنی بر پروفایل (Profile-Guided Optimization - PGO)
• 20. تاثیر ساختارهای داده بر عملکرد: آرایه‌ها، لیست‌های پیوندی و درخت‌ها
• 21. چیدمان داده در حافظه: ساختاری از آرایه‌ها (SoA) در مقابل آرایه‌ای از ساختارها (AoS)
• 22. هم‌جواری داده‌ها (Data Locality): هم‌جواری زمانی و مکانی
• 23. بهینه‌سازی دسترسی به حافظه برای کاهش خطاهای کش (Cache Miss)
• 24. تکنیک قطعه‌بندی حلقه‌ها (Loop Tiling/Blocking) برای بهینه‌سازی کش
• 25. پیش‌واکشی داده (Data Prefetching): خودکار و دستی
• 26. بهینه‌سازی پیش‌بینی انشعاب (Branch Prediction)
• 27. کاهش قدرت عملیات (Strength Reduction) و حذف محاسبات زائد
• 28. حذف محاسبات تکراری در حلقه‌ها (Loop-invariant code motion)
• 29. از DFT به FFT: بهینه‌سازی الگوریتمی تبدیل فوریه
• 30. الگوریتم‌های رایج FFT: Radix-2 و Split-radix
• 31. کانولوشن سریع با استفاده از FFT (روش‌های Overlap-Add و Overlap-Save)
• 32. مقدمه‌ای بر موازی‌سازی در سطح دستورالعمل (Instruction-Level Parallelism - ILP)
• 33. مفهوم SIMD: یک دستور، چند داده (Single Instruction, Multiple Data)
• 34. معماری‌های SIMD در پردازنده‌های مدرن: SSE, AVX, NEON
• 35. وکتورسازی خودکار (Auto-vectorization) توسط کامپایلر
• 36. استفاده از توابع ذاتی (Intrinsics) برای برنامه‌نویسی صریح SIMD
• 37. پیاده‌سازی یک فیلتر FIR با استفاده از دستورات ذاتی AVX
• 38. چالش‌های برنامه‌نویسی SIMD: تراز بندی حافظه (Memory Alignment)
• 39. مدیریت داده‌های باقیمانده در حلقه‌های وکتوریزه شده
• 40. بخش سوم: برنامه‌نویسی موازی روی CPU چند هسته‌ای**
• 41. مقدمه‌ای بر محاسبات موازی و لزوم آن
• 42. قانون امدال (Amdahl's Law) و محدودیت‌های افزایش سرعت
• 43. قانون گوستافسون (Gustafson's Law) و محاسبات مقیاس‌پذیر
• 44. مدل‌های برنامه‌نویسی موازی: حافظه مشترک و حافظه توزیع‌شده
• 45. آشنایی با نخ‌ها (Threads) و فرآیندها (Processes)
• 46. مدل حافظه مشترک و چالش‌های آن: شرایط رقابتی (Race Conditions)
• 47. مفاهیم همگام‌سازی: انحصار متقابل (Mutex) و قفل‌ها (Locks)
• 48. استفاده از سمافورها و متغیرهای شرطی
• 49. عملیات اتمی (Atomic Operations) برای همگام‌سازی سبک و کارآمد
• 50. معرفی OpenMP: مدلی ساده برای برنامه‌نویسی موازی با حافظه مشترک
• 51. ساختارهای موازی‌سازی حلقه‌ها در OpenMP (parallel for)
• 52. مدیریت حوزه متغیرها در OpenMP: private, shared, reduction
• 53. زمان‌بندی حلقه‌ها در OpenMP: static, dynamic, guided
• 54. موازی‌سازی وظایف (Task Parallelism) با OpenMP
• 55. همگام‌سازی در OpenMP: critical, barrier, atomic
• 56. بهینه‌سازی یک حلقه کانولوشن با استفاده از OpenMP
• 57. پیاده‌سازی موازی FFT بر روی CPU چند هسته‌ای با OpenMP
• 58. مشکل اشتراک کاذب (False Sharing) و راه‌های شناسایی و مقابله با آن
• 59. معماری‌های NUMA و تاثیر آن بر عملکرد برنامه‌های موازی
• 60. آشنایی با کتابخانه‌های پردازش سیگنال چندنخی (مانند Intel MKL, FFTW)
• 61. بخش چهارم: برنامه‌نویسی شتاب‌دهنده‌ها و GPU**
• 62. مقدمه‌ای بر معماری GPU: تفاوت بنیادین با CPU
• 63. مدل برنامه‌نویسی CUDA: میزبان (Host) و دستگاه (Device)
• 64. سلسله مراتب نخ‌ها در CUDA: Grid, Block, Thread
• 65. نوشتن، کامپایل و اجرای اولین کرنل (Kernel) در CUDA
• 66. مدیریت حافظه در CUDA: تخصیص و کپی داده بین میزبان و دستگاه
• 67. سلسله مراتب حافظه در GPU: Global, Shared, Constant, Local, Texture
• 68. مفهوم Warp و اجرای SIMT (Single Instruction, Multiple Threads)
• 69. اهمیت حافظه مشترک (Shared Memory) برای بهینه‌سازی ارتباط بین نخ‌ها
• 70. پیاده‌سازی بهینه کانولوشن روی GPU با استفاده از حافظه مشترک
• 71. دسترسی ادغام‌شده به حافظه سراسری (Coalesced Memory Access)
• 72. واگرایی نخ‌ها (Thread Divergence) و تاثیر منفی آن بر عملکرد
• 73. پروفایل‌بندی برنامه‌های CUDA با استفاده از Nsight Systems/Compute
• 74. معرفی کتابخانه cuFFT برای تبدیل فوریه سریع روی GPU
• 75. استفاده از cuFFT برای پیاده‌سازی فیلترینگ در حوزه فرکانس
• 76. کتابخانه‌های دیگر CUDA برای پردازش سیگنال (cuBLAS, Thrust)
• 77. اجرای همزمان کرنل‌ها و انتقال داده با CUDA Streams
• 78. استفاده از حافظه الصاق‌شده (Pinned Memory) برای انتقال سریع‌تر داده
• 79. عملیات اتمی در GPU برای همگام‌سازی بین نخ‌ها
• 80. الگوی کاهش (Reduction) موازی بر روی GPU
• 81. مقدمه‌ای بر OpenCL به عنوان یک جایگزین چندسکویی برای CUDA
• 82. مقایسه مدل برنامه‌نویسی و عملکرد CUDA و OpenCL
• 83. مطالعه موردی: پیاده‌سازی یک آشکارساز همبستگی (Correlator) روی GPU
• 84. بخش پنجم: موضوعات پیشرفته و مطالعات موردی**
• 85. برنامه‌نویسی ترکیبی (Hybrid): استفاده همزمان از CPU (OpenMP) و GPU (CUDA)
• 86. مدل برنامه‌نویسی MPI برای کلاسترهای محاسباتی (مقدماتی)
• 87. بهینه‌سازی ورودی/خروجی (I/O): خواندن و نوشتن سریع داده‌های حجیم سیگنال
• 88. فرمت‌های داده بهینه برای پردازش‌های سطح بالا (مانند HDF5, Parquet)
• 89. استفاده از کتابخانه‌های سطح بالای بهینه‌شده: Intel IPP و Arm Performance Libraries
• 90. مطالعه موردی ۱: بهینه‌سازی یک خط لوله پردازش صوتی بی‌درنگ
• 91. مطالعه موردی ۲: تسریع الگوریتم‌های شکل‌دهی پرتو (Beamforming)
• 92. مطالعه موردی ۳: بهینه‌سازی پردازش تصویر رادار با دیافراگم مصنوعی (SAR)
• 93. مطالعه موردی ۴: پیاده‌سازی یک مودم رادیو نرم‌افزاری (SDR) بهینه
• 94. دیباگ کردن کدهای موازی: چالش‌ها و ابزارها (CUDA-GDB, GDB for threads)
• 95. بهینه‌سازی برای معماری‌های سخت‌افزاری خاص (CPU/GPU-specific tuning)
• 96. آشنایی با شتاب‌دهنده‌های دیگر: FPGA و نقش آن‌ها در پردازش سیگنال
• 97. نگاهی به آینده: یادگیری ماشین و هوش مصنوعی در بهینه‌سازی الگوریتم‌ها
• 98. مدیریت وابستگی‌ها و ساخت پروژه‌های HPC با ابزارهایی مانند CMake
• 99. جمع‌بندی تکنیک‌های بهینه‌سازی: یک چک‌لیست جامع برای توسعه‌دهندگان
• 100. پروژه نهایی: بهینه‌سازی یک الگوریتم جامع پردازش سیگنال از ابتدا تا انتها