دوره آموزش برنامه‌نویسی parallel با CUDA همراه با فلش‌کارت آموزشی — ارائه روی فلش مموری

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره آموزش برنامه‌نویسی parallel با CUDA

موضوع کلی: برنامه نویسی

موضوع میانی: زبان‌های برنامه‌نویسی**

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر محاسبات موازی و معماری GPU
• 2. معماری سخت‌افزاری CUDA: Streaming Multiprocessors و Warp
• 3. نصب و راه‌اندازی CUDA Toolkit و تنظیم محیط توسعه
• 4. ساختار یک برنامه CUDA: Host و Device
• 5. مدل اجرای Kernel: Grid، Block و Thread
• 6. شاخص‌گذاری Threadها و نگاشت به داده
• 7. مدیریت حافظه Device: cudaMalloc و cudaMemcpy
• 8. مفاهیم Bandwidth و Latency در حافظه GPU
• 9. انواع حافظه در CUDA: Global، Shared، Local
• 10. بهینه‌سازی دسترسی به حافظه Global با Coalescing
• 11. حافظه Shared و کاربرد آن در کاهش پهنای باند
• 12. همگام‌سازی Threadها با __syncthreads
• 13. عملیات اتمی در CUDA و مدیریت Race Condition
• 14. پروفایلینگ با NVIDIA Nsight و ابزارهای تحلیل
• 15. معرفی کتابخانه Thrust برای الگوریتم‌های موازی
• 16. برنامه‌نویسی با Streamها و هم‌پوشانی عملیات
• 17. مدیریت خطا و بررسی بازگشت توابع CUDA
• 18. بهینه‌سازی Occupancy و تنظیم اندازه Block
• 19. الگوریتم کاهش (Reduction) موازی در CUDA
• 20. پیاده‌سازی جمع برداری و ضرب ماتریس
• 21. الگوریتم مرتب‌سازی موازی: Bitonic Sort
• 22. الگوریتم Scan (Prefix Sum) موازی
• 23. مدیریت حافظه Unified Memory و تفاوت آن
• 24. استفاده از حافظه Constant و Texture
• 25. تکنیک‌های پیش‌بینی Branch در Warp
• 26. برنامه‌نویسی CUDA با کتابخانه cuBLAS
• 27. مبانی محاسبات Sparse با cuSPARSE
• 28. عملیات FFT با کتابخانه cuFFT
• 29. مقدمه‌ای بر Tensor Cores و کاربرد در یادگیری عمیق
• 30. استفاده از CUDA در پایتون با PyCUDA و Numba
• 31. دیباگینگ کد CUDA با cuda-gdb
• 32. مدل حافظه CUDA: Visibility و Consistency
• 33. بهینه‌سازی حلقه‌ها و Unrolling در Kernel
• 34. محاسبات با دقت پایین (Half Precision) در CUDA
• 35. تکنیک‌های انتقال داده ناهم‌زمان
• 36. استفاده از Multiple GPU با CUDA
• 37. مدیریت Context و Device در محیط‌های چند GPU
• 38. الگوریتم‌های تصویربرداری و پردازش تصویر با CUDA
• 39. شبیه‌سازی دینامیک مولکولی و N-Body با CUDA
• 40. پیاده‌سازی شبکه‌های عصبی ساده با CUDA
• 41. مفاهیم Cooperative Groups و همکاری Blockها
• 42. برنامه‌نویسی CUDA در معماری‌های جدید (Ampere, Hopper)
• 43. بهینه‌سازی مصرف انرژی در برنامه‌های CUDA
• 44. استفاده از Dynamic Parallelism در CUDA
• 45. الگوریتم‌های گراف موازی با CUDA
• 46. مدیریت استثنا و خطاهای حافظه در CUDA
• 47. تکنیک‌های Profiling مبتنی بر Metric
• 48. بهینه‌سازی Warp Shuffle برای کاهش حافظه Shared
• 49. محاسبات تصادفی و Random Number Generation در GPU
• 50. مقایسه عملکرد CPU و GPU در بارهای کاری مختلف
• 51. مبانی OpenACC و انتقال کد از CUDA
• 52. یکپارچه‌سازی CUDA با MPI برای محاسبات توزیع‌شده
• 53. مدل برنامه‌نویسی Heterogeneous با CPU و GPU
• 54. پیاده‌سازی الگوریتم‌های جستجوی موازی
• 55. بهینه‌سازی کد برای کاهش Divergence در Warp
• 56. تکنیک‌های پیشرفته مدیریت حافظه: Pooling و Pinning
• 57. استفاده از CUDA Graph برای کاهش Overhead
• 58. توسعه Kernelهای بهینه با Intrinsics
• 59. مفاهیم Time-Slicing و Priority در Streamها
• 60. برنامه‌نویسی Real-time با CUDA و محدودیت‌ها
• 61. پیاده‌سازی فیلترهای عددی و سیگنال با CUDA
• 62. الگوریتم‌های رمزنگاری موازی با CUDA
• 63. مدیریت پروژه‌های بزرگ CUDA با Makefile و CMake
• 64. ارزیابی عملکرد و Benchmarking در CUDA