فلش‌کارت‌های آموزشی مبانی الگوریتم‌های موازی

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره مبانی الگوریتم‌های موازی

موضوع کلی: برنامه نویسی

موضوع میانی: محاسبات سطح بالا (High-Performance Computing)

📋 سرفصل‌های دوره

• 1. مبانی الگوریتم‌های موازی
• 2. آشنایی با مفاهیم پایه: چرا به محاسبات موازی نیاز داریم؟
• 3. معرفی معماری‌های کامپیوتری: حافظه اشتراکی، حافظه توزیع‌شده، هیبریدی
• 4. مدل‌های برنامه‌نویسی موازی: پردازش داده‌ها، پردازش وظایف، داده‌محور
• 5. مفاهیم اولیه: همزمانی، موازی‌سازی، توالی
• 6. قانون آمدهال و قانون گستف: محدودیت‌های سرعت بخشیدن
• 7. معرفی MPI: مبانی و ساختارهای اولیه
• 8. پیاده‌سازی Hello World با MPI
• 9. ارتباطات نقطه به نقطه در MPI: ارسال و دریافت
• 10. ارتباطات جمعی در MPI: جمع، ضرب، پخش
• 11. آشنایی با گروه‌ها و ارتباط‌دهنده‌ها در MPI
• 12. مدیریت خطا در MPI
• 13. معرفی OpenMP: مبانی و دستورالعمل‌های اولیه
• 14. پیاده‌سازی Hello World با OpenMP
• 15. مفاهیم اولیه OpenMP: بخش‌های موازی، دستورالعمل‌ها
• 16. آشنایی با متغیرهای مشترک و خصوصی در OpenMP
• 17. همگام‌سازی در OpenMP: قفل‌ها، اتمیک‌ها
• 18. آشنایی با ترازوهای بار در OpenMP
• 19. مقایسه MPI و OpenMP: مزایا و معایب
• 20. آشنایی با کتابخانه‌های موازی: BLAS، LAPACK
• 21. معرفی الگوریتم‌های مرتب‌سازی موازی
• 22. مرتب‌سازی سریع موازی با MPI
• 23. مرتب‌سازی ادغامی موازی با MPI و OpenMP
• 24. حل معادلات خطی موازی: روش‌های مستقیم
• 25. حل معادلات خطی موازی: روش‌های تکراری
• 26. معرفی الگوریتم‌های گراف موازی
• 27. جستجوی گسترده اول (BFS) موازی
• 28. جستجوی عمق اول (DFS) موازی
• 29. الگوریتم‌های کوتاهترین مسیر (Dijkstra) موازی
• 30. مبانی الگوریتم‌های موازی در پردازش تصویر
• 31. فیلتر کردن تصویر به صورت موازی
• 32. تبدیلات فوریه گسسته (FFT) موازی
• 33. آشنایی با CUDA: معماری و مفاهیم پایه
• 34. نصب و راه‌اندازی CUDA
• 35. ساختار یک هسته CUDA
• 36. مدیریت حافظه در CUDA: میزبان و دستگاه
• 37. الگوریتم‌های CUDA: جمع برداری، ضرب ماتریس
• 38. مفاهیم پیشرفته CUDA: Warp، Block
• 39. همگام‌سازی در CUDA: __syncthreads()
• 40. الگوریتم‌های موازی در یادگیری ماشینی
• 41. موازی‌سازی آموزش شبکه‌های عصبی
• 42. پیاده‌سازی موازی الگوریتم‌های خوشه‌بندی
• 43. موازی‌سازی درخت‌های تصمیم
• 44. بهینه‌سازی عملکرد برنامه‌های موازی
• 45. پروفایل کردن و عیب‌یابی برنامه‌های موازی
• 46. ابزارهای پروفایلینگ: Valgrind، Intel VTune
• 47. استفاده از ابزارهای اشکال‌زدایی: GDB، TotalView
• 48. موازی‌سازی I/O: خواندن و نوشتن داده‌ها
• 49. مدیریت حافظه در برنامه‌های موازی: تخصیص و آزادسازی
• 50. آشنایی با سیستم‌های فایل موازی
• 51. سیستم فایل Lustre
• 52. سیستم فایل GPFS
• 53. آشنایی با پردازنده‌های چند هسته‌ای و معماری NUMA
• 54. تاثیر معماری حافظه بر عملکرد برنامه‌های موازی
• 55. بهینه‌سازی کد برای معماری‌های مختلف
• 56. معرفی OpenCL: برنامه‌نویسی موازی ناهمگن
• 57. ساختارهای داده در OpenCL
• 58. مدیریت حافظه در OpenCL
• 59. مثال‌های OpenCL: پردازش تصویر، پردازش سیگنال
• 60. آشنایی با کتابخانه‌های Pthreads
• 61. استفاده از Pthreads برای موازی‌سازی
• 62. همگام‌سازی با Pthreads: mutex، شرط‌ها
• 63. آشنایی با الگوریتم‌های تقسیم و حل (Divide and Conquer) موازی
• 64. پیاده‌سازی الگوریتم‌های موازی با تقسیم و حل
• 65. تحلیل پیچیدگی زمانی الگوریتم‌های موازی
• 66. ارزیابی عملکرد برنامه‌های موازی: سرعت بخشیدن، کارایی
• 67. اندازه‌گیری عملکرد: زمان اجرا، سربار
• 68. مطالعه موردی: شبیه‌سازی‌های علمی
• 69. شبیه‌سازی دینامیک مولکولی موازی
• 70. شبیه‌سازی دینامیک سیالات محاسباتی (CFD) موازی
• 71. شبیه‌سازی آب و هوا موازی
• 72. آشنایی با ابر رایانه‌ها (Supercomputers)
• 73. ساختار و معماری ابر رایانه‌ها
• 74. شبکه‌های اتصال در ابر رایانه‌ها: InfiniBand
• 75. آشنایی با مفهوم GPU خوشه (GPU Clusters)
• 76. استفاده از GPU خوشه برای محاسبات موازی
• 77. آشنایی با مفهوم MapReduce
• 78. پیاده‌سازی MapReduce
• 79. MapReduce در Apache Hadoop
• 80. معرفی Spark و برنامه‌نویسی RDD
• 81. آشنایی با جریان داده‌ها (Data Streams)
• 82. پردازش جریان داده‌ها با Spark Streaming
• 83. طراحی و معماری نرم‌افزارهای موازی
• 84. الگوهای طراحی موازی: تقسیم و غلبه، کارگران موازی
• 85. آشنایی با الگوریتم‌های ناهمزمان (Asynchronous)
• 86. الگوریتم‌های ناهمزمان در برنامه‌های موازی
• 87. کاربرد الگوریتم‌های ناهمزمان در شبکه‌های حسگر
• 88. آشنایی با الگوریتم‌های خودتنظیم (Self-tuning)
• 89. بهینه‌سازی خودکار برنامه‌های موازی
• 90. آشنایی با انرژی و محاسبات موازی
• 91. مدیریت مصرف انرژی در ابررایانه‌ها
• 92. آشنایی با محاسبات کوانتومی و موازی‌سازی
• 93. آشنایی با پردازش ابری (Cloud Computing)
• 94. موازی‌سازی در محیط‌های ابری
• 95. امنیت در محاسبات موازی
• 96. مدیریت خطا و تحمل خطا در برنامه‌های موازی
• 97. آشنایی با کتابخانه‌های C++ برای محاسبات موازی: Intel TBB
• 98. آشنایی با کتابخانه‌های C++ برای محاسبات موازی: HPX
• 99. بررسی روندها و آینده محاسبات موازی
• 100. چالش‌ها و فرصت‌های محاسبات موازی