فلش‌کارت‌های آموزشی طراحی و پیاده‌سازی الگوریتم‌های موازی کارآمد

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره طراحی و پیاده‌سازی الگوریتم‌های موازی کارآمد

موضوع کلی: برنامه نویسی

موضوع میانی: محاسبات سطح بالا (High-Performance Computing)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر محاسبات سطح بالا (HPC)
• 2. معماری کامپیوتر و ارتباط آن با HPC
• 3. مفاهیم پایه‌ای موازی‌سازی
• 4. انواع موازی‌سازی: داده، وظیفه، خط لوله
• 5. مدل‌های برنامه‌نویسی موازی: حافظه اشتراکی، حافظه توزیع‌شده
• 6. معماری‌های موازی: SIMD، MIMD
• 7. شاخص‌های ارزیابی کارایی: سرعت‌افزایی، بازدهی، مقیاس‌پذیری
• 8. قانون اَمدال و محدودیت‌های موازی‌سازی
• 9. مقدمه‌ای بر OpenMP
• 10. ساختار کلی OpenMP
• 11. دستورالعمل‌های OpenMP برای حلقه‌ها
• 12. دستورالعمل‌های OpenMP برای بخش‌ها
• 13. متغیرهای خصوصی و اشتراکی در OpenMP
• 14. مدیریت داده در OpenMP
• 15. همگام‌سازی در OpenMP: قفل‌ها و مناطق بحرانی
• 16. کاهش (Reduction) در OpenMP
• 17. زمان‌بندی حلقه‌ها در OpenMP
• 18. بهینه‌سازی OpenMP: داده‌محلی‌سازی
• 19. مقدمه‌ای بر MPI
• 20. ساختار کلی MPI
• 21. ارتباط نقطه به نقطه در MPI
• 22. ارتباط جمعی در MPI
• 23. انواع داده در MPI
• 24. مدیریت ارتباطات در MPI
• 25. توپولوژی‌های ارتباطی در MPI
• 26. مباحث پیشرفته MPI: ارتباطات غیرمسدود کننده
• 27. مباحث پیشرفته MPI: پنجره‌های دسترسی از راه دور (RMA)
• 28. بهینه‌سازی MPI: کاهش تاخیر، افزایش پهنای باند
• 29. الگوریتم‌های مرتب‌سازی موازی: مرتب‌سازی ادغامی موازی
• 30. الگوریتم‌های مرتب‌سازی موازی: مرتب‌سازی سریع موازی
• 31. الگوریتم‌های مرتب‌سازی موازی: مرتب‌سازی سطلی موازی
• 32. الگوریتم‌های مرتب‌سازی موازی: مرتب‌سازی رادیکس موازی
• 33. مقدمه‌ای بر کتابخانه‌های محاسباتی: BLAS, LAPACK
• 34. بهینه‌سازی BLAS و LAPACK برای HPC
• 35. حل دستگاه‌های معادلات خطی به صورت موازی
• 36. محاسبه مقادیر ویژه و بردارهای ویژه به صورت موازی
• 37. محاسبه انتگرال‌ها به صورت موازی: روش‌های مونت‌کارلو
• 38. محاسبه انتگرال‌ها به صورت موازی: روش‌های ذوزنقه‌ای و سیمپسون
• 39. حل معادلات دیفرانسیل معمولی به صورت موازی
• 40. حل معادلات دیفرانسیل پاره‌ای به صورت موازی: روش تفاضل محدود
• 41. حل معادلات دیفرانسیل پاره‌ای به صورت موازی: روش المان محدود
• 42. مقدمه‌ای بر CUDA
• 43. معماری CUDA
• 44. برنامه‌نویسی CUDA: هسته‌ها و بلاک‌ها
• 45. مدیریت حافظه در CUDA: global, shared, registers
• 46. همگام‌سازی در CUDA
• 47. بهینه‌سازی CUDA: حافظه‌محلی‌سازی
• 48. بهینه‌سازی CUDA: ادغام حافظه
• 49. بهینه‌سازی CUDA: استفاده از بافت‌ها
• 50. مقدمه‌ای بر OpenCL
• 51. معماری OpenCL
• 52. برنامه‌نویسی OpenCL: هسته‌ها و کار آیتم‌ها
• 53. مدیریت حافظه در OpenCL
• 54. بهینه‌سازی OpenCL
• 55. پروفایلینگ و عیب‌یابی برنامه‌های موازی
• 56. ابزارهای پروفایلینگ: gprof, perf
• 57. ابزارهای پروفایلینگ: Intel VTune Amplifier
• 58. ابزارهای پروفایلینگ: NVIDIA Nsight Systems
• 59. عیب‌یابی برنامه‌های موازی: خطا یابی مسابقه داده (Data Race)
• 60. عیب‌یابی برنامه‌های موازی: بن بست (Deadlock)
• 61. مقدمه‌ای بر سیستم‌عامل‌های HPC
• 62. مدیریت منابع در HPC
• 63. زمان‌بندی وظایف در HPC
• 64. سیستم‌های فایل توزیع شده
• 65. مباحث پیشرفته HPC: محاسبات ناهمگن
• 66. مباحث پیشرفته HPC: یادگیری ماشین موازی
• 67. مباحث پیشرفته HPC: تحلیل داده‌های بزرگ
• 68. مباحث پیشرفته HPC: شبیه‌سازی‌های علمی
• 69. بهینه‌سازی برنامه‌ها برای GPUها
• 70. بهینه‌سازی برنامه‌ها برای CPUها
• 71. استفاده از شتاب‌دهنده‌ها (Accelerators) در HPC
• 72. طراحی الگوریتم‌های تحمل‌پذیر خطا (Fault-Tolerant)
• 73. روش‌های تست و اعتبارسنجی برنامه‌های موازی
• 74. مقدمه‌ای بر معماری‌های توزیع شده
• 75. محاسبات ابری برای HPC
• 76. مجازی‌سازی در HPC
• 77. کانتینرها (Containers) در HPC
• 78. مدیریت داده‌های بزرگ در HPC
• 79. شبکه‌های با سرعت بالا برای HPC
• 80. امنیت در HPC
• 81. مصرف انرژی در HPC و راهکارهای کاهش آن
• 82. بررسی موردی: شبیه‌سازی مولکولی موازی
• 83. بررسی موردی: دینامیک سیالات محاسباتی موازی
• 84. بررسی موردی: پردازش تصویر موازی
• 85. بررسی موردی: محاسبات مالی موازی
• 86. مقدمه‌ای بر الگوریتم‌های ترکیبی (Hybrid Algorithms)
• 87. ترکیب OpenMP و MPI
• 88. ترکیب CUDA و MPI
• 89. استفاده از کتابخانه‌های تخصصی برای HPC
• 90. تکنیک‌های کاهش ارتباطات (Communication Reducing Techniques)
• 91. الگوریتم‌های مبتنی بر گراف برای HPC
• 92. بهینه‌سازی I/O در برنامه‌های موازی
• 93. روش‌های بصری‌سازی داده‌های HPC
• 94. تکنیک‌های موازی‌سازی تکرار شونده
• 95. مقدمه‌ای بر الگوریتم‌های ژنتیک موازی
• 96. مقدمه‌ای بر شبکه‌های عصبی عمیق موازی
• 97. بررسی موردی: پیاده‌سازی یک الگوریتم یادگیری ماشین عمیق موازی
• 98. تکنیک‌های ارزیابی و مقایسه عملکرد الگوریتم‌های موازی
• 99. روش‌های اتوتیونینگ (Auto-tuning) برای HPC
• 100. مباحث نوین در معماری‌های HPC