فلش‌کارت‌های آموزشی پیاده‌سازی الگوریتم‌های موازی با MPI در پایتون

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره پیاده‌سازی الگوریتم‌های موازی با MPI در پایتون

موضوع کلی: برنامه نویسی

موضوع میانی: محاسبات سطح بالا (High-Performance Computing)

📋 سرفصل‌های دوره

• 1. مقدمه ای بر برنامه نویسی و محاسبات موازی
• 2. آشنایی با مفاهیم CPU و حافظه
• 3. مروری بر معماری های موازی
• 4. مفاهیم کلیدی در محاسبات سطح بالا
• 5. آشنایی با زبان پایتون و محیط های برنامه نویسی
• 6. نصب و پیکربندی پایتون برای HPC
• 7. معرفی کتابخانه های ضروری پایتون (NumPy, SciPy)
• 8. آشنایی با کتابخانه `mpi4py`
• 9. نصب و راه اندازی `mpi4py`
• 10. نوشتن اولین برنامه MPI در پایتون ("Hello, World!")
• 11. مفاهیم اساسی MPI: Communicators و Ranks
• 12. ارسال و دریافت پیام های ساده (Send و Recv)
• 13. ارسال و دریافت انواع داده ها (Data Types)
• 14. آشنایی با Blocking Communication
• 15. آشنایی با Non-Blocking Communication
• 16. مدیریت خطا در MPI
• 17. آشنایی با All-to-All communication
• 18. معرفی گروه ها و Communicators
• 19. تقسیم بندی داده ها (Data Decomposition)
• 20. موازیسازی حلقه ها با MPI
• 21. محاسبه جمع (Summation) با MPI
• 22. محاسبه میانگین (Average) با MPI
• 23. یافتن مینیمم و ماکزیمم (Min/Max) با MPI
• 24. آشنایی با Broadcast
• 25. آشنایی با Gather و Scatter
• 26. کار با آرایه های NumPy و MPI
• 27. کاربرد MPI در جبر خطی (Linear Algebra)
• 28. حل معادله گرما (Heat Equation) با MPI
• 29. پیاده سازی ضرب ماتریس ها با MPI
• 30. اندازه گیری عملکرد (Performance Measurement)
• 31. زمان بندی (Timing) و پروفایل کردن (Profiling)
• 32. آشنایی با MPI_Reduce
• 33. کاربرد Reduce در محاسبات
• 34. آشنایی با Allreduce
• 35. پیاده سازی مرتب سازی با MPI
• 36. مرتب سازی Bitonic با MPI
• 37. معرفی کتابخانه های موازی (Dask, Ray)
• 38. مقایسه MPI با Dask و Ray
• 39. استفاده از Dask برای محاسبات موازی
• 40. استفاده از Ray برای محاسبات موازی
• 41. بهینه سازی کد MPI
• 42. استفاده از MPI در خوشه های محاسباتی
• 43. آشنایی با سیستم های مدیریت کار (Job Scheduling)
• 44. ارسال و اجرای کدهای MPI بر روی خوشه
• 45. عیب یابی کدهای MPI
• 46. مدیریت حافظه در برنامه های MPI
• 47. مبانی Threading در پایتون
• 48. ترکیب MPI و Threading
• 49. مدل های حافظه مشترک و توزیع شده
• 50. آشنایی با کتابخانه `multiprocessing` پایتون
• 51. استفاده از `multiprocessing` برای موازیسازی
• 52. مقایسه MPI، Threading و `multiprocessing`
• 53. معرفی کتابخانه `concurrent.futures`
• 54. استفاده از `concurrent.futures` در پایتون
• 55. کار با فایل ها و ورودی/خروجی در MPI
• 56. خواندن و نوشتن داده ها به صورت موازی
• 57. بهینه سازی I/O در HPC
• 58. آشنایی با MPI I/O
• 59. آشنایی با MPI-IO برای دسترسی موازی به فایل ها
• 60. پیاده سازی الگوریتم های موازی با MPI و NumPy
• 61. بهینه سازی محاسبات با استفاده از SIMD
• 62. آشنایی با CUDA و GPU
• 63. استفاده از GPU برای محاسبات موازی
• 64. الگوریتم های موازی در پردازش تصویر
• 65. الگوریتم های موازی در پردازش سیگنال
• 66. کاربرد MPI در یادگیری ماشین
• 67. پیاده سازی شبکه های عصبی با MPI
• 68. مقیاس پذیری (Scalability) در برنامه های MPI
• 69. تجزیه و تحلیل عملکرد و گلوگاه ها (Bottlenecks)
• 70. استراتژی های بهینه سازی حافظه
• 71. بهینه سازی ارتباطات (Communication Optimization)
• 72. استفاده از پروتکل های ارتباطی سریع
• 73. آشنایی با کتابخانه OpenMP
• 74. ترکیب MPI و OpenMP
• 75. مفاهیم پیشرفته MPI: Window و Remote Memory Access
• 76. معرفی one-sided communication
• 77. آشنایی با Remote Memory Access (RMA)
• 78. استفاده از RMA برای بهینه سازی
• 79. مبانی الگوریتم های موازی گراف
• 80. پیاده سازی الگوریتم های گراف با MPI
• 81. آشنایی با کتابخانه های تخصصی گراف
• 82. مطالعه موردی: شبیه سازی دینامیک سیالات محاسباتی (CFD)
• 83. مطالعه موردی: شبیه سازی اتمی (Molecular Dynamics)
• 84. مطالعه موردی: پردازش داده های بزرگ (Big Data Processing)
• 85. بهینه سازی مصرف انرژی در HPC
• 86. اهمیت محاسبات کوانتومی
• 87. آشنایی با شبیه سازی های Monte Carlo
• 88. کاربرد MPI در شبیه سازی Monte Carlo
• 89. آشنایی با ابزارهای پروفایلینگ پیشرفته
• 90. استفاده از ابزارهای پروفایلینگ برای بهینه سازی
• 91. آشنایی با کتابخانه های HPC C/C++ (BLAS, LAPACK)
• 92. کاربرد کتابخانه های C/C++ در پایتون با MPI
• 93. آشنایی با زبان های جدید HPC (Julia, Fortran)
• 94. مقایسه زبان ها و کتابخانه های HPC
• 95. امنیت در محیط های HPC
• 96. آینده محاسبات سطح بالا
• 97. بهترین شیوه ها در برنامه نویسی MPI
• 98. ابزارهای تست و اعتبارسنجی کد MPI
• 99. مستندسازی و توسعه کد با MPI
• 100. معرفی کتابخانه های دیگر مرتبط با HPC