فلش‌کارت‌های آموزشی بهینه‌سازی مدل‌سازی توزیع شده

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره بهینه‌سازی مدل‌سازی توزیع شده

موضوع کلی: برنامه نویسی

موضوع میانی: محاسبات سطح بالا (High-Performance Computing)

📋 سرفصل‌های دوره

• 1. مقدمه ای بر محاسبات سطح بالا (HPC)
• 2. معماری های موازی: مقدمه
• 3. معماری های SIMD و MIMD
• 4. حافظه اشتراکی در مقابل حافظه توزیع شده
• 5. مفاهیم اولیه موازی سازی
• 6. قانون آمدال و قانون گوستافسون
• 7. اندازه گیری کارایی و سرعت
• 8. مقدمه ای بر مدل سازی توزیع شده
• 9. مفاهیم و اهداف مدل سازی توزیع شده
• 10. مزایای مدل سازی توزیع شده
• 11. چالش های مدل سازی توزیع شده
• 12. مقدمه ای بر زبان های برنامه نویسی موازی
• 13. MPI (Message Passing Interface): مفاهیم اولیه
• 14. نصب و پیکربندی MPI
• 15. نوشتن و اجرای برنامه های MPI ساده
• 16. ارسال و دریافت پیام در MPI
• 17. انواع داده در MPI
• 18. ارتباط نقطه به نقطه در MPI
• 19. ارتباط جمعی در MPI
• 20. Broadcast و Scatter
• 21. Gather و Reduce
• 22. Alltoall و Allgather
• 23. بررسی کارایی ارتباطات MPI
• 24. بهینه سازی ارتباطات MPI
• 25. OpenMP: مفاهیم اولیه
• 26. دستورالعمل های OpenMP
• 27. بخش های موازی در OpenMP
• 28. حلقه های موازی در OpenMP
• 29. متغیرهای اشتراکی و خصوصی در OpenMP
• 30. Race Condition و Data Race
• 31. استفاده از Lock ها و Mutex ها در OpenMP
• 32. استراتژی های زمان بندی در OpenMP
• 33. بهینه سازی OpenMP
• 34. CUDA: مفاهیم اولیه
• 35. معماری GPU
• 36. نوشتن و اجرای برنامه های CUDA ساده
• 37. هسته ها (Kernels) در CUDA
• 38. حافظه GPU
• 39. انواع حافظه: Global, Shared, Local, Constant
• 40. انتقال داده بین CPU و GPU
• 41. بهینه سازی حافظه در CUDA
• 42. CUDA Streams و Asynchronous Execution
• 43. OpenCL: مفاهیم اولیه
• 44. مدل OpenCL
• 45. نوشتن و اجرای برنامه های OpenCL ساده
• 46. Kernel ها در OpenCL
• 47. حافظه OpenCL
• 48. انتقال داده در OpenCL
• 49. بهینه سازی OpenCL
• 50. مقدمه ای بر فریم ورک های مدل سازی توزیع شده
• 51. Spark: مفاهیم اولیه
• 52. RDD ها در Spark
• 53. Transformations و Actions در Spark
• 54. نوشتن برنامه های Spark ساده
• 55. بهینه سازی Spark
• 56. Hadoop: مفاهیم اولیه
• 57. MapReduce
• 58. HDFS (Hadoop Distributed File System)
• 59. نوشتن برنامه های MapReduce ساده
• 60. بهینه سازی Hadoop
• 61. Dask: مفاهیم اولیه
• 62. آرایه ها و DataFrames در Dask
• 63. نوشتن برنامه های Dask ساده
• 64. بهینه سازی Dask
• 65. TensorFlow Distributed: مفاهیم اولیه
• 66. استراتژی های توزیع در TensorFlow
• 67. نوشتن برنامه های TensorFlow Distributed ساده
• 68. بهینه سازی TensorFlow Distributed
• 69. PyTorch Distributed: مفاهیم اولیه
• 70. Data Parallelism و Model Parallelism
• 71. نوشتن برنامه های PyTorch Distributed ساده
• 72. بهینه سازی PyTorch Distributed
• 73. بهینه سازی مدل سازی توزیع شده
• 74. Load Balancing
• 75. Communication Overlap
• 76. Data Locality
• 77. Caching
• 78. Profiling و Debugging برنامه های موازی
• 79. استفاده از ابزارهای Profiling
• 80. بهینه سازی الگوریتم ها برای موازی سازی
• 81. الگوریتم های تقسیم و حل (Divide and Conquer)
• 82. الگوریتم های حریصانه (Greedy Algorithms)
• 83. الگوریتم های برنامه ریزی پویا (Dynamic Programming)
• 84. موازی سازی الگوریتم های مرتب سازی (Sorting)
• 85. موازی سازی الگوریتم های جستجو (Searching)
• 86. موازی سازی عملیات ماتریسی (Matrix Operations)
• 87. حل معادلات خطی به صورت موازی
• 88. بهینه سازی شبکه برای محاسبات توزیع شده
• 89. تکنیک های کاهش تاخیر شبکه
• 90. تکنیک های افزایش پهنای باند شبکه
• 91. مدیریت منابع در محاسبات توزیع شده
• 92. زمان بندی کارها
• 93. مدیریت حافظه
• 94. مدیریت CPU
• 95. مقدمه ای بر رایانش ابری (Cloud Computing)
• 96. استفاده از رایانش ابری برای مدل سازی توزیع شده
• 97. AWS، Azure، Google Cloud
• 98. انتخاب سرویس مناسب ابری برای محاسبات HPC
• 99. مفاهیم امنیت در محاسبات توزیع شده
• 100. امنیت داده