فلش‌کارت‌های آموزشی موازی‌سازی پردازش داده؛ از الگوریتم تا سیستم‌های مقیاس‌پذیر

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره موازی‌سازی پردازش داده؛ از الگوریتم تا سیستم‌های مقیاس‌پذیر

موضوع کلی: رایانش موازی و مهندسی پردازش داده

موضوع میانی: تکنیک‌ها و الگوهای موازی‌سازی وظایف پردازش داده

📋 سرفصل‌های دوره

• 1. نقش موازی‌سازی در پردازش داده‌های حجیم و زمان‌حساس
• 2. شاخص‌های شتاب، کارایی، توان عملیاتی و تأخیر
• 3. قانون امدال، قانون گوستافسون و محدودیت‌های مقیاس‌پذیری
• 4. مدل‌های هزینه پردازش، ارتباطات و ورودی و خروجی
• 5. معماری چندهسته‌ای، NUMA و سلسله‌مراتب حافظه
• 6. هم‌زمانی، موازی‌بودن و تفاوت‌های کاربردی آن‌ها
• 7. تجزیه وظیفه، تجزیه داده و انتخاب مرزهای پردازش
• 8. تحلیل وابستگی‌ها و ساخت گراف اجرای موازی
• 9. دانه‌بندی وظایف و نقطه تعادل سربار و هم‌زمانی
• 10. متوازن‌سازی بار ایستا و پویا
• 11. موازی‌سازی داده‌محر با تقسیم مستقل دامنه‌ها
• 12. موازی‌سازی وظیفه‌محر و اجرای ناهم‌گام کارها
• 13. پردازش خط‌لوله‌ای و افزایش توان عملیاتی
• 14. الگوی Divide and Conquer برای الگوریتم‌های داده‌محور
• 15. الگوی Fork/Join و مدیریت کارهای بازگشتی
• 16. مدل MapReduce و چرخه نگاشت، ترکیب و کاهش
• 17. مدل Dataflow و اجرای مبتنی بر گراف عملیات
• 18. مدل Bulk Synchronous Parallel و هماهنگ‌سازی مرحله‌ای
• 19. برنامه‌نویسی نخ‌محور در حافظه مشترک
• 20. الگوهای Thread Pool و محدودسازی هم‌زمانی
• 21. مبانی OpenMP برای حلقه‌ها و ناحیه‌های موازی
• 22. هم‌زمانی با قفل، Semaphore و Condition Variable
• 23. اتمیک‌ها، بخش‌های بحرانی و کاهش قفل‌ها
• 24. شرایط مسابقه، بن‌بست و گرسنگی منابع
• 25. برنامه‌های Lock-Free و نکات ایمنی آن‌ها
• 26. انسجام کش، False Sharing و هم‌ترازسازی داده‌ها
• 27. طراحی ساختار داده‌ای برای دسترسی حافظه کارآمد
• 28. اعتبارسنجی درستی برنامه‌های حافظه مشترک
• 29. معماری GPU و تفاوت CPU با GPU
• 30. نگاشت داده و وظیفه بر هسته‌های GPU
• 31. برنامه‌نویسی CUDA/OpenCL برای عملیات برداری
• 32. بهینه‌سازی حافظه GPU و هم‌خوانی دسترسی‌ها
• 33. ترکیب SIMD، برداری‌سازی خودکار و دستورهای برداری
• 34. معماری حافظه توزیع‌شده و ارتباط پیام‌محور
• 35. مبانی MPI و الگوهای ارسال و دریافت
• 36. عملیات گروهی MPI و الگوهای جمع، پخش و کاهش
• 37. استراتژی‌های پارتیشن‌بندی دامنه، هش و محدوده‌ای
• 38. مدیریت Partition Skew و داده‌های پرتکرار
• 39. طراحی Shuffle و کاهش جابه‌جایی داده بین گره‌ها
• 40. انتخاب و بهینه‌سازی راهکارهای سریال‌سازی
• 41. فشرده‌سازی داده و موازنه CPU، شبکه و دیسک
• 42. الگوهای ارتباطی نقطه‌به‌نقطه، چندبه‌چند و انتشار
• 43. پردازش دسته‌ای و طراحی Jobهای مقیاس‌پذیر
• 44. پردازش جریان داده و معماری رویدادمحور
• 45. پردازش ریزدسته‌ای و انتخاب پنجره زمانی مناسب
• 46. پردازش وضعیت‌دار و مدیریت State در جریان داده
• 47. زمان رویداد، Watermark و تأخیر داده‌ها
• 48. Backpressure و کنترل فشار در خط‌لوله‌های زنده
• 49. تحویل At-least-once، Exactly-once و Idempotency
• 50. معماری Apache Spark و مدل اجرای آن
• 51. طراحی DataFrame و Dataset و بهینه‌سازی Plan
• 52. مدیریت Shuffle، Cache و Persist در Spark
• 53. عیب‌یابی و تنظیم پارامترهای اجرای Spark
• 54. معماری Apache Flink و اجرای جریان‌ها
• 55. State Backend، Checkpoint و Recovery در Flink
• 56. انتخاب Spark، Flink، Dask یا Ray بر اساس نیاز
• 57. قالب‌های ستونی Parquet و ORC و Predicate Pushdown
• 58. سیستم‌های فایل موازی و ذخیره‌سازی شیء
• 59. پارتیشن‌بندی داده در Storage و مشکل فایل‌های کوچک
• 60. زمان‌بندی وظایف و مدیریت منابع خوشه‌ای
• 61. اجرای کانتینری و هماهنگی با Kubernetes
• 62. تحمل خطا، Checkpointing و بازیابی وظایف
• 63. اجرای سفته‌ای و مقابله با گره‌های کند
• 64. کش، Replica و جانمایی داده نزدیک محاسبه
• 65. قطعی‌سازی خروجی و تکرارپذیری پردازش موازی
• 66. کنترل هم‌زمانی، تراکنش و سازگاری در داده‌های مشترک
• 67. پروفایل‌گیری CPU، حافظه، شبکه و I/O
• 68. طراحی بنچمارک معتبر و حذف اثر گرم‌شدن سیستم
• 69. شناسایی گلوگاه‌ها و اولویت‌بندی بهینه‌سازی‌ها
• 70. آزمون مقیاس‌پذیری عمودی، افقی و اندازه داده
• 71. بهینه‌سازی هزینه، انرژی و تخصیص منابع در ابر
• 72. موازی‌سازی Join، Group By و Aggregation
• 73. موازی‌سازی مرتب‌سازی و الگوریتم‌های پنجره‌ای
• 74. پردازش موازی گراف و الگوریتم‌های پیمایش
• 75. طراحی خط‌لوله ETL/ELT موازی از منبع تا مقصد
• 76. دیباگینگ، Observability و ردگیری وظایف توزیع‌شده
• 77. امنیت، جداسازی چنداجاره‌ای و حفاظت از داده
• 78. بازطراحی مسیرهای پردازش سریال برای اجرای موازی
• 79. پروژه نهایی: طراحی معماری یک سامانه پردازش موازی
• 80. پروژه نهایی: پیاده‌سازی، اندازه‌گیری و بهینه‌سازی سامانه