ترجمه فارسی مقاله PAL: یک خط‌مشی آگاه از تغییرپذیری برای زمان‌بندی بارهای کاری ML در خوشه‌های GPU

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

عنوان مقاله به انگلیسی PAL: A Variability-Aware Policy for Scheduling ML Workloads in GPU Clusters
عنوان مقاله به فارسی PAL: یک خط‌مشی آگاه از تغییرپذیری برای زمان‌بندی بارهای کاری ML در خوشه‌های GPU
نویسندگان Rutwik Jain, Brandon Tran, Keting Chen, Matthew D. Sinclair, Shivaram Venkataraman
فرمت مقاله انگلیسی PDF
تعداد صفحات 14
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Distributed, Parallel, and Cluster Computing,محاسبات توزیع شده , موازی و خوشه ای ,
توضیحات Submitted 19 September, 2024; v1 submitted 21 August, 2024; originally announced August 2024.
توضیحات به فارسی ارسال شده در 19 سپتامبر 2024 ؛V1 ارسال شده 21 اوت 2024 ؛در ابتدا اوت 2024 اعلام شد.
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Large-scale computing systems are increasingly using accelerators such as GPUs to enable peta- and exa-scale levels of compute to meet the needs of Machine Learning (ML) and scientific computing applications. Given the widespread and growing use of ML, including in some scientific applications, optimizing these clusters for ML workloads is particularly important. However, recent work has demonstrated that accelerators in these clusters can suffer from performance variability and this variability can lead to resource under-utilization and load imbalance. In this work we focus on how clusters schedulers, which are used to share accelerator-rich clusters across many concurrent ML jobs, can embrace performance variability to mitigate its effects. Our key insight to address this challenge is to characterize which applications are more likely to suffer from performance variability and take that into account while placing jobs on the cluster. We design a novel cluster scheduler, PAL, which uses performance variability measurements and application-specific profiles to improve job performance and resource utilization. PAL also balances performance variability with locality to ensure jobs are spread across as few nodes as possible. Overall, PAL significantly improves GPU-rich cluster scheduling: across traces for six ML workload applications spanning image, language, and vision models with a variety of variability profiles, PAL improves geomean job completion time by 42%, cluster utilization by 28%, and makespan by 47% over existing state-of-the-art schedulers.

چکیده به فارسی (ترجمه ماشینی)

سیستم های محاسباتی در مقیاس بزرگ به طور فزاینده ای از شتاب دهنده هایی مانند GPU استفاده می کنند تا سطح محاسبات PETA و در مقیاس EXA را فعال کنند تا نیازهای یادگیری ماشین (ML) و برنامه های محاسباتی علمی را برآورده کنند.با توجه به استفاده گسترده و رو به رشد از ML ، از جمله در برخی از کاربردهای علمی ، بهینه سازی این خوشه ها برای بارهای ML از اهمیت ویژه ای برخوردار است.با این حال ، کار اخیر نشان داده است که شتاب دهنده ها در این خوشه ها می توانند از تنوع عملکرد رنج ببرند و این تغییرپذیری می تواند منجر به کمبود منابع و عدم تعادل بار شود.در این کار ما به این موضوع توجه می کنیم که چگونه برنامه ریزان خوشه ها ، که برای به اشتراک گذاشتن خوشه های غنی از شتاب دهنده در بسیاری از مشاغل همزمان ML استفاده می شوند ، می توانند از تنوع عملکرد برای کاهش اثرات آن استفاده کنند.بینش اصلی ما برای پرداختن به این چالش ، توصیف این است که برنامه ها احتمالاً از تنوع عملکرد رنج می برند و ضمن قرار دادن شغل در خوشه ، آن را در نظر می گیرند.ما یک برنامه ریزی خوشه ای جدید ، PAL را طراحی می کنیم ، که از اندازه گیری تنوع عملکرد و پروفایل های خاص برنامه برای بهبود عملکرد شغلی و استفاده از منابع استفاده می کند.PAL همچنین تنوع عملکرد را با محل تعادل برقرار می کند تا اطمینان حاصل شود که شغل ها در هر چند گره ممکن است گسترش یابد.به طور کلی ، PAL به طور قابل توجهی برنامه ریزی خوشه ای غنی از GPU را بهبود می بخشد: در سراسر اثری برای برنامه های بار کاری شش میلی لیتر که مدل های تصویر ، زبان و چشم انداز با انواع پروفایل های تنوع ، PAL زمان تکمیل شغل ژئوم را با 42 ٪ ، استفاده از خوشه 28 ٪ ، و 28 ٪ و استفاده از خوشه ها بهبود می بخشد ، وMakespan توسط 47 ٪ نسبت به برنامه نویسان پیشرفته موجود.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.