ترجمه فارسی مقاله مجازیسازی واحدهای پردازش عصبی به کمک سختافزار برای پلتفرمهای ابری
| عنوان مقاله به انگلیسی | Hardware-Assisted Virtualization of Neural Processing Units for Cloud Platforms |
| عنوان مقاله به فارسی | مجازیسازی واحدهای پردازش عصبی به کمک سختافزار برای پلتفرمهای ابری |
| نویسندگان | Yuqi Xue, Yiqi Liu, Lifeng Nai, Jian Huang |
| فرمت مقاله انگلیسی | |
| تعداد صفحات | 16 |
| دسته بندی موضوعات | Hardware Architecture,Artificial Intelligence,Machine Learning,Operating Systems,معماری سخت افزار , هوش مصنوعی , یادگیری ماشین , سیستم عامل ها , |
| توضیحات | Submitted 12 September, 2024; v1 submitted 7 August, 2024; originally announced August 2024. , Comments: Accepted to MICRO'24 |
| توضیحات به فارسی | ارسال شده 12 سپتامبر 2024 ؛V1 ارسال شده در 7 اوت 2024 ؛در ابتدا اوت 2024 اعلام شد. ، نظرات: پذیرفته شده برای Micro'24 |
قیمت: 19,000 تومان
سفارش
با انتخاب این گزینه، علاوه بر دریافت مقاله اصلی، را نیز سفارش میدهید.
قیمت: 640,000 تومان
زمان تحویل: 2 تا 3 روز کاری
📚 محتوای این محصول آموزشی (پکیج کامل)
علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیقتر و تسلط کامل بر مباحث مجموعهای از کتابهای آموزشی نیز ارائه میشود.
-
کتاب صدها نکته فارسی (خودمونی) – نسخه PDF — زبان ساده و کاربردی
مشاهده نمونه نسخه نکات ساده -
کتاب صدها نکته رسمی فارسی – نسخه PDF — نگارش استاندارد و علمی
مشاهده نمونه نسخه نکات رسمی -
کتاب صدها پرسش و پاسخ تشریحی – نسخه PDF
— هر سؤال همراه با پاسخ کامل برای درک عمیق مفاهیم
مشاهده نمونه نسخه پرسش و پاسخ -
کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع -
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
- این محصول به صورت فایل دانلودی کامل ارائه میشود.
- توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
- دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
- برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
- اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی:
واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248
تلگرام: @ma_limbs
چکیده
Cloud platforms today have been deploying hardware accelerators like neural processing units (NPUs) for powering machine learning (ML) inference services. To maximize the resource utilization while ensuring reasonable quality of service, a natural approach is to virtualize NPUs for efficient resource sharing for multi-tenant ML services. However, virtualizing NPUs for modern cloud platforms is not easy. This is not only due to the lack of system abstraction support for NPU hardware, but also due to the lack of architectural and ISA support for enabling fine-grained dynamic operator scheduling for virtualized NPUs. We present Neu10, a holistic NPU virtualization framework. We investigate virtualization techniques for NPUs across the entire software and hardware stack. Neu10 consists of (1) a flexible NPU abstraction called vNPU, which enables fine-grained virtualization of the heterogeneous compute units in a physical NPU (pNPU); (2) a vNPU resource allocator that enables pay-as-you-go computing model and flexible vNPU-to-pNPU mappings for improved resource utilization and cost-effectiveness; (3) an ISA extension of modern NPU architecture for facilitating fine-grained tensor operator scheduling for multiple vNPUs. We implement Neu10 based on a production-level NPU simulator. Our experiments show that Neu10 improves the throughput of ML inference services by up to 1.4$times$ and reduces the tail latency by up to 4.6$times$, while improving the NPU utilization by 1.2$times$ on average, compared to state-of-the-art NPU sharing approaches.
چکیده به فارسی (ترجمه ماشینی)
سیستم عامل های ابری امروزه شتاب دهنده های سخت افزاری مانند واحدهای پردازش عصبی (NPU) را برای خدمات استنتاج یادگیری ماشین (ML) به کار می گیرند.برای به حداکثر رساندن استفاده از منابع ضمن اطمینان از کیفیت مناسب خدمات ، یک رویکرد طبیعی برای مجازی سازی NPU ها برای اشتراک منابع کارآمد برای خدمات ML چند مستاجر است.با این حال ، مجازی سازی NPU ها برای سیستم عامل های ابر مدرن آسان نیست.این نه تنها به دلیل عدم پشتیبانی از انتزاع سیستم برای سخت افزار NPU ، بلکه به دلیل عدم پشتیبانی معماری و ISA برای فعال کردن برنامه ریزی اپراتور پویا ریز دانه برای NPU های مجازی است.ما Neu10 ، یک چارچوب مجازی سازی NPU جامع را ارائه می دهیم.ما تکنیک های مجازی سازی برای NPU ها را در کل نرم افزار و پشته سخت افزار بررسی می کنیم.Neu10 از (1) یک انتزاع انعطاف پذیر NPU به نام VNPU تشکیل شده است ، که مجازی سازی ریز دانه واحدهای محاسباتی ناهمگن را در یک NPU فیزیکی (PNPU) امکان پذیر می کند.(2) یک تخصیص دهنده منبع VNPU که مدل محاسبات Pay-as-Go و نگاشتهای انعطاف پذیر VNPU-PNPU را برای بهبود استفاده از منابع و مقرون به صرفه امکان پذیر می کند.(3) گسترش ISA از معماری مدرن NPU برای تسهیل برنامه ریزی اپراتور ریز ریز ریز دانه برای چندین VNPU.ما NEU10 را بر اساس یک شبیه ساز NPU در سطح تولید پیاده سازی می کنیم.آزمایشات ما نشان می دهد که NEU10 توان تولید خدمات استنتاج ML را تا 1.4 $ $ $ بهبود می بخشد و تأخیر دم را تا 4.6 $ برابر $ کاهش می دهد ، در حالی که به طور متوسط 1.2 $ $ در مقایسه با 1.2 $ $ بهبود می یابد ، در مقایسه بارویکردهای به اشتراک گذاری NPU پیشرفته.📚 محتوای این محصول آموزشی (پکیج کامل)
علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیقتر و تسلط کامل بر مباحث مجموعهای از کتابهای آموزشی نیز ارائه میشود.
-
کتاب صدها نکته فارسی (خودمونی) – نسخه PDF — زبان ساده و کاربردی
مشاهده نمونه نسخه نکات ساده -
کتاب صدها نکته رسمی فارسی – نسخه PDF — نگارش استاندارد و علمی
مشاهده نمونه نسخه نکات رسمی -
کتاب صدها پرسش و پاسخ تشریحی – نسخه PDF
— هر سؤال همراه با پاسخ کامل برای درک عمیق مفاهیم
مشاهده نمونه نسخه پرسش و پاسخ -
کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع -
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
- این محصول به صورت فایل دانلودی کامل ارائه میشود.
- توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
- دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
- برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
- اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی:
واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248
تلگرام: @ma_limbs
نظرات
هنوز نظری ثبت نشده است.
وارد شوید تا نظر ثبت کنید.