ترجمه فارسی مقاله حافظه کمتر به معنای GPUهای کوچکتر است: انتشار پس زمینه با فعال سازی فشرده

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

عنوان مقاله به انگلیسی Less Memory Means smaller GPUs: Backpropagation with Compressed Activations
عنوان مقاله به فارسی حافظه کمتر به معنای GPUهای کوچکتر است: انتشار پس زمینه با فعال سازی فشرده
نویسندگان Daniel Barley, Holger Fröning
فرمت مقاله انگلیسی PDF
تعداد صفحات 12
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Machine Learning,یادگیری ماشین ,
توضیحات Submitted 18 September, 2024; originally announced September 2024. , Comments: Presented at ITEM workshop co-located with ECML PKDD 2024, Vilnius LT
توضیحات به فارسی ارائه شده در 18 سپتامبر 2024 ؛در ابتدا در سپتامبر 2024 اعلام شد. ، نظرات: ارائه شده در کارگاه آیتم که با ECML PKDD 2024 ، Vilnius LT همراه است
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

The ever-growing scale of deep neural networks (DNNs) has lead to an equally rapid growth in computational resource requirements. Many recent architectures, most prominently Large Language Models, have to be trained using supercomputers with thousands of accelerators, such as GPUs or TPUs. Next to the vast number of floating point operations the memory footprint of DNNs is also exploding. In contrast, GPU architectures are notoriously short on memory. Even comparatively small architectures like some EfficientNet variants cannot be trained on a single consumer-grade GPU at reasonable mini-batch sizes. During training, intermediate input activations have to be stored until backpropagation for gradient calculation. These make up the vast majority of the memory footprint. In this work we therefore consider compressing activation maps for the backward pass using pooling, which can reduce both the memory footprint and amount of data movement. The forward computation remains uncompressed. We empirically show convergence and study effects on feature detection at the example of the common vision architecture ResNet. With this approach we are able to reduce the peak memory consumption by 29% at the cost of a longer training schedule, while maintaining prediction accuracy compared to an uncompressed baseline.

چکیده به فارسی (ترجمه ماشینی)

مقیاس روزافزون شبکه های عصبی عمیق (DNN) منجر به رشد به همان اندازه سریع در نیازهای منابع محاسباتی شده است.بسیاری از معماری های اخیر ، برجسته ترین مدل های بزرگ زبان ، باید با استفاده از ابر رایانه هایی با هزاران شتاب دهنده مانند GPU یا TPU آموزش داده شوند.در کنار تعداد زیادی از عملیات نقطه شناور ، ردپای حافظه DNN ها نیز در حال انفجار است.در مقابل ، معماری های GPU از نظر حافظه بسیار کوتاه است.حتی معماری های نسبتاً کوچک مانند برخی از انواع کارآمد نمی توانند در یک GPU با درجه مصرف کننده واحد در اندازه های مینی دسته ای معقول آموزش ببینند.در طول آموزش ، فعال سازی های ورودی متوسط ​​باید تا زمان بازگشت به محاسبه شیب ذخیره شوند.اینها اکثریت قریب به اتفاق اثر حافظه را تشکیل می دهند.بنابراین در این کار ما فشرده سازی نقشه های فعال سازی را برای گذرگاه عقب با استفاده از استخر در نظر می گیریم ، که می تواند هم ردپای حافظه و هم میزان حرکت داده را کاهش دهد.محاسبه رو به جلو فشرده نشده است.ما به صورت تجربی اثرات همگرایی و مطالعه بر روی تشخیص ویژگی را در نمونه ای از معماری دید مشترک نشان می دهیم.با این رویکرد ما می توانیم با هزینه یک برنامه آموزشی طولانی تر ، 29 ٪ مصرف اوج را کاهش دهیم ، ضمن حفظ دقت پیش بینی در مقایسه با یک پایه فشرده نشده.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.