ترجمه فارسی مقاله BBS: پراکندگی سطح بیت دو جهته برای شتاب یادگیری عمیق

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

پرداخت اقساطی
در صورت خرید اقساطی هر قسط: 37,500 تومان
۴ قسط ماهانه. بدون سود، چک و ضامن.
پرداخت اقساطی با دیجی‌پی پرداخت اقساطی با ترب‌پی
عنوان مقاله به انگلیسی BBS: Bi-directional Bit-level Sparsity for Deep Learning Acceleration
عنوان مقاله به فارسی BBS: پراکندگی سطح بیت دو جهته برای شتاب یادگیری عمیق
نویسندگان Yuzong Chen, Jian Meng, Jae-sun Seo, Mohamed S. Abdelfattah
فرمت مقاله انگلیسی PDF
تعداد صفحات 14
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Machine Learning,Hardware Architecture,یادگیری ماشین , معماری سخت افزار ,
توضیحات Submitted 8 September, 2024; originally announced September 2024. , Comments: Accepted by IEEE/ACM MICRO 2024
توضیحات به فارسی ارسال شده در 8 سپتامبر 2024 ؛در ابتدا در سپتامبر 2024 اعلام شد. ، نظرات: پذیرفته شده توسط IEEE/ACM Micro 2024
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Bit-level sparsity methods skip ineffectual zero-bit operations and are typically applicable within bit-serial deep learning accelerators. This type of sparsity at the bit-level is especially interesting because it is both orthogonal and compatible with other deep neural network (DNN) efficiency methods such as quantization and pruning. In this work, we improve the practicality and efficiency of bitlevel sparsity through a novel algorithmic bit-pruning, averaging, and compression method, and a co-designed efficient bit-serial hardware accelerator. On the algorithmic side, we introduce bidirectional bit sparsity (BBS). The key insight of BBS is that we can leverage bit sparsity in a symmetrical way to prune either zero-bits or one-bits. This significantly improves the load balance of bit-serial computing and guarantees the level of sparsity to be more than 50%. On top of BBS, we further propose two bit-level binary pruning methods that require no retraining, and can be seamlessly applied to quantized DNNs. Combining binary pruning with a new tensor encoding scheme, BBS can both skip computation and reduce the memory footprint associated with bi-directional sparse bit columns. On the hardware side, we demonstrate the potential of BBS through BitVert, a bitserial architecture with an efficient PE design to accelerate DNNs with low overhead, exploiting our proposed binary pruning. Evaluation on seven representative DNN models shows that our approach achieves: (1) on average 1.66$\times$ reduction in model sizewith negligible accuracy loss of < 0.5%; (2) up to 3.03$\times$ speedupand 2.44$\times$ energy saving compared to prior DNN accelerators.

چکیده به فارسی (ترجمه ماشینی)

روشهای کمبود سطح بیت از عملیات صفر بیت ناکارآمد استفاده می کنند و به طور معمول در شتاب دهنده های یادگیری عمیق بیت سریال قابل اجرا هستند.این نوع کمبود در سطح بیت به ویژه جالب است زیرا هم متعامد است و هم با سایر روشهای کارآیی شبکه عصبی عمیق (DNN) مانند کمیت و هرس سازگار است.در این کار ، ما عملی و کارآیی پراکندگی Bitlevel را از طریق یک روش الگوریتمی جدید هولدها ، میانگین و فشرده سازی و یک شتاب دهنده سخت افزار بیت سریال کارآمد طراحی می کنیم.از طرف الگوریتمی ، پراکندگی بیت دو طرفه (BBS) را معرفی می کنیم.بینش اصلی BBS این است که ما می توانیم از کمبود کمی به روش متقارن برای هرس یا بیت های صفر یا یک بیت استفاده کنیم.این امر به طور قابل توجهی تعادل بار محاسبات بیت-سریال را بهبود می بخشد و سطح پراکندگی را بیش از 50 ٪ تضمین می کند.در بالای BBS ، ما بیشتر دو روش هرس باینری سطح بیت را پیشنهاد می کنیم که نیازی به آموزش مجدد ندارند و می توانند یکپارچه برای DNN های کمکی اعمال شوند.BBS با ترکیب هرس باینری با یک طرح جدید رمزگذاری تنسور ، می تواند محاسبه را پرش کند و ردپای حافظه مرتبط با ستون های بیت پراکنده دو جهته را کاهش دهد.از طرف سخت افزار ، ما پتانسیل BBS را از طریق Bitvert نشان می دهیم ، یک معماری بیتسری با طراحی PE کارآمد برای تسریع DNN ها با سربار کم ، سوء استفاده از هرس باینری پیشنهادی ما.ارزیابی در هفت مدل DNN نماینده نشان می دهد که رویکرد ما به دست می آید: (1) به طور متوسط ​​1.66 $ \ برابر کاهش اندازه مدل با از دست دادن دقت ناچیز <0.5 ٪ ؛.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.