ترجمه فارسی مقاله یک شتاب دهنده توجه هیبریدی آنالوگ و دیجیتال برای ترانسفورماتورها با محاسبات درون حافظه مبتنی بر شارژ

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

پرداخت اقساطی
در صورت خرید اقساطی هر قسط: 37,500 تومان
۴ قسط ماهانه. بدون سود، چک و ضامن.
پرداخت اقساطی با دیجی‌پی پرداخت اقساطی با ترب‌پی
عنوان مقاله به انگلیسی An Analog and Digital Hybrid Attention Accelerator for Transformers with Charge-based In-memory Computing
عنوان مقاله به فارسی یک شتاب دهنده توجه هیبریدی آنالوگ و دیجیتال برای ترانسفورماتورها با محاسبات درون حافظه مبتنی بر شارژ
نویسندگان Ashkan Moradifirouzabadi, Divya Sri Dodla, Mingu Kang
فرمت مقاله انگلیسی PDF
تعداد صفحات 4
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Hardware Architecture,Machine Learning,معماری سخت افزار , یادگیری ماشین ,
توضیحات Submitted 7 September, 2024; originally announced September 2024. , Comments: 4 pages, 9 figures, to be published at ESSERC 2024
توضیحات به فارسی ارسال 7 سپتامبر 2024 ؛در ابتدا در سپتامبر 2024 اعلام شد. ، نظرات: 4 صفحه ، 9 شکل ، که در Esserc 2024 منتشر می شود
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

The attention mechanism is a key computing kernel of Transformers, calculating pairwise correlations across the entire input sequence. The computing complexity and frequent memory access in computing self-attention put a huge burden on the system especially when the sequence length increases. This paper presents an analog and digital hybrid processor to accelerate the attention mechanism for transformers in 65nm CMOS technology. We propose an analog computing-in-memory (CIM) core, which prunes ~75% of low-score tokens on average during runtime at ultra-low power and delay. Additionally, a digital processor performs precise computations only for ~25% unpruned tokens selected by the analog CIM core, preventing accuracy degradation. Measured results show peak energy efficiency of 14.8 and 1.65 TOPS/W, and peak area efficiency of 976.6 and 79.4 GOPS/mm$^\mathrm{2}$ in the analog core and the system-on-chip (SoC), respectively.

چکیده به فارسی (ترجمه ماشینی)

مکانیسم توجه یک هسته محاسباتی کلیدی ترانسفورماتورها است و همبستگی های زوجی را در کل دنباله ورودی محاسبه می کند.پیچیدگی محاسبات و دسترسی مکرر حافظه در محاسبه خود توجه ، بار زیادی بر سیستم می گذارد ، به خصوص هنگامی که طول دنباله افزایش می یابد.در این مقاله یک پردازنده ترکیبی آنالوگ و دیجیتال برای تسریع مکانیسم توجه ترانسفورماتورها در فناوری CMOS 65 نانومتری ارائه شده است.ما یک هسته محاسبات آنالوگ در حافظه (CIM) را پیشنهاد می کنیم ، که به طور متوسط ​​75 ~ از نشانه های نمره کم به طور متوسط ​​در طول زمان اجرا در قدرت و تأخیر فوق العاده کم می شود.علاوه بر این ، یک پردازنده دیجیتال محاسبات دقیقی را فقط برای 25 ٪ tokens غیرمجاز انتخاب شده توسط هسته CIM آنالوگ انجام می دهد و از تخریب دقت جلوگیری می کند.نتایج اندازه گیری شده نشان می دهد راندمان اوج انرژی 14.8 و 1.65 تاپ بر W و راندمان منطقه اوج 976.6 و 79.4 GOPS/mm $^\ Mathrm {2} $ در هسته آنالوگ و سیستم-تراشه (SOC) نشان می دهد.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.