ترجمه فارسی مقاله به سوی TinyML مبتنی بر توجه: یک معماری ناهمگن شتاب‌یافته و جریان استقرار خودکار

چکیده

One of the challenges for Tiny Machine Learning (tinyML) is keeping up with the evolution of Machine Learning models from Convolutional Neural Networks to Transformers. We address this by leveraging a heterogeneous architectural template coupling RISC-V processors with hardwired accelerators supported by an automated deployment flow. We demonstrate an Attention-based model in a tinyML power envelope with an octa-core cluster coupled with an accelerator for quantized Attention. Our deployment flow enables an end-to-end 8-bit MobileBERT, achieving leading-edge energy efficiency and throughput of 2960 GOp/J and 154 GOp/s at 32.5 Inf/s consuming 52.0 mW (0.65 V, 22 nm FD-SOI technology).

چکیده به فارسی (ترجمه ماشینی)

یکی از چالش های یادگیری ماشین کوچک (TINYML) ، همراه با تکامل مدل های یادگیری ماشین از شبکه های عصبی حلقوی تا ترانسفورماتورها است.ما این مسئله را با استفاده از یک الگوی معماری ناهمگن اتصال پردازنده های RISC-V با شتاب دهنده های سخت پشتیبانی شده توسط یک جریان استقرار خودکار ، مورد بررسی قرار می دهیم.ما یک مدل مبتنی بر توجه را در یک پاکت قدرت tinyml با یک خوشه اکتا هسته همراه با یک شتاب دهنده برای توجه کمی نشان می دهیم.جریان استقرار ما یک موبایل 8 بیتی پایان به پایان را امکان پذیر می کند ، و به بهره وری انرژی پیشرو و توان 2960 GOP/J و 154 GOP/S در 32.5 Inf/S مصرف 52.0 مگاوات (0.65 ولت ، 22 نانومتر FD-SOI می رسد.فناوری).