ترجمه فارسی مقاله شتاب‌دهی مدل‌های تجزیه‌شده با رتبه پایین

چکیده

Tensor decomposition is a mathematically supported technique for data compression. It consists of applying some kind of a Low Rank Decomposition technique on the tensors or matrices in order to reduce the redundancy of the data. However, it is not a popular technique for compressing the AI models duo to the high number of new layers added to the architecture after decomposition. Although the number of parameters could shrink significantly, it could result in the model be more than twice deeper which could add some latency to the training or inference. In this paper, we present a comprehensive study about how to modify low rank decomposition technique in AI models so that we could benefit from both high accuracy and low memory consumption as well as speeding up the training and inference

چکیده به فارسی (ترجمه ماشینی)

تجزیه تانسور یک تکنیک با پشتیبانی ریاضی برای فشرده سازی داده ها است.این شامل استفاده از نوعی تکنیک تجزیه با درجه پایین بر روی تانسرها یا ماتریس ها به منظور کاهش افزونگی داده ها است.با این حال ، این یک تکنیک محبوب برای فشرده سازی Duo Models AI به تعداد بالای لایه های جدید اضافه شده به معماری پس از تجزیه نیست.اگرچه تعداد پارامترها می تواند به میزان قابل توجهی کاهش یابد ، اما می تواند منجر به این شود که مدل بیش از دو برابر عمیق تر باشد که می تواند برخی از تأخیر را به آموزش یا استنباط اضافه کند.در این مقاله ، ما یک مطالعه جامع در مورد چگونگی اصلاح تکنیک تجزیه رتبه پایین در مدلهای هوش مصنوعی ارائه می دهیم تا بتوانیم از دقت بالا و مصرف کم حافظه و همچنین سرعت بخشیدن به آموزش و استنباط بهره مند شویم