ترجمه فارسی مقاله هنر و علم کمیت مدلهای در مقیاس بزرگ: یک مرور کلی جامع

چکیده

This paper provides a comprehensive overview of the principles, challenges, and methodologies associated with quantizing large-scale neural network models. As neural networks have evolved towards larger and more complex architectures to address increasingly sophisticated tasks, the computational and energy costs have escalated significantly. We explore the necessity and impact of model size growth, highlighting the performance benefits as well as the computational challenges and environmental considerations. The core focus is on model quantization as a fundamental approach to mitigate these challenges by reducing model size and improving efficiency without substantially compromising accuracy. We delve into various quantization techniques, including both post-training quantization (PTQ) and quantization-aware training (QAT), and analyze several state-of-the-art algorithms such as LLM-QAT, PEQA(L4Q), ZeroQuant, SmoothQuant, and others. Through comparative analysis, we examine how these methods address issues like outliers, importance weighting, and activation quantization, ultimately contributing to more sustainable and accessible deployment of large-scale models.

چکیده به فارسی (ترجمه ماشینی)

در این مقاله یک مرور کلی از اصول ، چالش ها و روشهای مرتبط با کمیت مدلهای شبکه عصبی در مقیاس بزرگ ارائه شده است.از آنجا که شبکه های عصبی به سمت معماری های بزرگتر و پیچیده تر برای پرداختن به کارهای فزاینده پیشرفته تکامل یافته اند ، هزینه های محاسباتی و انرژی به طور قابل توجهی افزایش یافته است.ما ضرورت و تأثیر رشد اندازه مدل را بررسی می کنیم ، مزایای عملکرد و همچنین چالش های محاسباتی و ملاحظات زیست محیطی را برجسته می کنیم.تمرکز اصلی بر کمیت مدل به عنوان یک رویکرد اساسی برای کاهش این چالش ها با کاهش اندازه مدل و بهبود کارآیی بدون دقت به خطر انداختن است.ما به تکنیک های مختلف کمیت ، از جمله هر دو کمیت پس از آموزش (PTQ) و آموزش کمیت آگاه (QAT) می پردازیم و چندین الگوریتم پیشرفته مانند LLM-QAT ، PEQA (L4Q) ، Zeroquant ، Smoothquant را تجزیه و تحلیل می کنیم.، و دیگراناز طریق تجزیه و تحلیل مقایسه ای ، ما بررسی می کنیم که چگونه این روش ها به موضوعاتی مانند Outliers ، وزن گیری اهمیت و کمیت فعال سازی می پردازند ، در نهایت به استقرار پایدارتر و در دسترس مدلهای در مقیاس بزرگ کمک می کنند.