ترجمه فارسی مقاله طیف های پشتیبانی جهانی به محلی برای توضیح مدل زبانی

چکیده

Existing sample-based methods, like influence functions and representer points, measure the importance of a training point by approximating the effect of its removal from training. As such, they are skewed towards outliers and points that are very close to the decision boundaries. The explanations provided by these methods are often static and not specific enough for different test points. In this paper, we propose a method to generate an explanation in the form of support spectrums which are based on two main ideas: the support sets and a global-to-local importance measure. The support set is the set of training points, in the predicted class, that “lie in between” the test point and training points in the other classes. They indicate how well the test point can be distinguished from the points not in the predicted class. The global-to-local importance measure is obtained by decoupling existing methods into the global and local components which are then used to select the points in the support set. Using this method, we are able to generate explanations that are tailored to specific test points. In the experiments, we show the effectiveness of the method in image classification and text generation tasks.

چکیده به فارسی (ترجمه ماشینی)

روشهای مبتنی بر نمونه موجود ، مانند توابع نفوذ و نقاط نماینده ، با تقریب تأثیر حذف آن از آموزش ، اهمیت یک نقطه آموزشی را اندازه گیری می کنند.به همین ترتیب ، آنها به سمت Outliers و نقاطی که بسیار نزدیک به مرزهای تصمیم گیری هستند ، کمرنگ می شوند.توضیحات ارائه شده توسط این روشها اغلب استاتیک است و برای نقاط مختلف آزمون به اندازه کافی خاص نیست.در این مقاله ، ما روشی را برای تهیه توضیحی در قالب طیفهای پشتیبانی ارائه می دهیم که مبتنی بر دو ایده اصلی است: مجموعه های پشتیبانی و یک اندازه گیری اهمیت جهانی به محلی.مجموعه پشتیبانی مجموعه ای از نقاط تمرینی است ، در کلاس پیش بینی شده ، که “بین” از نقاط آزمون و نقاط تمرینی در کلاس های دیگر قرار دارد.آنها نشان می دهند که چگونه می توان نقطه آزمون را از نقاط نه در کلاس پیش بینی شده متمایز کرد.اندازه گیری اهمیت جهانی به محلی با جدا کردن روشهای موجود در مؤلفه های جهانی و محلی که سپس برای انتخاب نقاط در مجموعه پشتیبانی استفاده می شوند ، بدست می آید.با استفاده از این روش ، ما قادر به توضیحاتی هستیم که متناسب با نقاط تست خاص باشد.در آزمایشات ، ما اثربخشی روش در طبقه بندی تصویر و کارهای تولید متن را نشان می دهیم.