ترجمه فارسی مقاله حساسیت روش‌های توضیح‌پذیری مبتنی بر مثال به داده‌های پرت کلاس

چکیده

This study explores the impact of class outliers on the effectiveness of example-based explainability methods for black-box machine learning models. We reformulate existing explainability evaluation metrics, such as correctness and relevance, specifically for example-based methods, and introduce a new metric, distinguishability. Using these metrics, we highlight the shortcomings of current example-based explainability methods, including those who attempt to suppress class outliers. We conduct experiments on two datasets, a text classification dataset and an image classification dataset, and evaluate the performance of four state-of-the-art explainability methods. Our findings underscore the need for robust techniques to tackle the challenges posed by class outliers.

چکیده به فارسی (ترجمه ماشینی)

این مطالعه به بررسی تأثیر مسافت های کلاس بر اثربخشی روشهای توضیح مبتنی بر مثال برای مدل های یادگیری ماشین جعبه سیاه می پردازد.ما معیارهای ارزیابی توضیحات موجود را اصلاح می کنیم ، مانند صحت و ارتباط ، به طور خاص برای روشهای مبتنی بر نمونه ، و یک متریک جدید ، قابل تشخیص را معرفی می کنیم.با استفاده از این معیارها ، ما کاستی های روشهای توضیحات مبتنی بر مثال فعلی را برجسته می کنیم ، از جمله کسانی که سعی در سرکوب خارج از کلاس دارند.ما آزمایشاتی را در دو مجموعه داده ، یک مجموعه داده طبقه بندی متن و یک مجموعه داده طبقه بندی تصویر انجام می دهیم و عملکرد چهار روش توضیح پیشرفته را ارزیابی می کنیم.یافته های ما بر لزوم تکنیک های قوی برای مقابله با چالش های مطرح شده توسط کلاس های کلاس تأکید می کند.