ترجمه فارسی مقاله ماسالا: توضیحات جانشین مدل-آگنوستیک توسط سازگاری محلی

چکیده

Existing local Explainable AI (XAI) methods, such as LIME, select a region of the input space in the vicinity of a given input instance, for which they approximate the behaviour of a model using a simpler and more interpretable surrogate model. The size of this region is often controlled by a user-defined locality hyperparameter. In this paper, we demonstrate the difficulties associated with defining a suitable locality size to capture impactful model behaviour, as well as the inadequacy of using a single locality size to explain all predictions. We propose a novel method, MASALA, for generating explanations, which automatically determines the appropriate local region of impactful model behaviour for each individual instance being explained. MASALA approximates the local behaviour used by a complex model to make a prediction by fitting a linear surrogate model to a set of points which experience similar model behaviour. These points are found by clustering the input space into regions of linear behavioural trends exhibited by the model. We compare the fidelity and consistency of explanations generated by our method with existing local XAI methods, namely LIME and CHILLI. Experiments on the PHM08 and MIDAS datasets show that our method produces more faithful and consistent explanations than existing methods, without the need to define any sensitive locality hyperparameters.

چکیده به فارسی (ترجمه ماشینی)

روشهای قابل توضیح در مورد AI (XAI) ، مانند آهک ، منطقه ای از فضای ورودی را در مجاورت یک نمونه ورودی معین انتخاب کنید ، که برای آنها رفتار یک مدل را با استفاده از یک مدل جانشین ساده تر و قابل تفسیر تر می کند.اندازه این منطقه غالباً توسط یک محل کار تعریف شده توسط کاربر کنترل می شود.در این مقاله ، ما مشکلات مرتبط با تعریف یک اندازه مناسب محلی را برای گرفتن رفتار مدل تأثیرگذار و همچنین عدم کفایت استفاده از یک اندازه محلی برای توضیح همه پیش بینی ها نشان می دهیم.ما یک روش جدید ، ماسالا را برای تولید توضیحات پیشنهاد می کنیم ، که به طور خودکار منطقه محلی مناسب رفتار مدل تأثیرگذار را برای هر نمونه جداگانه توضیح می دهد.ماسالا رفتار محلی مورد استفاده توسط یک مدل پیچیده را برای پیش بینی با قرار دادن یک مدل جانشین خطی به مجموعه ای از نقاط که رفتار مدل مشابه را تجربه می کنند ، تقریب می دهد.این نقاط با خوشه بندی فضای ورودی به مناطقی از روندهای رفتاری خطی که توسط مدل به نمایش گذاشته می شود ، یافت می شود.ما وفاداری و قوام توضیحات ایجاد شده با روش خود را با روشهای محلی XAI موجود ، یعنی آهک و فلفل مقایسه می کنیم.آزمایشات روی مجموعه داده های PHM08 و MIDAS نشان می دهد که روش ما توضیحات وفادارتر و مداوم تری نسبت به روشهای موجود ارائه می دهد ، بدون نیاز به تعریف هرگونه Hyperparameter در محل حساس.