ترجمه فارسی مقاله مازاد حاشیه شاپلی برای مدل های قوی

چکیده

Shapley values have seen widespread use in machine learning as a way to explain model predictions and estimate the importance of covariates. Accurately explaining models is critical in real-world models to both aid in decision making and to infer the properties of the true data-generating process (DGP). In this paper, we demonstrate that while model-based Shapley values might be accurate explainers of model predictions, machine learning models themselves are often poor explainers of the DGP even if the model is highly accurate. Particularly in the presence of interrelated or noisy variables, the output of a highly predictive model may fail to account for these relationships. This implies explanations of a trained model’s behavior may fail to provide meaningful insight into the DGP. In this paper we introduce a novel variable importance algorithm, Shapley Marginal Surplus for Strong Models, that samples the space of possible models to come up with an inferential measure of feature importance. We compare this method to other popular feature importance methods, both Shapley-based and non-Shapley based, and demonstrate significant outperformance in inferential capabilities relative to other methods.

چکیده به فارسی (ترجمه ماشینی)

مقادیر Shapley در یادگیری ماشین به عنوان راهی برای توضیح پیش بینی های مدل و برآورد اهمیت متغیرها ، استفاده گسترده ای را در یادگیری ماشین مشاهده کرده است.توضیح دقیق مدل ها در مدل های دنیای واقعی برای کمک به تصمیم گیری و استنباط خصوصیات فرآیند تولید داده واقعی (DGP) بسیار مهم است.در این مقاله ، ما نشان می دهیم که در حالی که مقادیر Shapley مبتنی بر مدل ممکن است توضیح دهنده های دقیقی از پیش بینی های مدل باشد ، خود مدل های یادگیری ماشین اغلب توضیح دهنده های ضعیف از DGP هستند حتی اگر مدل بسیار دقیق باشد.به ویژه در حضور متغیرهای مرتبط یا پر سر و صدا ، خروجی یک مدل بسیار پیش بینی کننده ممکن است در پاسخ به این روابط باشد.این به معنای توضیحات مربوط به رفتار یک مدل آموزش دیده ممکن است در ارائه بینش معنی دار در مورد DGP ناکام باشد.در این مقاله ما یک الگوریتم با اهمیت متغیر جدید ، مازاد حاشیه Shapley را برای مدل های قوی معرفی می کنیم ، که نمونه ای از فضای مدل های ممکن برای ارائه یک اندازه گیری استنباطی از اهمیت ویژگی است.ما این روش را با سایر روشهای مهم اهمیت ویژگی ، هم مبتنی بر شاپلی و غیر شاپلی مقایسه می کنیم و نسبت به سایر روشها عملکرد قابل توجهی در قابلیت های استنباطی نشان می دهیم.