ترجمه فارسی مقاله AOPC عادی: رفع معیارهای وفاداری گمراه کننده برای توضیح ویژگی ویژگی

چکیده

Deep neural network predictions are notoriously difficult to interpret. Feature attribution methods aim to explain these predictions by identifying the contribution of each input feature. Faithfulness, often evaluated using the area over the perturbation curve (AOPC), reflects feature attributions’ accuracy in describing the internal mechanisms of deep neural networks. However, many studies rely on AOPC to compare faithfulness across different models, which we show can lead to false conclusions about models’ faithfulness. Specifically, we find that AOPC is sensitive to variations in the model, resulting in unreliable cross-model comparisons. Moreover, AOPC scores are difficult to interpret in isolation without knowing the model-specific lower and upper limits. To address these issues, we propose a normalization approach, Normalized AOPC (NAOPC), enabling consistent cross-model evaluations and more meaningful interpretation of individual scores. Our experiments demonstrate that this normalization can radically change AOPC results, questioning the conclusions of earlier studies and offering a more robust framework for assessing feature attribution faithfulness.

چکیده به فارسی (ترجمه ماشینی)

پیش بینی های شبکه عصبی عمیق تفسیر بسیار دشوار است.روشهای انتساب ویژگی با هدف توضیح این پیش بینی ها با شناسایی سهم هر ویژگی ورودی.وفاداری ، که اغلب با استفاده از منطقه بر روی منحنی آشفتگی (AOPC) ارزیابی می شود ، نشان دهنده دقت ویژگی های ویژگی در توصیف مکانیسم های داخلی شبکه های عصبی عمیق است.با این حال ، بسیاری از مطالعات برای مقایسه وفاداری در مدلهای مختلف به AOPC متکی هستند ، که نشان می دهیم می تواند منجر به نتیجه گیری های دروغین در مورد وفاداری مدل ها شود.به طور خاص ، ما می دانیم که AOPC نسبت به تغییرات در مدل حساس است و در نتیجه مقایسه های غیر قابل کنترل مدل وجود دارد.علاوه بر این ، تفسیر نمرات AOPC بدون دانستن محدودیت های پایین و فوقانی مدل خاص ، تفسیر در انزوا دشوار است.برای پرداختن به این موضوعات ، ما یک روش عادی سازی ، عادی سازی AOPC (NAOPC) را پیشنهاد می کنیم ، و امکان ارزیابی مداوم مدل متقابل و تفسیر معنی دار تر از نمرات فردی را فراهم می کنیم.آزمایشات ما نشان می دهد که این عادی سازی می تواند نتایج AOPC را به طور اساسی تغییر دهد ، نتیجه گیری از مطالعات قبلی را زیر سوال ببرد و چارچوبی قوی تر برای ارزیابی ویژگی ویژگی های ویژگی ارائه دهد.