ترجمه فارسی مقاله تقویت تفسیر مدل با انتساب محلی در اکتشافات جهانی

چکیده

In the field of artificial intelligence, AI models are frequently described as `black boxes’ due to the obscurity of their internal mechanisms. It has ignited research interest on model interpretability, especially in attribution methods that offers precise explanations of model decisions. Current attribution algorithms typically evaluate the importance of each parameter by exploring the sample space. A large number of intermediate states are introduced during the exploration process, which may reach the model’s Out-of-Distribution (OOD) space. Such intermediate states will impact the attribution results, making it challenging to grasp the relative importance of features. In this paper, we firstly define the local space and its relevant properties, and we propose the Local Attribution (LA) algorithm that leverages these properties. The LA algorithm comprises both targeted and untargeted exploration phases, which are designed to effectively generate intermediate states for attribution that thoroughly encompass the local space. Compared to the state-of-the-art attribution methods, our approach achieves an average improvement of 38.21\% in attribution effectiveness. Extensive ablation studies in our experiments also validate the significance of each component in our algorithm. Our code is available at: https://github.com/LMBTough/LA/

چکیده به فارسی (ترجمه ماشینی)

در زمینه هوش مصنوعی ، مدل های هوش مصنوعی به دلیل گمنامی مکانیسم های داخلی آنها ، اغلب به عنوان “جعبه های سیاه” توصیف می شوند.این امر علاقه تحقیقاتی را در مورد تفسیر مدل ، به ویژه در روشهای انتساب که توضیحات دقیقی از تصمیمات مدل ارائه می دهد ، نادیده گرفته است.الگوریتم های انتساب فعلی به طور معمول با کاوش در فضای نمونه ، اهمیت هر پارامتر را ارزیابی می کنند.تعداد زیادی از کشورهای میانی در طی فرآیند اکتشاف معرفی می شوند که ممکن است به فضای خارج از توزیع (OOD) مدل برسد.چنین کشورهای واسطه ای بر نتایج انتساب تأثیر می گذارد و درک اهمیت نسبی ویژگی ها را به چالش می کشد.در این مقاله ، ابتدا فضای محلی و خصوصیات مربوط به آن را تعریف می کنیم و الگوریتم انتساب محلی (LA) را پیشنهاد می کنیم که از این خصوصیات استفاده می کند.الگوریتم LA هر دو مرحله اکتشافی هدفمند و بدون هدف را شامل می شود ، که به منظور تولید موثر حالت های واسطه ای برای انتساب که کاملاً شامل فضای محلی است ، طراحی شده اند.در مقایسه با روشهای پیشرفته و پیشرفته ، رویکرد ما به بهبود متوسط ​​38.21 \ ٪ در اثربخشی انتساب دست می یابد.مطالعات گسترده فرسایش در آزمایشات ما نیز اهمیت هر مؤلفه در الگوریتم ما را تأیید می کند.کد ما در: https://github.com/lmbtough/la/ در دسترس است