ترجمه فارسی مقاله توضیحات تعقیب بدون شیب با استفاده از رویکرد یادگیری کمک به تقطیر

چکیده

The recent advancements in artificial intelligence (AI), with the release of several large models having only query access, make a strong case for explainability of deep models in a post-hoc gradient free manner. In this paper, we propose a framework, named distillation aided explainability (DAX), that attempts to generate a saliency-based explanation in a model agnostic gradient free application. The DAX approach poses the problem of explanation in a learnable setting with a mask generation network and a distillation network. The mask generation network learns to generate the multiplier mask that finds the salient regions of the input, while the student distillation network aims to approximate the local behavior of the black-box model. We propose a joint optimization of the two networks in the DAX framework using the locally perturbed input samples, with the targets derived from input-output access to the black-box model. We extensively evaluate DAX across different modalities (image and audio), in a classification setting, using a diverse set of evaluations (intersection over union with ground truth, deletion based and subjective human evaluation based measures) and benchmark it with respect to $9$ different methods. In these evaluations, the DAX significantly outperforms the existing approaches on all modalities and evaluation metrics.

چکیده به فارسی (ترجمه ماشینی)

پیشرفت های اخیر در هوش مصنوعی (AI) ، با انتشار چندین مدل بزرگ که فقط به پرس و جو دسترسی دارند ، یک مورد قوی را برای توضیح مدل های عمیق به صورت آزاد و شیب بعد از تعقیب ایجاد می کند.در این مقاله ، ما یک چارچوب به نام تقطیر شده برای توضیح (DAX) را پیشنهاد می کنیم ، که سعی در ایجاد یک توضیح مبتنی بر شطرنج در یک برنامه رایگان شیب آگنوستیک دارد.رویکرد DAX مشکل توضیحات را در یک تنظیم آموخته با یک شبکه ماسک تولید و یک شبکه تقطیر ایجاد می کند.شبکه تولید ماسک یاد می گیرد ماسک ضرب را که مناطق برجسته ورودی را پیدا می کند ، تولید کند ، در حالی که شبکه تقطیر دانشجویی قصد دارد رفتار محلی مدل جعبه سیاه را تقریب کند.ما بهینه سازی مشترک دو شبکه را در چارچوب DAX با استفاده از نمونه های ورودی محلی آشفته ، با اهداف حاصل از دسترسی ورودی-خروجی به مدل جعبه سیاه پیشنهاد می کنیم.ما به طور گسترده DAX را در روشهای مختلف (تصویر و صوتی) ، در یک طبقه بندی ، با استفاده از مجموعه متنوعی از ارزیابی ها (تقاطع اتحادیه با حقیقت زمین ، حذف مبتنی بر حذف و اقدامات مبتنی بر ارزیابی انسانی) ارزیابی می کنیم و آن را با توجه به 9 دلار متفاوت معیار می کنیمروشهادر این ارزیابی ها ، DAX به طور قابل توجهی از رویکردهای موجود در کلیه روشها و معیارهای ارزیابی بهتر عمل می کند.