ترجمه فارسی مقاله تفسیر پایداری کلی مدل‌های تصویر در برابر اغتشاش با استفاده از تجزیه اهمیت طیفی مبتنی بر اصول موضوعه

چکیده

Perturbation robustness evaluates the vulnerabilities of models, arising from a variety of perturbations, such as data corruptions and adversarial attacks. Understanding the mechanisms of perturbation robustness is critical for global interpretability. We present a model-agnostic, global mechanistic interpretability method to interpret the perturbation robustness of image models. This research is motivated by two key aspects. First, previous global interpretability works, in tandem with robustness benchmarks, e.g. mean corruption error (mCE), are not designed to directly interpret the mechanisms of perturbation robustness within image models. Second, we notice that the spectral signal-to-noise ratios (SNR) of perturbed natural images exponentially decay over the frequency. This power-law-like decay implies that: Low-frequency signals are generally more robust than high-frequency signals — yet high classification accuracy can not be achieved by low-frequency signals alone. By applying Shapley value theory, our method axiomatically quantifies the predictive powers of robust features and non-robust features within an information theory framework. Our method, dubbed as textbf{I-ASIDE} (textbf{I}mage textbf{A}xiomatic textbf{S}pectral textbf{I}mportance textbf{D}ecomposition textbf{E}xplanation), provides a unique insight into model robustness mechanisms. We conduct extensive experiments over a variety of vision models pre-trained on ImageNet to show that textbf{I-ASIDE} can not only textbf{measure} the perturbation robustness but also textbf{provide interpretations} of its mechanisms.

چکیده به فارسی (ترجمه ماشینی)

استحکام آشفتگی آسیب پذیری مدل ها را ارزیابی می کند ، ناشی از انواع آشفتگی ها ، مانند فساد داده ها و حملات مخالف.درک مکانیسم های استحکام آشفتگی برای تفسیر جهانی بسیار مهم است.ما یک روش تفسیر مکانیکی مدل-آگنوستیک و جهانی را برای تفسیر استحکام آشفتگی مدل های تصویر ارائه می دهیم.این تحقیق توسط دو جنبه اصلی ایجاد می شود.اول ، آثار تفسیر جهانی قبلی ، همزمان با معیارهای استحکام ، به عنوان مثالمیانگین خطای فساد (MCE) ، برای تفسیر مستقیم مکانیسم های استحکام آشفتگی در مدل های تصویر طراحی نشده است.دوم ، ما متوجه می شویم که نسبت سیگنال به نویز طیفی (SNR) تصاویر طبیعی آشفته به صورت نمایی در فرکانس پوسیده می شوند.این پوسیدگی مانند قدرت قانون حاکی از آن است که: سیگنال های با فرکانس پایین به طور کلی نسبت به سیگنال های با فرکانس بالا قوی تر هستند-اما با این وجود دقت طبقه بندی بالا به تنهایی نمی توان به تنهایی حاصل شد.با استفاده از تئوری ارزش Shapley ، روش ما به صورت بدیهی قدرت های پیش بینی شده از ویژگی های قوی و ویژگی های غیر رب را در یک چارچوب تئوری اطلاعات کم می کند.روش ما ، به عنوان textbf {i-aside} ( textbf {i} mage textbf {a} xiomatic textbf {s} pectral textbf {i} mentbf {d} ecomposition textbf {e} xplanation)، بینش منحصر به فردی از مکانیسم های استحکام مدل ارائه می دهد.ما آزمایش های گسترده ای را در مورد انواع مختلفی از مدل های بینایی از پیش آموزش داده شده در Imagenet انجام می دهیم تا نشان دهیم که textbf {i-aside} نه تنها می تواند textbf {اندازه گیری} استحکام آشفتگی بلکه textBF {تفسیر} از مکانیسم های آن را ارائه دهد.