ترجمه فارسی مقاله جستجوی میانجی مناسب: تاریخچه، بررسی و مبانی نظری تفسیرپذیری علّی

چکیده

Interpretability provides a toolset for understanding how and why neural networks behave in certain ways. However, there is little unity in the field: most studies employ ad-hoc evaluations and do not share theoretical foundations, making it difficult to measure progress and compare the pros and cons of different techniques. Furthermore, while mechanistic understanding is frequently discussed, the basic causal units underlying these mechanisms are often not explicitly defined. In this paper, we propose a perspective on interpretability research grounded in causal mediation analysis. Specifically, we describe the history and current state of interpretability taxonomized according to the types of causal units (mediators) employed, as well as methods used to search over mediators. We discuss the pros and cons of each mediator, providing insights as to when particular kinds of mediators and search methods are most appropriate depending on the goals of a given study. We argue that this framing yields a more cohesive narrative of the field, as well as actionable insights for future work. Specifically, we recommend a focus on discovering new mediators with better trade-offs between human-interpretability and compute-efficiency, and which can uncover more sophisticated abstractions from neural networks than the primarily linear mediators employed in current work. We also argue for more standardized evaluations that enable principled comparisons across mediator types, such that we can better understand when particular causal units are better suited to particular use cases.

چکیده به فارسی (ترجمه ماشینی)

تفسیر ، ابزاری برای درک چگونگی و چرا شبکه های عصبی به روش های خاصی رفتار می کند.با این حال ، وحدت کمی در این زمینه وجود دارد: بیشتر مطالعات از ارزیابی های موقت استفاده می کنند و مبانی نظری را به اشتراک نمی گذارند ، و اندازه گیری پیشرفت و مقایسه جوانب مثبت و منفی تکنیک های مختلف را دشوار می کند.علاوه بر این ، در حالی که درک مکانیکی غالباً مورد بحث قرار می گیرد ، واحدهای اصلی علیت اساسی این مکانیسم ها اغلب به صراحت تعریف نمی شوند.در این مقاله ، ما یک چشم انداز در مورد تحقیقات تفسیر مبتنی بر تجزیه و تحلیل میانجیگری علیت ارائه می دهیم.به طور خاص ، ما تاریخ و وضعیت فعلی تفسیر را با توجه به انواع واحدهای علی (واسطه) به کار رفته و همچنین روش هایی که برای جستجوی واسطه ها استفاده می شود ، توصیف می کنیم.ما در مورد جوانب مثبت و منفی هر واسطه بحث می کنیم ، بینش هایی را در مورد اینکه انواع خاصی از واسطه ها و روش های جستجو بسته به اهداف یک مطالعه خاص مناسب ترین هستند ، ارائه می دهیم.ما استدلال می کنیم که این قاب بندی روایتی منسجم تر از این حوزه و همچنین بینش های عملی برای کارهای آینده ارائه می دهد.به طور خاص ، ما تمرکز خود را برای کشف واسطه های جدید با معاملات بهتر بین قابلیت تعارض انسانی و کارآیی محاسبه توصیه می کنیم ، و این می تواند انتزاع پیچیده تری از شبکه های عصبی را نسبت به واسطه های خطی که در کار فعلی به کار می روند ، کشف کند.ما همچنین برای ارزیابی های استاندارد تر استدلال می کنیم که مقایسه های اصولی را در انواع واسطه ها امکان پذیر می کند ، به گونه ای که می توانیم بهتر درک کنیم که واحدهای علیت خاص بهتر در موارد استفاده خاص مناسب باشند.