ترجمه فارسی مقاله توضیح‌پذیری مبتنی بر مورد برای جنگل تصادفی: نمونه‌های اولیه، منتقدان، ضد واقعیات و نیمه واقعی

چکیده

The explainability of black-box machine learning algorithms, commonly known as Explainable Artificial Intelligence (XAI), has become crucial for financial and other regulated industrial applications due to regulatory requirements and the need for transparency in business practices. Among the various paradigms of XAI, Explainable Case-Based Reasoning (XCBR) stands out as a pragmatic approach that elucidates the output of a model by referencing actual examples from the data used to train or test the model. Despite its potential, XCBR has been relatively underexplored for many algorithms such as tree-based models until recently. We start by observing that most XCBR methods are defined based on the distance metric learned by the algorithm. By utilizing a recently proposed technique to extract the distance metric learned by Random Forests (RFs), which is both geometry- and accuracy-preserving, we investigate various XCBR methods. These methods amount to identify special points from the training datasets, such as prototypes, critics, counter-factuals, and semi-factuals, to explain the predictions for a given query of the RF. We evaluate these special points using various evaluation metrics to assess their explanatory power and effectiveness.

چکیده به فارسی (ترجمه ماشینی)

توضیح الگوریتم های یادگیری ماشین جعبه سیاه ، که معمولاً به عنوان هوش مصنوعی قابل توضیح (XAI) شناخته می شود ، به دلیل الزامات نظارتی و نیاز به شفافیت در شیوه های تجاری ، برای کاربردهای صنعتی مالی و تنظیم شده بسیار مهم شده است.در میان پارادایم های مختلف XAI ، استدلال مبتنی بر مورد قابل توضیح (XCBR) به عنوان یک رویکرد عملی است که با مراجعه به نمونه های واقعی از داده های مورد استفاده برای آموزش یا آزمایش مدل ، خروجی یک مدل را روشن می کند.علیرغم پتانسیل آن ، XCBR برای بسیاری از الگوریتم ها مانند مدل های مبتنی بر درخت نسبتاً نامشخص بوده است.ما با مشاهده اینكه بیشتر روشهای XCBR بر اساس متریک فاصله آموخته شده توسط الگوریتم تعریف می شوند ، شروع می كنیم.با استفاده از یک تکنیک اخیراً پیشنهادی برای استخراج متریک از فاصله آموخته شده توسط جنگل های تصادفی (RFS) ، که هم هندسه و هم از نظر صحت حفظ آن است ، ما روشهای مختلف XCBR را بررسی می کنیم.این روشها برای شناسایی نکات ویژه از مجموعه داده های آموزشی ، مانند نمونه های اولیه ، منتقدین ، ​​ضد فاکتورها و نیمه عاله ها ، برای توضیح پیش بینی های مربوط به پرس و جو مورد نظر RF است.ما این نکات ویژه را با استفاده از معیارهای مختلف ارزیابی برای ارزیابی قدرت و اثربخشی آنها ارزیابی می کنیم.