ترجمه فارسی مقاله یافتن الگوها در ابهام: آزمون استرس تفسیرپذیر در مرز تصمیم‌گیری

چکیده

The increasing use of deep learning across various domains highlights the importance of understanding the decision-making processes of these black-box models. Recent research focusing on the decision boundaries of deep classifiers, relies on generated synthetic instances in areas of low confidence, uncovering samples that challenge both models and humans. We propose a novel approach to enhance the interpretability of deep binary classifiers by selecting representative samples from the decision boundary – prototypes – and applying post-model explanation algorithms. We evaluate the effectiveness of our approach through 2D visualizations and GradientSHAP analysis. Our experiments demonstrate the potential of the proposed method, revealing distinct and compact clusters and diverse prototypes that capture essential features that lead to low-confidence decisions. By offering a more aggregated view of deep classifiers’ decision boundaries, our work contributes to the responsible development and deployment of reliable machine learning systems.

چکیده به فارسی (ترجمه ماشینی)

استفاده فزاینده از یادگیری عمیق در حوزه های مختلف ، اهمیت درک فرآیندهای تصمیم گیری این مدل های جعبه سیاه را برجسته می کند.تحقیقات اخیر با تمرکز بر مرزهای تصمیم گیری از طبقه بندی های عمیق ، به موارد مصنوعی تولید شده در مناطقی از اعتماد به نفس کم متکی است و نمونه هایی را کشف می کند که هم مدل ها و هم انسان ها را به چالش می کشد.ما یک رویکرد جدید برای تقویت تفسیر طبقه بندی کننده های باینری عمیق با انتخاب نمونه های نماینده از مرز تصمیم گیری – نمونه های اولیه – و استفاده از الگوریتم های توضیح پس از مدل ارائه می دهیم.ما اثربخشی رویکرد خود را از طریق تجسم 2D و تجزیه و تحلیل شیب.آزمایشات ما پتانسیل روش پیشنهادی را نشان می دهد ، خوشه های متمایز و جمع و جور و نمونه های متنوع را نشان می دهد که ویژگی های اساسی را که منجر به تصمیمات کم اطمینان می شود ، نشان می دهد.کار ما با ارائه دیدگاه جمع تر از مرزهای تصمیم گیری طبقه بندی کننده های عمیق ، به توسعه مسئول و استقرار سیستم های یادگیری ماشین قابل اعتماد کمک می کند.