ترجمه فارسی مقاله از اهمیت ویژگی‌ها تا توضیحات زبان طبیعی با استفاده از LLMها به همراه RAG

چکیده

As machine learning becomes increasingly integral to autonomous decision-making processes involving human interaction, the necessity of comprehending the model’s outputs through conversational means increases. Most recently, foundation models are being explored for their potential as post hoc explainers, providing a pathway to elucidate the decision-making mechanisms of predictive models. In this work, we introduce traceable question-answering, leveraging an external knowledge repository to inform the responses of Large Language Models (LLMs) to user queries within a scene understanding task. This knowledge repository comprises contextual details regarding the model’s output, containing high-level features, feature importance, and alternative probabilities. We employ subtractive counterfactual reasoning to compute feature importance, a method that entails analysing output variations resulting from decomposing semantic features. Furthermore, to maintain a seamless conversational flow, we integrate four key characteristics – social, causal, selective, and contrastive – drawn from social science research on human explanations into a single-shot prompt, guiding the response generation process. Our evaluation demonstrates that explanations generated by the LLMs encompassed these elements, indicating its potential to bridge the gap between complex model outputs and natural language expressions.

چکیده به فارسی (ترجمه ماشینی)

از آنجا که یادگیری ماشین به طور فزاینده ای با فرآیندهای تصمیم گیری خودمختار که شامل تعامل انسان است ، یکپارچه می شود ، ضرورت درک خروجی های مدل از طریق معنی مکالمه افزایش می یابد.اخیراً ، مدل های بنیاد به دلیل پتانسیل خود به عنوان توضیح دهنده های تعقیبی مورد بررسی قرار می گیرند و راهی برای روشن شدن مکانیسم های تصمیم گیری مدل های پیش بینی کننده فراهم می کنند.در این کار ، ما با پاسخ به سؤال قابل ردیابی را معرفی می کنیم و از یک مخزن دانش خارجی استفاده می کنیم تا پاسخ های مدل های بزرگ زبان (LLM) را به نمایش داده های کاربر در یک کار درک صحنه اطلاع دهیم.این مخزن دانش شامل جزئیات متنی در مورد خروجی مدل ، حاوی ویژگی های سطح بالا ، اهمیت ویژگی و احتمالات جایگزین است.ما برای محاسبه اهمیت ویژگی ، از استدلال ضد خلاف واقع استفاده می کنیم ، روشی که مستلزم تجزیه و تحلیل تغییرات خروجی ناشی از تجزیه ویژگی های معنایی است.علاوه بر این ، برای حفظ یک جریان مکالمه یکپارچه ، ما چهار ویژگی کلیدی – اجتماعی ، علّی ، انتخابی و متضاد – را که از تحقیقات علوم اجتماعی در مورد توضیحات انسانی به یک سریع تک شات گرفته شده است ، ادغام می کنیم و روند تولید پاسخ را هدایت می کنیم.ارزیابی ما نشان می دهد که توضیحات ایجاد شده توسط LLMS شامل این عناصر است ، و این نشانگر پتانسیل آن برای ایجاد شکاف بین خروجی های مدل پیچیده و عبارات زبان طبیعی است.