ترجمه فارسی مقاله سازگاری رو به عقب در توضیح وصفی و روش آموزش مدل پیشرفته

چکیده

Model update is a crucial process in the operation of ML/AI systems. While updating a model generally enhances the average prediction performance, it also significantly impacts the explanations of predictions. In real-world applications, even minor changes in explanations can have detrimental consequences. To tackle this issue, this paper introduces BCX, a quantitative metric that evaluates the backward compatibility of feature attribution explanations between pre- and post-update models. BCX utilizes practical agreement metrics to calculate the average agreement between the explanations of pre- and post-update models, specifically among samples on which both models accurately predict. In addition, we propose BCXR, a BCX-aware model training method by designing surrogate losses which theoretically lower bounds agreement scores. Furthermore, we present a universal variant of BCXR that improves all agreement metrics, utilizing L2 distance among the explanations of the models. To validate our approach, we conducted experiments on eight real-world datasets, demonstrating that BCXR achieves superior trade-offs between predictive performances and BCX scores, showcasing the effectiveness of our BCXR methods.

چکیده به فارسی (ترجمه ماشینی)

به روزرسانی مدل یک فرآیند مهم در عملکرد سیستم های ML/AI است.در حالی که به روزرسانی یک مدل به طور کلی عملکرد پیش بینی متوسط ​​را افزایش می دهد ، همچنین به طور قابل توجهی بر توضیحات پیش بینی ها تأثیر می گذارد.در برنامه های دنیای واقعی ، حتی تغییرات جزئی در توضیحات می تواند عواقب مضر داشته باشد.برای مقابله با این مسئله ، این مقاله BCX را معرفی می کند ، یک معیار کمی که سازگاری عقب مانده توضیحات مربوط به ویژگی های بین مدلهای قبل و بعد از به روزرسانی را ارزیابی می کند.BCX از معیارهای توافق عملی برای محاسبه میانگین توافق بین توضیحات مدل های قبل و بعد از به روزرسانی ، به طور خاص در بین نمونه هایی که هر دو مدل به طور دقیق پیش بینی می کنند ، استفاده می کند.علاوه بر این ، ما BCXR ، یک روش آموزش مدل Aware BCX را با طراحی ضررهای جانشین که از لحاظ تئوریکی نمرات توافق نامه مرز را پایین می آورند ، پیشنهاد می کنیم.علاوه بر این ، ما یک نوع جهانی از BCXR را ارائه می دهیم که تمام معیارهای توافق نامه را بهبود می بخشد و از فاصله L2 در بین توضیحات مدل ها استفاده می کند.برای اعتبارسنجی رویکرد خود ، ما آزمایشاتی را در مورد هشت مجموعه داده در دنیای واقعی انجام دادیم ، نشان می دهد که BCXR به تجارت برتر بین عملکردهای پیش بینی کننده و نمرات BCX دست می یابد ، و اثربخشی روشهای BCXR ما را نشان می دهد.