ترجمه فارسی مقاله Say My Name: چارچوب کشف سوگیری یک مدل

چکیده

In the last few years, due to the broad applicability of deep learning to downstream tasks and end-to-end training capabilities, increasingly more concerns about potential biases to specific, non-representative patterns have been raised. Many works focusing on unsupervised debiasing usually leverage the tendency of deep models to learn “easier” samples, for example by clustering the latent space to obtain bias pseudo-labels. However, the interpretation of such pseudo-labels is not trivial, especially for a non-expert end user, as it does not provide semantic information about the bias features. To address this issue, we introduce “Say My Name” (SaMyNa), the first tool to identify biases within deep models semantically. Unlike existing methods, our approach focuses on biases learned by the model. Our text-based pipeline enhances explainability and supports debiasing efforts: applicable during either training or post-hoc validation, our method can disentangle task-related information and proposes itself as a tool to analyze biases. Evaluation on traditional benchmarks demonstrates its effectiveness in detecting biases and even disclaiming them, showcasing its broad applicability for model diagnosis.

چکیده به فارسی (ترجمه ماشینی)

در چند سال گذشته ، به دلیل کاربرد گسترده یادگیری عمیق در کارهای پایین دست و قابلیت های آموزش پایان به پایان ، نگرانی های فزاینده ای بیشتر در مورد تعصبات احتمالی نسبت به الگوهای خاص و غیر نماینده مطرح شده است.بسیاری از آثار با تمرکز بر روی مبهم بودن بدون نظارت ، معمولاً تمایل به مدل های عمیق برای یادگیری نمونه های “آسانتر” را به دست می آورند ، به عنوان مثال با خوشه بندی فضای نهفته برای به دست آوردن تعصب شبه برچسب.با این حال ، تفسیر چنین برچسب های شبه ای بی اهمیت نیست ، به خصوص برای یک کاربر نهایی غیر متخصص ، زیرا اطلاعات معنایی در مورد ویژگی های تعصب ارائه نمی دهد.برای پرداختن به این مسئله ، “” Say My My “(Samyna) را معرفی می کنیم ، اولین ابزار برای شناسایی تعصبات در مدلهای عمیق از نظر معنایی.بر خلاف روشهای موجود ، رویکرد ما بر تعصبات آموخته شده توسط مدل متمرکز است.خط لوله مبتنی بر متن ما ، توضیح را افزایش می دهد و از تلاشهای debiasing پشتیبانی می کند: در طول آموزش یا اعتبارسنجی پس از تعقیب ، روش ما می تواند اطلاعات مربوط به کار را از هم جدا کند و خود را به عنوان ابزاری برای تجزیه و تحلیل تعصبات پیشنهاد می کند.ارزیابی در معیارهای سنتی اثربخشی آن در تشخیص تعصب و حتی رد کردن آنها را نشان می دهد و کاربرد گسترده آن را برای تشخیص مدل نشان می دهد.