ترجمه فارسی مقاله اریب‌زدایی مدل با استفاده از داده‌افزایی قابل یادگیری

چکیده

Deep Neural Networks are well known for efficiently fitting training data, yet experiencing poor generalization capabilities whenever some kind of bias dominates over the actual task labels, resulting in models learning “shortcuts”. In essence, such models are often prone to learn spurious correlations between data and labels. In this work, we tackle the problem of learning from biased data in the very realistic unsupervised scenario, i.e., when the bias is unknown. This is a much harder task as compared to the supervised case, where auxiliary, bias-related annotations, can be exploited in the learning process. This paper proposes a novel 2-stage learning pipeline featuring a data augmentation strategy able to regularize the training. First, biased/unbiased samples are identified by training over-biased models. Second, such subdivision (typically noisy) is exploited within a data augmentation framework, properly combining the original samples while learning mixing parameters, which has a regularization effect. Experiments on synthetic and realistic biased datasets show state-of-the-art classification accuracy, outperforming competing methods, ultimately proving robust performance on both biased and unbiased examples. Notably, being our training method totally agnostic to the level of bias, it also positively affects performance for any, even apparently unbiased, dataset, thus improving the model generalization regardless of the level of bias (or its absence) in the data.

چکیده به فارسی (ترجمه ماشینی)

شبکه های عصبی عمیق برای داده های آموزش کارآمد به خوبی شناخته شده اند ، اما هر زمان که نوعی تعصب بر برچسب های کار واقعی حاکم باشد ، توانایی های تعمیم ضعیفی را تجربه می کنند ، و در نتیجه مدل ها “میانبر” را می آموزند.در اصل ، چنین مدلهایی اغلب مستعد یادگیری همبستگی های فریبنده بین داده ها و برچسب ها هستند.در این کار ، ما مسئله یادگیری از داده های مغرضانه را در سناریوی بسیار نظارتی واقع بینانه ، یعنی وقتی که تعصب ناشناخته است ، مقابله می کنیم.این یک کار بسیار سخت تر در مقایسه با مورد تحت نظارت است ، جایی که حاشیه نویسی های کمکی و مرتبط با تعصب را می توان در فرایند یادگیری مورد سوء استفاده قرار داد.در این مقاله یک خط لوله یادگیری 2 مرحله ای جدید ارائه شده است که شامل یک استراتژی تقویت داده ها می تواند به طور منظم آموزش را تنظیم کند.اول ، نمونه های مغرضانه/بی طرفانه با آموزش مدلهای بیش از حد مغرضانه مشخص می شوند.دوم ، چنین زیرمجموعه ای (به طور معمول پر سر و صدا) در یک چارچوب تقویت داده مورد سوء استفاده قرار می گیرد ، و به درستی نمونه های اصلی را هنگام یادگیری پارامترهای اختلاط ترکیب می کند ، که دارای یک اثر منظم است.آزمایشات مربوط به مجموعه داده های مغرضانه مصنوعی و واقع بینانه ، دقت طبقه بندی پیشرفته را نشان می دهد ، از روشهای رقابتی بهتر است و در نهایت عملکرد قوی را در هر دو نمونه مغرضانه و بی طرفانه اثبات می کند.نکته قابل توجه ، به عنوان روش آموزش ما کاملاً نسبت به سطح تعصب ، همچنین بر عملکرد برای هر مجموعه داده ، حتی ظاهراً بی طرفانه ، تأثیر مثبت می گذارد ، بنابراین باعث بهبود تعمیم مدل بدون در نظر گرفتن سطح تعصب (یا عدم وجود آن) در داده ها می شود.