ترجمه فارسی مقاله ALTBI: ساخت مدل‌های تشخیص بیرونی بهبودیافته از طریق بهینه‌سازی اثر حافظه داخلی

چکیده

Outlier detection (OD) is the task of identifying unusual observations (or outliers) from a given or upcoming data by learning unique patterns of normal observations (or inliers). Recently, a study introduced a powerful unsupervised OD (UOD) solver based on a new observation of deep generative models, called inlier-memorization (IM) effect, which suggests that generative models memorize inliers before outliers in early learning stages. In this study, we aim to develop a theoretically principled method to address UOD tasks by maximally utilizing the IM effect. We begin by observing that the IM effect is observed more clearly when the given training data contain fewer outliers. This finding indicates a potential for enhancing the IM effect in UOD regimes if we can effectively exclude outliers from mini-batches when designing the loss function. To this end, we introduce two main techniques: 1) increasing the mini-batch size as the model training proceeds and 2) using an adaptive threshold to calculate the truncated loss function. We theoretically show that these two techniques effectively filter out outliers from the truncated loss function, allowing us to utilize the IM effect to the fullest. Coupled with an additional ensemble strategy, we propose our method and term it Adaptive Loss Truncation with Batch Increment (ALTBI). We provide extensive experimental results to demonstrate that ALTBI achieves state-of-the-art performance in identifying outliers compared to other recent methods, even with significantly lower computation costs. Additionally, we show that our method yields robust performances when combined with privacy-preserving algorithms.

چکیده به فارسی (ترجمه ماشینی)

تشخیص دورتر (OD) وظیفه شناسایی مشاهدات غیرمعمول (یا دور) از داده های داده شده یا آینده با یادگیری الگوهای منحصر به فرد از مشاهدات عادی (یا Inliers) است.به تازگی ، یک مطالعه یک حل کننده قدرتمند بدون نظارت OD (UOD) را بر اساس مشاهده جدید از مدلهای تولیدی عمیق ، به نام اثر مولد (IM) (IM) معرفی کرده است ، که نشان می دهد مدلهای تولیدی باعث یادآوری Inliers قبل از خارج از کشور در مراحل اولیه یادگیری می شوند.در این مطالعه ، ما هدف ما تهیه یک روش تئوریک اصولی برای پرداختن به وظایف UOD با استفاده حداکثر اثر IM است.ما با مشاهده اینکه اثر IM با وضوح بیشتری مشاهده می شود ، هنگامی که داده های آموزش داده شده حاوی تعداد کمتری از مسافت های کمتری است ، شروع می شود.این یافته نشانگر پتانسیل برای تقویت اثر IM در رژیم های UOD است اگر بتوانیم هنگام طراحی عملکرد ضرر ، از مینی دسته ها خارج شویم.برای این منظور ، ما دو روش اصلی را معرفی می کنیم: 1) با افزایش آموزش مدل و 2) با استفاده از یک آستانه سازگار برای محاسبه عملکرد از دست دادن کوتاه ، اندازه مینی دسته را افزایش می دهیم.ما از لحاظ تئوریکی نشان می دهیم که این دو تکنیک به طور مؤثر از خارج از عملکرد از دست دادن کوتاه شده فیلتر می شوند و به ما امکان می دهند تا از تأثیر IM به کمال استفاده کنیم.همراه با یک استراتژی گروه اضافی ، ما روش و مدت زمان کاهش ضرر آن را با افزایش دسته ای (ALTBI) پیشنهاد می کنیم.ما نتایج تجربی گسترده ای را ارائه می دهیم تا نشان دهیم که ALTBI به عملکرد پیشرفته در شناسایی مسافت ها در مقایسه با سایر روش های اخیر ، حتی با هزینه های محاسبه قابل توجهی پایین تر دست می یابد.علاوه بر این ، ما نشان می دهیم که روش ما هنگام ترکیب با الگوریتم های حفظ حریم خصوصی ، عملکردهای قوی را به دست می آورد.