ترجمه فارسی مقاله PLUTUS: یک ترنسفورمر یکپارچه پیش‌آموخته بزرگ می‌تواند نظم‌های سری‌های زمانی مالی را آشکار کند

چکیده

Accessing machine learning models through remote APIs has been gaining prevalence following the recent trend of scaling up model parameters for increased performance. Even though these models exhibit remarkable ability, detecting out-of-distribution (OOD) samples remains a crucial safety concern for end users as these samples may induce unreliable outputs from the model. In this work, we propose an OOD detection framework, MixDiff, that is applicable even when the model’s parameters or its activations are not accessible to the end user. To bypass the access restriction, MixDiff applies an identical input-level perturbation to a given target sample and a similar in-distribution (ID) sample, then compares the relative difference in the model outputs of these two samples. MixDiff is model-agnostic and compatible with existing output-based OOD detection methods. We provide theoretical analysis to illustrate MixDiff’s effectiveness in discerning OOD samples that induce overconfident outputs from the model and empirically demonstrate that MixDiff consistently enhances the OOD detection performance on various datasets in vision and text domains.

چکیده به فارسی (ترجمه ماشینی)

دسترسی به مدل های یادگیری ماشین از طریق API از راه دور به دنبال روند اخیر مقیاس بندی پارامترهای مدل بالا برای افزایش عملکرد ، شیوع پیدا کرده است.حتی اگر این مدل ها توانایی قابل توجهی را نشان دهند ، تشخیص نمونه های خارج از توزیع (OOD) یک نگرانی مهم ایمنی برای کاربران نهایی است زیرا این نمونه ها ممکن است خروجی های غیرقابل اعتماد از مدل را القا کنند.در این کار ، ما یک چارچوب تشخیص OOD ، MixDiff را پیشنهاد می کنیم ، که حتی در صورتی که پارامترهای مدل یا فعال سازی آن برای کاربر نهایی قابل دسترسی نباشد ، قابل استفاده است.برای دور زدن محدودیت دسترسی ، MixDiff یک اختلال در سطح ورودی یکسان را به یک نمونه هدف معین و یک نمونه در توزیع مشابه (ID) اعمال می کند ، سپس تفاوت نسبی در خروجی های مدل این دو نمونه را مقایسه می کند.MixDiff مدل-آگنوستیک است و با روشهای تشخیص OOD مبتنی بر خروجی موجود سازگار است.ما تجزیه و تحلیل نظری را برای نشان دادن اثربخشی MixDiff در تشخیص نمونه های OOD که باعث ایجاد خروجی بیش از حد از مدل می شود ، ارائه می دهیم و به صورت تجربی نشان می دهد که MixDIFF به طور مداوم عملکرد تشخیص OOD را در مجموعه داده های مختلف در حوزه های دید و متن افزایش می دهد.