ترجمه فارسی مقاله EUDA: یک تطبیق دامنه بدون نظارت کارآمد از طریق ترانسفورماتور بینایی خودنظارتی

چکیده

Unsupervised domain adaptation (UDA) aims to mitigate the domain shift issue, where the distribution of training (source) data differs from that of testing (target) data. Many models have been developed to tackle this problem, and recently vision transformers (ViTs) have shown promising results. However, the complexity and large number of trainable parameters of ViTs restrict their deployment in practical applications. This underscores the need for an efficient model that not only reduces trainable parameters but also allows for adjustable complexity based on specific needs while delivering comparable performance. To achieve this, in this paper we introduce an Efficient Unsupervised Domain Adaptation (EUDA) framework. EUDA employs the DINOv2, which is a self-supervised ViT, as a feature extractor followed by a simplified bottleneck of fully connected layers to refine features for enhanced domain adaptation. Additionally, EUDA employs the synergistic domain alignment loss (SDAL), which integrates cross-entropy (CE) and maximum mean discrepancy (MMD) losses, to balance adaptation by minimizing classification errors in the source domain while aligning the source and target domain distributions. The experimental results indicate the effectiveness of EUDA in producing comparable results as compared with other state-of-the-art methods in domain adaptation with significantly fewer trainable parameters, between 42% to 99.7% fewer. This showcases the ability to train the model in a resource-limited environment. The code of the model is available at: https://github.com/A-Abedi/EUDA.

چکیده به فارسی (ترجمه ماشینی)

سازگاری دامنه بدون نظارت (UDA) با هدف کاهش مسئله تغییر دامنه ، جایی که توزیع داده های آموزش (منبع) با داده های آزمایش (هدف) متفاوت است.بسیاری از مدل ها برای مقابله با این مشکل تهیه شده اند ، و اخیراً ترانسفورماتور Vision (VITS) نتایج امیدوار کننده ای را نشان داده اند.با این حال ، پیچیدگی و تعداد زیادی از پارامترهای قابل آموزش VITS ، استقرار آنها را در برنامه های عملی محدود می کند.این امر نیاز به یک مدل کارآمد را نشان می دهد که نه تنها پارامترهای قابل آموزش را کاهش می دهد بلکه امکان پیچیدگی قابل تنظیم را بر اساس نیازهای خاص ضمن ارائه عملکرد قابل مقایسه نیز فراهم می کند.برای دستیابی به این هدف ، در این مقاله ما یک چارچوب سازگاری دامنه بدون نظارت (EUDA) کارآمد را معرفی می کنیم.EUDA از Dinov2 استفاده می کند ، که یک VIT خودکشی است ، به عنوان یک استخراج کننده ویژگی و به دنبال آن یک تنگنا ساده از لایه های کاملاً متصل برای تصحیح ویژگی ها برای سازگاری دامنه پیشرفته است.علاوه بر این ، EUDA از دست دادن تراز دامنه هم افزایی (SDAL) استفاده می کند ، که یکپارچه سازی متقابل آنتروپی (CE) و حداکثر ضررهای اختلاف (MMD) را برای تعادل سازگاری با به حداقل رساندن خطاهای طبقه بندی در حوزه منبع ضمن تراز کردن توزیع منبع و دامنه هدف ، به تعادل می رساند.نتایج تجربی نشان دهنده اثربخشی EUDA در تولید نتایج قابل مقایسه در مقایسه با سایر روشهای پیشرفته در سازگاری دامنه با پارامترهای قابل آموزش قابل توجهی ، بین 42 ٪ تا 99.7 ٪ کمتر است.این توانایی آموزش مدل را در یک محیط محدود منبع نشان می دهد.کد مدل در: https://github.com/a-abedi/euda در دسترس است.