ترجمه فارسی مقاله هماهنگ‌سازی گرادیان در تطبیق دامنه بدون نظارت

چکیده

Unsupervised domain adaptation (UDA) intends to transfer knowledge from a labeled source domain to an unlabeled target domain. Many current methods focus on learning feature representations that are both discriminative for classification and invariant across domains by simultaneously optimizing domain alignment and classification tasks. However, these methods often overlook a crucial challenge: the inherent conflict between these two tasks during gradient-based optimization. In this paper, we delve into this issue and introduce two effective solutions known as Gradient Harmonization, including GH and GH++, to mitigate the conflict between domain alignment and classification tasks. GH operates by altering the gradient angle between different tasks from an obtuse angle to an acute angle, thus resolving the conflict and trade-offing the two tasks in a coordinated manner. Yet, this would cause both tasks to deviate from their original optimization directions. We thus further propose an improved version, GH++, which adjusts the gradient angle between tasks from an obtuse angle to a vertical angle. This not only eliminates the conflict but also minimizes deviation from the original gradient directions. Finally, for optimization convenience and efficiency, we evolve the gradient harmonization strategies into a dynamically weighted loss function using an integral operator on the harmonized gradient. Notably, GH/GH++ are orthogonal to UDA and can be seamlessly integrated into most existing UDA models. Theoretical insights and experimental analyses demonstrate that the proposed approaches not only enhance popular UDA baselines but also improve recent state-of-the-art models.

چکیده به فارسی (ترجمه ماشینی)

سازگاری دامنه بدون نظارت (UDA) در نظر دارد دانش را از یک دامنه منبع برچسب زده شده به یک دامنه هدف بدون برچسب منتقل کند.بسیاری از روشهای فعلی بر روی بازنمایی ویژگی های یادگیری تمرکز می کنند که هم برای طبقه بندی و هم در حوزه ها با همزمان بهینه سازی وظایف تراز دامنه و طبقه بندی ، متمایز هستند.با این حال ، این روش ها اغلب از یک چالش مهم غافل می شوند: درگیری ذاتی بین این دو کار در هنگام بهینه سازی مبتنی بر شیب.در این مقاله ، ما به این شماره می پردازیم و دو راه حل مؤثر را به عنوان هماهنگی شیب ، از جمله GH و GH ++ ، معرفی می کنیم تا درگیری بین تراز دامنه و کارهای طبقه بندی را کاهش دهیم.GH با تغییر زاویه شیب بین کارهای مختلف از زاویه چاق به زاویه حاد عمل می کند ، بنابراین درگیری را حل می کند و دو کار را به روشی هماهنگ انجام می دهد.با این حال ، این باعث می شود که هر دو کار از جهت های بهینه سازی اصلی خود منحرف شوند.بنابراین ما یک نسخه بهبود یافته ، GH ++ را پیشنهاد می کنیم ، که زاویه شیب بین کارها را از زاویه چاق به زاویه عمودی تنظیم می کند.این نه تنها درگیری را از بین می برد بلکه انحراف را از جهت های شیب اصلی به حداقل می رساند.سرانجام ، برای راحتی و کارآیی بهینه سازی ، ما استراتژی های هماهنگی شیب را در یک عملکرد کاهش وزن پویا با استفاده از یک اپراتور انتگرال در شیب هماهنگ تکامل می دهیم.نکته قابل توجه ، GH/GH ++ به UDA متعامد هستند و می توانند به طور یکپارچه در اکثر مدل های UDA موجود ادغام شوند.بینش های نظری و تجزیه و تحلیل های تجربی نشان می دهد که رویکردهای پیشنهادی نه تنها خطوط اصلی UDA را تقویت می کند بلکه مدلهای پیشرفته اخیر را نیز بهبود می بخشد.