ترجمه فارسی مقاله یادگیری کارآمد منیفولد پارتو با ساختار رتبه پایین

چکیده

Multi-task learning, which optimizes performance across multiple tasks, is inherently a multi-objective optimization problem. Various algorithms are developed to provide discrete trade-off solutions on the Pareto front. Recently, continuous Pareto front approximations using a linear combination of base networks have emerged as a compelling strategy. However, it suffers from scalability issues when the number of tasks is large. To address this issue, we propose a novel approach that integrates a main network with several low-rank matrices to efficiently learn the Pareto manifold. It significantly reduces the number of parameters and facilitates the extraction of shared features. We also introduce orthogonal regularization to further bolster performance. Extensive experimental results demonstrate that the proposed approach outperforms state-of-the-art baselines, especially on datasets with a large number of tasks.

چکیده به فارسی (ترجمه ماشینی)

یادگیری چند کاره ، که عملکرد را در چندین کار بهینه می کند ، ذاتاً یک مشکل بهینه سازی چند هدف است.الگوریتم های مختلفی برای ارائه راه حل های تجاری گسسته در جبهه پارتو تهیه شده است.به تازگی ، تقریب مداوم جلوی پارتو با استفاده از ترکیبی خطی از شبکه های پایه به عنوان یک استراتژی قانع کننده ظاهر شده است.با این حال ، هنگامی که تعداد کارها زیاد باشد ، از مشکلات مقیاس پذیری رنج می برد.برای پرداختن به این مسئله ، ما یک رویکرد جدید را پیشنهاد می کنیم که یک شبکه اصلی را با چندین ماتریس درجه پایین ادغام می کند تا به طور مؤثر از منیفولد پارتو یاد بگیرد.این تعداد پارامترها را به میزان قابل توجهی کاهش می دهد و استخراج ویژگی های مشترک را تسهیل می کند.ما همچنین برای تقویت بیشتر عملکرد ، تنظیمات متعامد را معرفی می کنیم.نتایج تجربی گسترده نشان می دهد که رویکرد پیشنهادی از خط مقدمات پیشرفته ، به ویژه در مجموعه داده هایی با تعداد زیادی کارها ، بهتر است.