ترجمه فارسی مقاله روشهای کلی تک حلقه برای یادگیری پارامتر صفرا

چکیده

Bilevel optimisation is used in inverse problems for hyperparameter learning and experimental design. For instance, it can be used to find optimal regularisation parameters and forward operators, based on a set of training pairs. However, computationally, the process is costly. To reduce this cost, recently in bilevel optimisation research, especially as applied to machine learning, so-called single-loop approaches have been introduced. On each step of an outer optimisation method, such methods only take a single gradient descent step towards the solution of the inner problem. In this paper, we flexibilise the inner algorithm, to allow for methods more applicable to difficult inverse problems with nonsmooth regularisation, including primal-dual proximal splitting (PDPS). Moreover, as we have recently shown, significant performance improvements can be obtained in PDE-constrained optimisation by interweaving the steps of conventional iterative solvers (Jacobi, Gauss-Seidel, conjugate gradients) for both the PDE and its adjoint, with the steps of the optimisation method. In this paper we demonstrate how the adjoint equation in bilevel problems can also benefit from such interweaving with conventional linear system solvers. We demonstrate the performance of our proposed methods on learning the deconvolution kernel for image deblurring, and the subsampling operator for magnetic resonance imaging (MRI).

چکیده به فارسی (ترجمه ماشینی)

بهینه سازی صفرا در مشکلات معکوس برای یادگیری هایپرپارامتر و طراحی آزمایشی استفاده می شود.به عنوان مثال ، می توان از آن برای یافتن پارامترهای منظم بهینه و اپراتورهای رو به جلو ، بر اساس مجموعه ای از جفت های آموزشی استفاده کرد.با این حال ، از نظر محاسباتی ، این روند پرهزینه است.برای کاهش این هزینه ، اخیراً در تحقیقات بهینه سازی Bilevel ، به ویژه که برای یادگیری ماشین کاربرد دارد ، رویکردهای به اصطلاح تک حلقه معرفی شده است.در هر مرحله از یک روش بهینه سازی بیرونی ، چنین روشهایی فقط یک مرحله نزولی شیب را به سمت حل مسئله درونی می برد.در این مقاله ، ما الگوریتم داخلی را انعطاف پذیر می کنیم ، تا روشهای قابل استفاده تر در مورد مشکلات معکوس دشوار با تنظیم غیر نرم ، از جمله تقسیم پروگزیمال دوتایی (PDP).علاوه بر این ، همانطور که اخیراً نشان داده ایم ، با استفاده از مراحل حل کننده های تکراری معمولی (ژاکوبی ، گاوس-سیدل ، شیب های کونژوگه) برای هر دو PDE و مجاور آن ، می توان در بهینه سازی PDE را بهینه سازی کرد.روش بهینه سازی.در این مقاله ما نشان می دهیم که چگونه معادله Adind در مشکلات صفراوی نیز می تواند از چنین ارتباط با حل کننده های سیستم خطی معمولی بهره مند شود.ما عملکرد روشهای پیشنهادی خود را در یادگیری هسته تجزیه برای تصویر سازی تصویر و اپراتور زیر نمونه برداری برای تصویربرداری با رزونانس مغناطیسی (MRI) نشان می دهیم.