ترجمه فارسی مقاله DeepIV منظم با انتخاب مدل

چکیده

In this paper, we study nonparametric estimation of instrumental variable (IV) regressions. While recent advancements in machine learning have introduced flexible methods for IV estimation, they often encounter one or more of the following limitations: (1) restricting the IV regression to be uniquely identified; (2) requiring minimax computation oracle, which is highly unstable in practice; (3) absence of model selection procedure. In this paper, we present the first method and analysis that can avoid all three limitations, while still enabling general function approximation. Specifically, we propose a minimax-oracle-free method called Regularized DeepIV (RDIV) regression that can converge to the least-norm IV solution. Our method consists of two stages: first, we learn the conditional distribution of covariates, and by utilizing the learned distribution, we learn the estimator by minimizing a Tikhonov-regularized loss function. We further show that our method allows model selection procedures that can achieve the oracle rates in the misspecified regime. When extended to an iterative estimator, our method matches the current state-of-the-art convergence rate. Our method is a Tikhonov regularized variant of the popular DeepIV method with a non-parametric MLE first-stage estimator, and our results provide the first rigorous guarantees for this empirically used method, showcasing the importance of regularization which was absent from the original work.

چکیده به فارسی (ترجمه ماشینی)

در این مقاله ، ما برآورد غیر پارامتری رگرسیون متغیر ابزاری (IV) را مطالعه می کنیم.در حالی که پیشرفت های اخیر در یادگیری ماشین روشهای انعطاف پذیر را برای برآورد IV معرفی کرده است ، آنها اغلب با یک یا چند مورد از محدودیت های زیر روبرو می شوند: (1) محدود کردن رگرسیون IV به طور منحصر به فرد مشخص می شود.(2) نیاز به محاسبه Minimax Oracle ، که در عمل بسیار ناپایدار است.(3) عدم وجود روش انتخاب مدل.در این مقاله ، ما اولین روش و تجزیه و تحلیل را ارائه می دهیم که می تواند از هر سه محدودیت جلوگیری کند ، در حالی که هنوز هم عملکرد کلی را فعال می کند.به طور خاص ، ما یک روش بدون محدودیت به نام رگرسیون منظم Deepiv (RDIV) را پیشنهاد می کنیم که می تواند به محلول IV با کمترین حالت همگرا شود.روش ما از دو مرحله تشکیل شده است: اول ، ما توزیع مشروط متغیرهای متغیر را می آموزیم و با استفاده از توزیع آموخته شده ، با به حداقل رساندن یک عملکرد از دست دادن تنظیم شده Tikhonov ، برآوردگر را می آموزیم.ما همچنین نشان می دهیم که روش ما اجازه می دهد تا روش های انتخاب مدل که می توانند به نرخ اوراکل در رژیم غلط شناخته شده دست یابند.هنگامی که به یک برآوردگر تکراری گسترش یابد ، روش ما با نرخ همگرایی پیشرفته فعلی مطابقت دارد.روش ما یک نوع منظم Tikhonov از روش Deepiv محبوب با یک برآوردگر مرحله اول غیر پارامتری است و نتایج ما اولین ضمانت های دقیق را برای این روش تجربی استفاده شده ارائه می دهد ، و اهمیت تنظیم منظم را نشان می دهد که از اثر اصلی وجود ندارد.