مقاله MINTY: مدل های مبتنی بر قاعده که نیاز به مشخصه های جانهی را با مقادیر از دست رفته به حداقل می رسانند

چکیده

Rule models are often preferred in prediction tasks with tabular inputs as they can be easily interpreted using natural language and provide predictive performance on par with more complex models. However, most rule models’ predictions are undefined or ambiguous when some inputs are missing, forcing users to rely on statistical imputation models or heuristics like zero imputation, undermining the interpretability of the models. In this work, we propose fitting concise yet precise rule models that learn to avoid relying on features with missing values and, therefore, limit their reliance on imputation at test time. We develop MINTY, a method that learns rules in the form of disjunctions between variables that act as replacements for each other when one or more is missing. This results in a sparse linear rule model, regularized to have small dependence on features with missing values, that allows a trade-off between goodness of fit, interpretability, and robustness to missing values at test time. We demonstrate the value of MINTY in experiments using synthetic and real-world data sets and find its predictive performance comparable or favorable to baselines, with smaller reliance on features with missing values.

چکیده به فارسی (ترجمه ماشینی)

مدل های قانون اغلب در کارهای پیش بینی با ورودی های جدولی ترجیح داده می شوند زیرا می توان آنها را با استفاده از زبان طبیعی به راحتی تفسیر کرد و عملکرد پیش بینی کننده را با مدل های پیچیده تر ارائه داد.با این حال ، بیشتر پیش بینی های مدل های قاعده در صورت عدم وجود برخی از ورودی ها ، تعریف نشده یا مبهم هستند و کاربران را وادار می کنند تا به مدل های آماری یا اکتشافی مانند صفر متکی باشند ، و تفسیر مدل ها را تضعیف می کنند.در این کار ، ما مدل های قاعده ای مختصر و در عین حال دقیق را پیشنهاد می کنیم که یاد می گیرند از تکیه بر ویژگی هایی با مقادیر گمشده خودداری کنند و بنابراین ، اعتماد به نفس آنها را به زمان آزمایش محدود می کنند.ما Minty را توسعه می دهیم ، روشی که قوانین را به صورت اختلال بین متغیرهایی که در صورت از دست رفتن یک یا چند نفر به عنوان جایگزینی برای یکدیگر عمل می کنند ، می آموزد.این منجر به یک مدل قاعده خطی پراکنده می شود ، که به ترتیب وابستگی اندکی به ویژگی هایی با مقادیر گمشده دارد ، که اجازه می دهد تا بین خوبی از تناسب ، تفسیر و استحکام به مقادیر از دست رفته در زمان آزمایش ، تجارت کند.ما مقدار minty را در آزمایشات با استفاده از مجموعه داده های مصنوعی و واقعی در دنیای واقعی نشان می دهیم و عملکرد پیش بینی کننده آن را قابل مقایسه یا مطلوب با خطوط پایه می دانیم ، با اعتماد به نفس کمتری به ویژگی هایی با مقادیر گمشده.