مقاله یک معیار پشیمانی کالیبره شده عمومی برای تشخیص و کاهش خطاهای تعامل انسان و ربات

چکیده

Robot decision-making increasingly relies on expressive data-driven human prediction models when operating around people. While these models are known to suffer from prediction errors in out-of-distribution interactions, not all prediction errors equally impact downstream robot performance. We identify that the mathematical notion of regret precisely characterizes the degree to which incorrect predictions of future interaction outcomes degraded closed-loop robot performance. However, canonical regret measures are poorly calibrated across diverse deployment interactions. We extend the canonical notion of regret by deriving a calibrated regret metric that generalizes from absolute reward space to probability space. With this transformation, our metric removes the need for explicit reward functions to calculate the robot’s regret, enables fairer comparison of interaction anomalies across disparate deployment contexts, and facilitates targetted dataset construction of “system-level” prediction failures. We experimentally quantify the value of this high-regret interaction data for aiding the robot in improving its downstream decision-making. In a suite of closed-loop autonomous driving simulations, we find that fine-tuning ego-conditioned behavior predictors exclusively on high-regret human-robot interaction data can improve the robot’s overall re-deployment performance with significantly (77%) less data.

چکیده به فارسی (ترجمه ماشینی)

تصمیم گیری ربات به طور فزاینده ای هنگام کار در اطراف افراد ، به مدل های پیش بینی انسانی بر روی داده ها متکی است.در حالی که این مدل ها شناخته شده اند که از خطاهای پیش بینی در تعامل خارج از توزیع رنج می برند ، همه خطاهای پیش بینی به همان اندازه بر عملکرد روبات پایین دست تأثیر نمی گذارد.ما تشخیص می دهیم که مفهوم ریاضی پشیمانی دقیقاً میزان پیش بینی های نادرست نتایج تعامل آینده عملکرد ربات حلقه بسته را مشخص می کند.با این حال ، اقدامات پشیمانی متعارف در تعامل متنوع استقرار کم کالیبره شده است.ما با استخراج یک متریک پشیمانی کالیبره شده که از فضای پاداش مطلق به فضای احتمال تعمیم می یابد ، مفهوم متعارف پشیمانی را گسترش می دهیم.با استفاده از این تحول ، متریک ما نیاز به توابع پاداش صریح را برای محاسبه پشیمانی ربات برطرف می کند ، مقایسه عادلانه تر ناهنجاری های تعامل را در زمینه های استقرار متفاوت امکان پذیر می کند و ساخت مجموعه داده های Targetted از شکست های پیش بینی “سطح سیستم” را تسهیل می کند.ما به طور تجربی مقدار این داده های تعامل با برد بالا را برای کمک به ربات در بهبود تصمیم گیری در پایین دست آن تعیین می کنیم.در مجموعه ای از شبیه سازی های رانندگی خودمختار حلقه بسته ، ما می دانیم که پیش بینی کننده های رفتار با خود با تنظیم دقیق ، منحصراً بر روی داده های تعامل انسانی-روتوت بالا می توانند عملکرد کلی مجدد ربات را با داده های قابل توجهی (77 ٪) بهبود بخشند.