مقاله کنترل سریع ریسک: یک چارچوب دقیق برای پیاده سازی پاسخگوی مدل های بزرگ زبان

چکیده

The recent explosion in the capabilities of large language models has led to a wave of interest in how best to prompt a model to perform a given task. While it may be tempting to simply choose a prompt based on average performance on a validation set, this can lead to a deployment where unexpectedly poor responses are generated, especially for the worst-off users. To mitigate this prospect, we propose Prompt Risk Control, a lightweight framework for selecting a prompt based on rigorous upper bounds on families of informative risk measures. We offer methods for producing bounds on a diverse set of metrics, including quantities that measure worst-case responses and disparities in generation quality across the population of users. In addition, we extend the underlying statistical bounding techniques to accommodate the possibility of distribution shifts in deployment. Experiments on applications such as open-ended chat, medical question summarization, and code generation highlight how such a framework can foster responsible deployment by reducing the risk of the worst outcomes.

چکیده به فارسی (ترجمه ماشینی)

انفجار اخیر در قابلیت های مدل های بزرگ زبان باعث شده است که چگونه می توان یک مدل را برای انجام یک کار معین به بهترین وجهی برای انجام یک مدل انجام داد.در حالی که ممکن است انتخاب سریع بر اساس عملکرد متوسط در یک مجموعه اعتبار سنجی وسوسه انگیز باشد ، این می تواند منجر به استقرار شود که در آن پاسخ های غیر منتظره ای ضعیف ایجاد می شود ، به خصوص برای کاربران بدترین حالت.برای کاهش این چشم انداز ، ما کنترل ریسک سریع را پیشنهاد می کنیم ، یک چارچوب سبک وزن برای انتخاب یک فوریت بر اساس مرزهای بالایی سخت بر خانواده های اقدامات ریسک آموزنده.ما روش هایی را برای تولید مرزها در مجموعه متنوعی از معیارها ارائه می دهیم ، از جمله مقادیری که پاسخ های بدترین حالت و نابرابری ها را در کیفیت تولید در بین جمعیت کاربران اندازه گیری می کنند.علاوه بر این ، ما تکنیک های اساسی محدود آماری را گسترش می دهیم تا امکان تغییر توزیع در استقرار را فراهم کنیم.آزمایشات مربوط به برنامه های کاربردی مانند چت باز ، خلاصه سؤال پزشکی و تولید کد نشان می دهد که چگونه چنین چارچوبی می تواند با کاهش خطر بدترین نتایج ، استقرار مسئول را تقویت کند.