ترجمه فارسی مقاله یک روش تصمیم‌گیری محور برای طراحی خودارزیابی هوش مصنوعی آگاه از عدم قطعیت

چکیده

Artificial intelligence (AI) has revolutionized decision-making processes and systems throughout society and, in particular, has emerged as a significant technology in high-impact scenarios of national interest. Yet, despite AI’s impressive predictive capabilities in controlled settings, it still suffers from a range of practical setbacks preventing its widespread use in various critical scenarios. In particular, it is generally unclear if a given AI system’s predictions can be trusted by decision-makers in downstream applications. To address the need for more transparent, robust, and trustworthy AI systems, a suite of tools has been developed to quantify the uncertainty of AI predictions and, more generally, enable AI to “self-assess” the reliability of its predictions. In this manuscript, we categorize methods for AI self-assessment along several key dimensions and provide guidelines for selecting and designing the appropriate method for a practitioner’s needs. In particular, we focus on uncertainty estimation techniques that consider the impact of self-assessment on the choices made by downstream decision-makers and on the resulting costs and benefits of decision outcomes. To demonstrate the utility of our methodology for self-assessment design, we illustrate its use for two realistic national-interest scenarios. This manuscript is a practical guide for machine learning engineers and AI system users to select the ideal self-assessment techniques for each problem.

چکیده به فارسی (ترجمه ماشینی)

هوش مصنوعی (AI) فرآیندها و سیستم های تصمیم گیری را در سرتاسر جامعه متحول کرده و به ویژه ، به عنوان یک فناوری مهم در سناریوهای با تأثیر بالا از منافع ملی ظاهر شده است.با این حال ، با وجود قابلیت های پیش بینی کننده چشمگیر هوش مصنوعی در تنظیمات کنترل شده ، هنوز هم از طیف وسیعی از مشکلات عملی رنج می برد که مانع استفاده گسترده آن در سناریوهای مختلف بحرانی می شود.به طور خاص ، به طور کلی مشخص نیست که آیا پیش بینی های سیستم هوش مصنوعی داده شده می تواند توسط تصمیم گیرندگان در برنامه های پایین دست اعتماد داشته باشد.برای رفع نیاز به سیستم های هوش مصنوعی شفاف تر ، قوی و قابل اعتماد تر ، مجموعه ای از ابزارها برای تعیین کمیت عدم اطمینان پیش بینی های هوش مصنوعی و به طور کلی تر ، AI را قادر می سازد تا قابلیت اطمینان پیش بینی های آن را “ارزیابی” کند.در این نسخه خطی ، ما روش هایی را برای خود ارزیابی هوش مصنوعی در چندین بعد کلیدی طبقه بندی می کنیم و دستورالعمل هایی را برای انتخاب و طراحی روش مناسب برای نیازهای پزشک ارائه می دهیم.به طور خاص ، ما بر روی تکنیک های تخمین عدم اطمینان تمرکز می کنیم که تأثیر ارزیابی خود را در انتخاب های تصمیم گیرندگان پایین دست و در مورد هزینه ها و مزایای نتایج تصمیم گیری در نظر می گیرد.برای نشان دادن کاربرد روش شناسی ما برای طراحی خود ارزیابی ، ما استفاده از آن را برای دو سناریو واقع بینانه ملی نشان می دهیم.این نسخه خطی یک راهنمای عملی برای مهندسان یادگیری ماشین و کاربران سیستم هوش مصنوعی برای انتخاب تکنیک های ایده آل ارزیابی خود برای هر مشکل است.