ترجمه فارسی مقاله سهم XAI در توسعه ایمن و صدور گواهینامه هوش مصنوعی: تحلیلی مبتنی بر نظر متخصصان

چکیده

Developing and certifying safe – or so-called trustworthy – AI has become an increasingly salient issue, especially in light of upcoming regulation such as the EU AI Act. In this context, the black-box nature of machine learning models limits the use of conventional avenues of approach towards certifying complex technical systems. As a potential solution, methods to give insights into this black-box – devised in the field of eXplainable AI (XAI) – could be used. In this study, the potential and shortcomings of such methods for the purpose of safe AI development and certification are discussed in 15 qualitative interviews with experts out of the areas of (X)AI and certification. We find that XAI methods can be a helpful asset for safe AI development, as they can show biases and failures of ML-models, but since certification relies on comprehensive and correct information about technical systems, their impact is expected to be limited.

چکیده به فارسی (ترجمه ماشینی)

توسعه و تأیید امن – یا به اصطلاح قابل اعتماد – هوش مصنوعی به ویژه با توجه به مقررات آینده مانند قانون اتحادیه اروپا اتحادیه اروپا ، به یک مسئله فزاینده تبدیل شده است.در این زمینه ، ماهیت جعبه سیاه مدل های یادگیری ماشین ، استفاده از راه های معمولی رویکرد را برای تأیید سیستم های فنی پیچیده محدود می کند.به عنوان یک راه حل بالقوه ، می توان از روش هایی برای ارائه بینش در مورد این جعبه سیاه – که در زمینه AI قابل توضیح (XAI) ابداع شده است – استفاده کرد.در این مطالعه ، پتانسیل و کاستی های چنین روشهایی به منظور توسعه و صدور گواهینامه ایمن در 15 مصاحبه کیفی با متخصصان خارج از حوزه های (X) هوش مصنوعی و صدور گواهینامه مورد بحث قرار گرفته است.ما می دانیم که روش های XAI می تواند یک دارایی مفید برای توسعه ایمن هوش مصنوعی باشد ، زیرا می توانند تعصب و خرابی در مدل های ML را نشان دهند ، اما از آنجا که صدور گواهینامه به اطلاعات جامع و صحیح در مورد سیستم های فنی متکی است ، انتظار می رود تأثیر آنها محدود باشد.