ترجمه فارسی مقاله بررسی حملات خصمانه در تجزیه و تحلیل نرم‌افزار از طریق توضیح‌پذیری یادگیری ماشین

چکیده

With the recent advancements in machine learning (ML), numerous ML-based approaches have been extensively applied in software analytics tasks to streamline software development and maintenance processes. Nevertheless, studies indicate that despite their potential usefulness, ML models are vulnerable to adversarial attacks, which may result in significant monetary losses in these processes. As a result, the ML models’ robustness against adversarial attacks must be assessed before they are deployed in software analytics tasks. Despite several techniques being available for adversarial attacks in software analytics tasks, exploring adversarial attacks using ML explainability is largely unexplored. Therefore, this study aims to investigate the relationship between ML explainability and adversarial attacks to measure the robustness of ML models in software analytics tasks. In addition, unlike most existing attacks that directly perturb input-space, our attack approach focuses on perturbing feature-space. Our extensive experiments, involving six datasets, three ML explainability techniques, and seven ML models, demonstrate that ML explainability can be used to conduct successful adversarial attacks on ML models in software analytics tasks. This is achieved by modifying only the top 1-3 important features identified by ML explainability techniques. Consequently, the ML models under attack fail to accurately predict up to 86.6% of instances that were correctly predicted before adversarial attacks, indicating the models’ low robustness against such attacks. Finally, our proposed technique demonstrates promising results compared to four state-of-the-art adversarial attack techniques targeting tabular data.

چکیده به فارسی (ترجمه ماشینی)

با پیشرفت های اخیر در یادگیری ماشین (ML) ، رویکردهای بی شماری مبتنی بر ML به طور گسترده در کارهای تجزیه و تحلیل نرم افزار برای ساده سازی فرآیندهای توسعه و نگهداری نرم افزار اعمال شده است.با این وجود ، مطالعات نشان می دهد که علی رغم سودمندی بالقوه آنها ، مدل های ML در برابر حملات مخالف آسیب پذیر هستند ، که ممکن است منجر به تلفات پولی قابل توجهی در این فرآیندها شود.در نتیجه ، استحکام مدل های ML در برابر حملات مخالف باید قبل از استقرار در کارهای تجزیه و تحلیل نرم افزار ارزیابی شود.علیرغم اینکه چندین تکنیک برای حملات مخالف در کارهای تجزیه و تحلیل نرم افزاری در دسترس است ، بررسی حملات متناقض با استفاده از توضیح ML تا حد زیادی ناشناخته است.بنابراین ، این مطالعه با هدف بررسی رابطه بین توضیح ML و حملات مخالف برای اندازه گیری استحکام مدل های ML در کارهای تجزیه و تحلیل نرم افزار انجام شده است.علاوه بر این ، بر خلاف اکثر حملات موجود که مستقیماً فضای ورودی را مختل می کنند ، رویکرد حمله ما بر فضای آشفتگی فضای متمرکز است.آزمایش های گسترده ما ، شامل شش مجموعه داده ، سه تکنیک توضیح قابلیت ML و هفت مدل ML ، نشان می دهد که از توضیح ML می توان برای انجام حملات مخالف موفقیت آمیز به مدل های ML در کارهای تجزیه و تحلیل نرم افزار استفاده کرد.این امر با اصلاح تنها ویژگی های مهم 1-3 مهم مشخص شده توسط تکنیک های توضیح ML حاصل می شود.در نتیجه ، مدل های ML تحت حمله نتوانسته اند 86.6 ٪ از مواردی را که قبل از حملات مخالف به درستی پیش بینی شده بودند ، پیش بینی کنند ، و این نشانگر استحکام کم مدل ها در برابر چنین حملاتی است.سرانجام ، تکنیک پیشنهادی ما نتایج امیدوارکننده ای را در مقایسه با چهار روش پیشرفته حمله مخالف با هدف قرار دادن داده های جدولی نشان می دهد.