ترجمه فارسی مقاله ارزیابی استحکام طبقه بندی متن به نمونه های مخالف جزئی گفتار

چکیده

As machine learning systems become more widely used, especially for safety critical applications, there is a growing need to ensure that these systems behave as intended, even in the face of adversarial examples. Adversarial examples are inputs that are designed to trick the decision making process, and are intended to be imperceptible to humans. However, for text-based classification systems, changes to the input, a string of text, are always perceptible. Therefore, text-based adversarial examples instead focus on trying to preserve semantics. Unfortunately, recent work has shown this goal is often not met. To improve the quality of text-based adversarial examples, we need to know what elements of the input text are worth focusing on. To address this, in this paper, we explore what parts of speech have the highest impact of text-based classifiers. Our experiments highlight a distinct bias in CNN algorithms against certain parts of speech tokens within review datasets. This finding underscores a critical vulnerability in the linguistic processing capabilities of CNNs.

چکیده به فارسی (ترجمه ماشینی)

با استفاده از سیستم های یادگیری ماشین ، به ویژه برای کاربردهای مهم ایمنی ، نیاز به فزاینده ای برای اطمینان از رفتار این سیستم ها همانطور که در نظر گرفته شده است ، حتی در مواجهه با نمونه های مخالف وجود دارد.نمونه های مخالف ورودی هایی هستند که برای فریب روند تصمیم گیری طراحی شده اند و در نظر گرفته شده است که برای انسان غیرقابل تصور باشد.با این حال ، برای سیستم های طبقه بندی مبتنی بر متن ، تغییر در ورودی ، یک رشته متن ، همیشه قابل درک است.بنابراین ، در عوض ، نمونه های مخالف مبتنی بر متن بر تلاش برای حفظ معناشناسی تمرکز می کنند.متأسفانه ، کارهای اخیر نشان داده است که این هدف اغلب برآورده نمی شود.برای بهبود کیفیت نمونه های مخالف مبتنی بر متن ، باید بدانیم که چه عناصر متن ورودی ارزش تمرکز روی آن را دارند.برای پرداختن به این موضوع ، در این مقاله ، ما بررسی می کنیم که چه بخش هایی از گفتار بیشترین تأثیر را در طبقه بندی کننده های مبتنی بر متن دارند.آزمایشات ما تعصب متمایز در الگوریتم های CNN را در برابر قسمت های خاصی از نشانه های گفتار در مجموعه داده های بررسی برجسته می کند.این یافته تأکید کننده آسیب پذیری اساسی در قابلیت های پردازش زبانی CNN ها است.