ترجمه فارسی مقاله تقویت حملات متنی خصمانه به مدل‌های BERT با الگوریتم گرادیان نزولی پیش‌بینی‌شده

چکیده

Adversarial attacks against deep learning models represent a major threat to the security and reliability of natural language processing (NLP) systems. In this paper, we propose a modification to the BERT-Attack framework, integrating Projected Gradient Descent (PGD) to enhance its effectiveness and robustness. The original BERT-Attack, designed for generating adversarial examples against BERT-based models, suffers from limitations such as a fixed perturbation budget and a lack of consideration for semantic similarity. The proposed approach in this work, PGD-BERT-Attack, addresses these limitations by leveraging PGD to iteratively generate adversarial examples while ensuring both imperceptibility and semantic similarity to the original input. Extensive experiments are conducted to evaluate the performance of PGD-BERT-Attack compared to the original BERT-Attack and other baseline methods. The results demonstrate that PGD-BERT-Attack achieves higher success rates in causing misclassification while maintaining low perceptual changes. Furthermore, PGD-BERT-Attack produces adversarial instances that exhibit greater semantic resemblance to the initial input, enhancing their applicability in real-world scenarios. Overall, the proposed modification offers a more effective and robust approach to adversarial attacks on BERT-based models, thus contributing to the advancement of defense against attacks on NLP systems.

چکیده به فارسی (ترجمه ماشینی)

حملات مخالف علیه مدل های یادگیری عمیق تهدیدی برای امنیت و قابلیت اطمینان سیستم های پردازش زبان طبیعی (NLP) است.در این مقاله ، ما یک اصلاح در چارچوب حمله Bert-Attack ، ادغام نزول شیب پیش بینی شده (PGD) را برای تقویت اثربخشی و استحکام آن پیشنهاد می کنیم.حمله اصلی برت ، که برای تولید نمونه های مخالف در برابر مدل های مبتنی بر BERT طراحی شده است ، از محدودیت هایی مانند بودجه آشفتگی ثابت و عدم توجه به شباهت معنایی رنج می برد.رویکرد پیشنهادی در این کار ، Attack PGD-Bert ، با استفاده از PGD به این محدودیت ها ، به طور مکرر نمونه های مخالف را ایجاد می کند و در عین حال از عدم پذیرش و شباهت معنایی با ورودی اصلی اطمینان می دهد.آزمایش های گسترده ای برای ارزیابی عملکرد حمله PGD-Bert در مقایسه با حمله اصلی BERT و سایر روش های پایه انجام می شود.نتایج نشان می دهد که حمله PGD-Bert در ضمن حفظ تغییرات ادراکی کم ، به میزان موفقیت بالاتری در ایجاد نادرست می رسد.علاوه بر این ، Attack PGD-Bert نمونه های مخالف را تولید می کند که شباهت معنایی بیشتری با ورودی اولیه نشان می دهد و باعث افزایش کاربرد آنها در سناریوهای دنیای واقعی می شود.به طور کلی ، اصلاح پیشنهادی یک رویکرد مؤثرتر و قوی تر در مورد حملات مخالف به مدلهای مبتنی بر BERT ارائه می دهد ، بنابراین به پیشرفت دفاع در برابر حملات به سیستم های NLP کمک می کند.