ترجمه فارسی مقاله CERT-ED: طبقه‌بندی متن با قابلیت اطمینان بالا برای فاصله ویرایش

چکیده

With the growing integration of AI in daily life, ensuring the robustness of systems to inference-time attacks is crucial. Among the approaches for certifying robustness to such adversarial examples, randomized smoothing has emerged as highly promising due to its nature as a wrapper around arbitrary black-box models. Previous work on randomized smoothing in natural language processing has primarily focused on specific subsets of edit distance operations, such as synonym substitution or word insertion, without exploring the certification of all edit operations. In this paper, we adapt Randomized Deletion (Huang et al., 2023) and propose, CERTified Edit Distance defense (CERT-ED) for natural language classification. Through comprehensive experiments, we demonstrate that CERT-ED outperforms the existing Hamming distance method RanMASK (Zeng et al., 2023) in 4 out of 5 datasets in terms of both accuracy and the cardinality of the certificate. By covering various threat models, including 5 direct and 5 transfer attacks, our method improves empirical robustness in 38 out of 50 settings.

چکیده به فارسی (ترجمه ماشینی)

با افزایش ادغام هوش مصنوعی در زندگی روزمره ، اطمینان از استحکام سیستم ها به حملات استنباط بسیار مهم است.در میان رویکردهای تأیید استحکام به چنین مثالهای مخالف ، هموار سازی تصادفی به دلیل ماهیت آن به عنوان یک بسته بندی در اطراف مدلهای خودسرانه سیاه و سفید ، به عنوان یک بسته بندی بسیار امیدوار کننده ظاهر شده است.کار قبلی در مورد هموار سازی تصادفی در پردازش زبان طبیعی در درجه اول روی زیر مجموعه های خاص عملیات از راه دور ویرایش ، مانند جایگزینی مترادف یا درج کلمه ، بدون بررسی گواهینامه کلیه عملیات ویرایش متمرکز شده است.در این مقاله ، ما حذف تصادفی (هوانگ و همکاران ، 2023) را تطبیق می دهیم و برای طبقه بندی زبان طبیعی ، دفاع از راه دور ویرایش (گواهینامه) را پیشنهاد می کنیم.از طریق آزمایش های جامع ، ما نشان می دهیم که گواهینامه از روش فاصله هامینگ موجود Ranmask (Zeng et al. ، 2023) در 4 از 5 مجموعه داده از نظر دقت و کاردینال بودن گواهینامه بهتر عمل می کند.روش ما با پوشش مدل های مختلف تهدید ، از جمله 5 حمله انتقال مستقیم و 5 ، استحکام تجربی را در 38 از 50 تنظیمات بهبود می بخشد.