در دنیای پردازش زبان طبیعی (NLP)، پایداری و استحکام مدل‌ها در برابر تغییرات جزئی در ورودی‌ها از اهمیت بالایی برخوردار است. یکی از رایج‌ترین و در عین حال چالش‌برانگیزترین این تغییرات، جانشینی واژگان است. به عبارت دیگر، یک مدل NLP باید بتواند عملکرد صحیح خود را حتی زمانی که کلمات موجود در متن با کلمات مترادف یا مشابه جایگزین می‌شوند، حفظ کند. مقاله حاضر با عنوان “در راستای پایداری در برابر جانشینی واژگان زبان طبیعی” به بررسی این موضوع مهم و ارائه یک راهکار نوآورانه برای افزایش پایداری مدل‌ها در برابر این نوع حملات می‌پردازد.

این مقاله توسط Xinshuai Dong, Anh Tuan Luu, Rongrong Ji, و Hong Liu به نگارش درآمده است. این محققان با تخصص در زمینه پردازش زبان طبیعی، یادگیری ماشین و هوش مصنوعی، تلاش کرده‌اند تا یک روش کارآمد و موثر برای مقابله با آسیب‌پذیری مدل‌های NLP در برابر جانشینی واژگان ارائه دهند. زمینه تحقیق این مقاله در حوزه “محاسبه و زبان” (Computation and Language) قرار می‌گیرد و به طور خاص به موضوعات پایداری مدل‌های NLP و حملات خصمانه (Adversarial Attacks) در این حوزه می‌پردازد.

مقاله حاضر به بررسی مساله پایداری در برابر جانشینی واژگان در مدل‌های پردازش زبان طبیعی می‌پردازد. جانشینی واژگان، به معنای استفاده از کلمات مترادف یا مشابه به جای کلمات اصلی در متن است. این نوع حمله می‌تواند به راحتی عملکرد مدل‌های NLP را مختل کند. روش‌های دفاعی پیشین، فضای جانشینی واژگان را با استفاده از توپ‌های l2 یا ابرمستطیل‌ها در فضای برداری بازنمایی می‌کردند. این رویکردها، یا مجموعه‌های آشفتگی (Perturbation Sets) به اندازه کافی فراگیر نیستند، یا بیش از حد بزرگ هستند و در نتیجه، تقلید از بدترین سناریوها برای آموزش مقاوم (Robust Training) را دشوار می‌سازند.

در این مقاله، محققان روش نوینی با عنوان “ترکیب محدب پراکنده خصمانه” (Adversarial Sparse Convex Combination – ASCC) ارائه می‌دهند. در این روش، فضای حمله جانشینی واژگان به عنوان یک پوسته محدب (Convex Hull) مدل‌سازی شده و از یک عبارت منظم‌ساز (Regularization Term) برای اعمال آشفتگی به سمت یک جانشینی واقعی استفاده می‌شود. این امر باعث می‌شود که مدل‌سازی با فضای گسسته متنی هماهنگ‌تر شود. بر اساس روش ASCC، محققان روش دفاعی “ASCC-defense” را پیشنهاد می‌کنند که از ASCC برای تولید بدترین حالت آشفتگی‌ها استفاده کرده و آموزش خصمانه را برای افزایش پایداری به کار می‌گیرد.

نتایج آزمایش‌ها نشان می‌دهد که ASCC-defense در مقایسه با روش‌های پیشین، عملکرد بهتری در زمینه پایداری در دو وظیفه رایج NLP، یعنی تحلیل احساسات (Sentiment Analysis) و استنتاج زبان طبیعی (Natural Language Inference) دارد. این بهبود در برابر چندین نوع حمله و در معماری‌های مختلف مدل‌ها مشاهده شده است. علاوه بر این، مقاله دیدگاه جدیدی را در زمینه دفاع در برابر حملات خصمانه در NLP ارائه می‌دهد: بردارهای کلمه (Word Vectors) که به طور مقاوم آموزش داده شده‌اند، می‌توانند در یک مدل آموزش دیده معمولی مورد استفاده قرار گیرند و بدون نیاز به هیچ تکنیک دفاعی دیگری، پایداری آن را افزایش دهند.

روش‌شناسی تحقیق در این مقاله بر پایه ترکیبی از مدل‌سازی ریاضی، الگوریتم‌های یادگیری ماشین و ارزیابی تجربی استوار است. محققان با استفاده از اصول هندسه محدب، فضای جانشینی واژگان را به صورت یک پوسته محدب مدل‌سازی کرده‌اند. این مدل‌سازی به آنها این امکان را می‌دهد که به طور دقیق‌تر و کارآمدتر، مجموعه کلماتی را که می‌توانند به عنوان جانشین‌های مناسب برای یک کلمه خاص استفاده شوند، مشخص کنند.

برای اعمال آشفتگی به سمت جانشینی‌های واقعی، از یک عبارت منظم‌ساز استفاده شده است. این عبارت، مدل را تشویق می‌کند تا کلماتی را انتخاب کند که نه تنها از نظر معنایی مرتبط هستند، بلکه از نظر نحوی و ساختاری نیز با کلمه اصلی سازگار باشند. این امر باعث می‌شود که آشفتگی‌های تولید شده، واقعی‌تر و موثرتر باشند.

روش ASCC-defense از ASCC برای تولید بدترین حالت آشفتگی‌ها استفاده می‌کند. این آشفتگی‌ها سپس برای آموزش مدل به صورت خصمانه به کار گرفته می‌شوند. آموزش خصمانه به مدل کمک می‌کند تا در برابر حملات جانشینی واژگان مقاوم‌تر شود.

برای ارزیابی عملکرد ASCC-defense، محققان آن را بر روی دو وظیفه رایج NLP، یعنی تحلیل احساسات و استنتاج زبان طبیعی، آزمایش کرده‌اند. آنها از چندین مجموعه داده مختلف و معماری‌های مختلف مدل‌ها استفاده کرده‌اند تا اطمینان حاصل کنند که نتایج به دست آمده، عمومی و قابل اعتماد هستند.

در نهایت، محققان نشان داده‌اند که بردارهای کلمه که به طور مقاوم آموزش داده شده‌اند، می‌توانند در یک مدل آموزش دیده معمولی مورد استفاده قرار گیرند و بدون نیاز به هیچ تکنیک دفاعی دیگری، پایداری آن را افزایش دهند. این رویکرد جدید، یک راهکار ساده و کارآمد برای افزایش پایداری مدل‌های NLP ارائه می‌دهد.

به عنوان مثال، فرض کنید جمله‌ای مانند “این فیلم بسیار خوب است” را در نظر بگیریم. یک حمله جانشینی واژگان می‌تواند کلمه “خوب” را با کلمه “عالی” جایگزین کند. یک مدل پایدار باید بتواند تشخیص دهد که جمله جدید همچنان دارای احساس مثبت است.

یافته‌های کلیدی این مقاله را می‌توان در موارد زیر خلاصه کرد:

• روش ASCC یک روش موثر برای مدل‌سازی فضای جانشینی واژگان است.
• روش ASCC-defense در مقایسه با روش‌های پیشین، عملکرد بهتری در زمینه پایداری در برابر حملات جانشینی واژگان دارد.
• بردارهای کلمه که به طور مقاوم آموزش داده شده‌اند، می‌توانند پایداری مدل‌های NLP را بدون نیاز به تکنیک‌های دفاعی پیچیده افزایش دهند.
• روش ASCC-defense در وظایف تحلیل احساسات و استنتاج زبان طبیعی، نتایج قابل توجهی را نشان داده است.

دستاورد اصلی این مقاله، ارائه یک روش نوآورانه و کارآمد برای افزایش پایداری مدل‌های NLP در برابر حملات جانشینی واژگان است. این دستاورد می‌تواند در زمینه‌های مختلفی کاربرد داشته باشد، از جمله:

• بهبود امنیت سیستم‌های NLP: با افزایش پایداری مدل‌ها در برابر حملات خصمانه، می‌توان امنیت سیستم‌های NLP را در برابر دستکاری‌های مخرب بهبود بخشید.
• افزایش قابلیت اطمینان مدل‌ها: مدل‌های NLP پایدارتر، می‌توانند در شرایط واقعی و با داده‌های متنوع، عملکرد بهتری داشته باشند.
• توسعه برنامه‌های کاربردی NLP قوی‌تر: با استفاده از روش‌های دفاعی ارائه شده در این مقاله، می‌توان برنامه‌های کاربردی NLP قوی‌تر و قابل اعتمادتری را توسعه داد.
• بهبود عملکرد سیستم‌های ترجمه ماشینی: پایداری در برابر جانشینی واژگان می‌تواند به بهبود عملکرد سیستم‌های ترجمه ماشینی کمک کند، به ویژه در مواردی که کلمات مترادف یا مشابه به طور تصادفی یا عمدی در متن ورودی استفاده شده‌اند.

به عنوان مثال، یک سیستم تشخیص اخبار جعلی که از یک مدل NLP پایدار استفاده می‌کند، می‌تواند اخبار جعلی را حتی زمانی که کلمات موجود در آن با کلمات مترادف یا مشابه جایگزین شده‌اند، شناسایی کند.

مقاله “در راستای پایداری در برابر جانشینی واژگان زبان طبیعی” یک گام مهم در جهت توسعه مدل‌های NLP پایدارتر و قابل اعتمادتر است. روش ASCC-defense ارائه شده در این مقاله، یک راهکار موثر برای مقابله با حملات جانشینی واژگان است و می‌تواند در زمینه‌های مختلفی کاربرد داشته باشد. ایده استفاده از بردارهای کلمه که به طور مقاوم آموزش داده شده‌اند، به عنوان یک روش ساده و کارآمد برای افزایش پایداری مدل‌ها، یک نوآوری قابل توجه است. تحقیقات آینده می‌توانند بر روی بهبود بیشتر ASCC-defense و گسترش آن به سایر انواع حملات خصمانه در NLP تمرکز کنند.