مقاله با عنوان “Model Extraction and Adversarial Transferability, Your BERT is Vulnerable!” به بررسی آسیب‌پذیری‌های مدل‌های زبانی پیش‌آموزش‌شده مانند BERT در برابر حملات استخراج مدل و انتقال پذیری حملات خصمانه می‌پردازد. در دنیای امروز، مدل‌های زبانی بزرگی مانند BERT نقش حیاتی در پردازش زبان طبیعی (NLP) ایفا می‌کنند و به طور گسترده در کاربردهای مختلفی از طبقه‌بندی متن گرفته تا تولید متن مورد استفاده قرار می‌گیرند. شرکت‌ها اغلب این مدل‌ها را برای وظایف خاص بهینه‌سازی می‌کنند و به عنوان API ارائه می‌دهند. با این حال، این APIها در معرض حملات مخرب قرار دارند. این مقاله به بررسی این خطرات پرداخته و راهکارهای مقابله با آن را مورد بررسی قرار می‌دهد.

این مقاله توسط Xuanli He، Lingjuan Lyu، Qiongkai Xu و Lichao Sun نگارش شده است. نویسندگان این مقاله متخصصان حوزه پردازش زبان طبیعی و امنیت مدل‌های یادگیری ماشین هستند. زمینه تحقیقاتی آن‌ها بر روی شناسایی و رفع آسیب‌پذیری‌های مدل‌های زبانی پیش‌آموزش‌شده و توسعه روش‌های دفاعی در برابر حملات مختلف متمرکز است.

این مقاله نشان می‌دهد که چگونه یک مهاجم می‌تواند با استفاده از تعداد محدودی پرس و جو و بدون دانش قبلی عمیق، یک سرویس API مبتنی بر BERT را (مدل قربانی) در چندین مجموعه داده معیار به سرقت ببرد. علاوه بر این، مقاله نشان می‌دهد که مدل استخراج‌شده می‌تواند منجر به حملات خصمانه با قابلیت انتقال بالا علیه مدل قربانی شود. یافته‌های این تحقیق نشان می‌دهد که آسیب‌پذیری‌های بالقوه سرویس‌های API مبتنی بر BERT همچنان وجود دارد، حتی اگر بین معماری مدل قربانی و مدل حمله، ناسازگاری وجود داشته باشد. در نهایت، مقاله دو استراتژی دفاعی برای محافظت از مدل قربانی را بررسی می‌کند و متوجه می‌شود که مگر اینکه عملکرد مدل قربانی فدا شود، هم استخراج مدل و هم قابلیت انتقال خصمانه می‌توانند به طور موثر مدل‌های هدف را به خطر بیندازند.

• استخراج مدل: فرآیند استخراج اطلاعات و ساختار یک مدل یادگیری ماشین از طریق پرس و جو به آن.
• حملات خصمانه: ایجاد ورودی‌های طراحی شده به طور خاص برای فریب دادن یک مدل یادگیری ماشین و ایجاد خروجی نادرست.
• انتقال پذیری حملات: توانایی یک حمله خصمانه برای فریب دادن مدل‌های دیگر، حتی اگر برای فریب دادن مدل خاصی طراحی شده باشد.

روش‌شناسی تحقیق در این مقاله شامل چندین مرحله کلیدی است:

1. انتخاب مجموعه‌داده: نویسندگان از چندین مجموعه داده معیار برای ارزیابی اثربخشی حملات و دفاع‌ها استفاده کرده‌اند. این مجموعه‌داده‌ها شامل مجموعه‌های داده طبقه‌بندی متن و وظایف دیگر NLP هستند. به عنوان مثال، از مجموعه داده‌هایی برای تحلیل احساسات و شناسایی اسپم استفاده شده است.
2. پیاده‌سازی حملات استخراج مدل: محققان الگوریتم‌هایی را برای استخراج مدل از سرویس API مبتنی بر BERT پیاده‌سازی کردند. این الگوریتم‌ها شامل ارسال پرس و جو به API و استفاده از خروجی برای آموزش یک مدل جایگزین (مدل استخراج‌شده) است. آن‌ها با طراحی پرس‌وجوهای هوشمندانه، سعی در به حداکثر رساندن اطلاعات جمع‌آوری‌شده از API داشتند.
3. ایجاد حملات خصمانه: پس از استخراج مدل، از آن برای تولید حملات خصمانه استفاده شد. این حملات شامل تغییرات جزئی در ورودی‌ها است که باعث می‌شود مدل قربانی (BERT) خروجی اشتباهی ارائه دهد.
4. ارزیابی انتقال پذیری حملات: محققان بررسی کردند که آیا حملات خصمانه تولید شده برای یک مدل استخراج‌شده می‌توانند مدل‌های دیگر (از جمله مدل اصلی قربانی) را نیز فریب دهند. میزان موفقیت حملات در فریب دادن مدل‌های مختلف، نشان‌دهنده انتقال پذیری حملات است.
5. بررسی روش‌های دفاعی: نویسندگان دو روش دفاعی را برای محافظت از مدل‌های BERT در برابر حملات استخراج و حملات خصمانه بررسی کردند. این روش‌ها شامل تغییر در معماری مدل و استفاده از تکنیک‌های مقاوم‌سازی در برابر حملات خصمانه است.

به طور خلاصه، محققان از ترکیبی از روش‌های تجربی و تحلیل تئوری برای نشان دادن آسیب‌پذیری‌های مدل‌های BERT و ارزیابی اثربخشی روش‌های دفاعی استفاده کردند.

یافته‌های کلیدی این مقاله عبارتند از:

• آسیب‌پذیری در برابر استخراج مدل: سرویس‌های API مبتنی بر BERT به راحتی در برابر حملات استخراج مدل آسیب‌پذیر هستند. یک مهاجم می‌تواند با استفاده از تعداد محدودی پرس و جو، یک مدل استخراج‌شده با دقت بالا را آموزش دهد.
• انتقال پذیری بالای حملات خصمانه: حملات خصمانه تولید شده از طریق مدل استخراج‌شده، قابلیت انتقال بالایی دارند و می‌توانند مدل اصلی (قربانی) و سایر مدل‌های مشابه را فریب دهند.
• محدودیت‌های روش‌های دفاعی: روش‌های دفاعی موجود می‌توانند اثربخشی حملات را کاهش دهند، اما اغلب با کاهش عملکرد مدل همراه هستند.
• ناهمگونی معماری: حتی اگر بین معماری مدل قربانی و مدل حمله ناهمگونی وجود داشته باشد، حملات استخراج مدل و انتقال پذیری خصمانه همچنان می توانند به طور موثری مدل های هدف را به خطر بیندازند.

به عنوان مثال، نویسندگان نشان دادند که یک مهاجم می‌تواند با استفاده از تنها 10,000 پرس و جو، مدلی را استخراج کند که تقریباً با دقت مدل اصلی (قربانی) عمل می‌کند. سپس، حملات خصمانه تولید شده با استفاده از این مدل استخراج‌شده، می‌توانند مدل اصلی را با نرخ موفقیت بالایی فریب دهند.

این مقاله دارای کاربردها و دستاوردهای مهمی است:

• آگاهی‌بخشی در مورد آسیب‌پذیری‌ها: این مقاله به توسعه‌دهندگان و شرکت‌هایی که از مدل‌های BERT به عنوان API استفاده می‌کنند، هشدار می‌دهد که این مدل‌ها در برابر حملات مختلف آسیب‌پذیر هستند.
• توسعه روش‌های دفاعی: یافته‌های این مقاله می‌تواند به توسعه روش‌های دفاعی موثرتر برای محافظت از مدل‌های BERT در برابر حملات استخراج و حملات خصمانه کمک کند.
• پیشنهاد راهکارهای امنیتی: مقاله نشان می‌دهد که برای محافظت از مدل‌ها، باید راهکارهای امنیتی قوی‌تری مانند محدود کردن دسترسی به API، استفاده از تکنیک‌های مقاوم‌سازی در برابر حملات خصمانه و نظارت بر فعالیت‌های مشکوک را پیاده‌سازی کرد.
• تاثیر بر تحقیقات آینده: این تحقیق به عنوان پایه‌ای برای تحقیقات آینده در زمینه امنیت مدل‌های زبانی پیش‌آموزش‌شده عمل می‌کند و محققان را تشویق می‌کند تا روش‌های جدیدی برای شناسایی و رفع آسیب‌پذیری‌ها و توسعه روش‌های دفاعی قوی‌تر ارائه دهند.

این مقاله به ما نشان می‌دهد که امنیت مدل‌های یادگیری ماشین یک موضوع بسیار مهم است و نیاز به توجه و بررسی مداوم دارد. شرکت‌ها و توسعه‌دهندگان باید به این موضوع توجه ویژه‌ای داشته باشند تا بتوانند از داده‌ها و سیستم‌های خود در برابر حملات مخرب محافظت کنند.

در نتیجه، مقاله “Model Extraction and Adversarial Transferability, Your BERT is Vulnerable!” به طور موثر آسیب‌پذیری‌های مدل‌های زبانی پیش‌آموزش‌شده مانند BERT را در برابر حملات استخراج مدل و حملات خصمانه با قابلیت انتقال بالا نشان می‌دهد. این مقاله نشان می‌دهد که با استفاده از تعداد محدودی پرس و جو، یک مهاجم می‌تواند یک مدل استخراج‌شده با دقت بالا را آموزش دهد و از آن برای فریب دادن مدل اصلی (قربانی) استفاده کند. اگرچه روش‌های دفاعی موجود می‌توانند اثربخشی حملات را کاهش دهند، اما اغلب با کاهش عملکرد مدل همراه هستند. این یافته‌ها اهمیت توجه به امنیت مدل‌های یادگیری ماشین و توسعه روش‌های دفاعی موثرتر را برجسته می‌کنند. برای محافظت از سیستم‌ها و داده‌ها، لازم است که توسعه‌دهندگان و شرکت‌ها به این موضوع توجه ویژه‌ای داشته باشند و راهکارهای امنیتی قوی‌تری را پیاده‌سازی کنند. این مقاله نقشی مهم در آگاهی‌بخشی به جامعه تحقیقاتی و صنعتی ایفا می‌کند و به عنوان پایه‌ای برای تحقیقات آینده در این زمینه عمل می‌کند.