ترجمه فارسی مقاله ورا ورتو: حمله‌ی چندوجهی هواپیماربایی

چکیده

The increasing cost of training machine learning (ML) models has led to the inclusion of new parties to the training pipeline, such as users who contribute training data and companies that provide computing resources. This involvement of such new parties in the ML training process has introduced new attack surfaces for an adversary to exploit. A recent attack in this domain is the model hijacking attack, whereby an adversary hijacks a victim model to implement their own — possibly malicious — hijacking tasks. However, the scope of the model hijacking attack is so far limited to the homogeneous-modality tasks. In this paper, we transform the model hijacking attack into a more general multimodal setting, where the hijacking and original tasks are performed on data of different modalities. Specifically, we focus on the setting where an adversary implements a natural language processing (NLP) hijacking task into an image classification model. To mount the attack, we propose a novel encoder-decoder based framework, namely the Blender, which relies on advanced image and language models. Experimental results show that our modal hijacking attack achieves strong performances in different settings. For instance, our attack achieves 94%, 94%, and 95% attack success rate when using the Sogou news dataset to hijack STL10, CIFAR-10, and MNIST classifiers.

چکیده به فارسی (ترجمه ماشینی)

افزایش هزینه های مدلهای آموزش آموزش ماشین (ML) منجر به گنجاندن احزاب جدید در خط لوله آموزش ، مانند کاربرانی که به داده های آموزش و شرکت هایی که منابع محاسباتی ارائه می دهند کمک می کند.این درگیری چنین احزاب جدید در فرایند آموزش ML سطوح حمله جدیدی را برای یک طرف مقابل برای بهره برداری معرفی کرده است.یک حمله اخیر در این دامنه ، مدل حمله ربوده شده است ، به موجب آن یک دشمن یک مدل قربانی را برای اجرای وظایف خود – احتمالاً مخرب – ربوده می کند.با این حال ، دامنه حمله ربودن مدل تا کنون محدود به کارهای همگن است.در این مقاله ، ما حمله ربوده شده مدل را به یک تنظیم چندرسانه ای عمومی تر تبدیل می کنیم ، جایی که کارهای ربوده شده و اصلی روی داده های روشهای مختلف انجام می شود.به طور خاص ، ما بر روی تنظیماتی تمرکز می کنیم که یک طرف مقابل یک کار ربودن پردازش زبان طبیعی (NLP) را در یک مدل طبقه بندی تصویر پیاده سازی می کند.برای نصب حمله ، ما یک چارچوب مبتنی بر رمزگذار جدید ، یعنی مخلوط کن ، که به مدل های پیشرفته تصویر و زبان متکی است ، پیشنهاد می کنیم.نتایج تجربی نشان می دهد که حمله ربودن معین ما در تنظیمات مختلف به اجراهای قوی می رسد.به عنوان مثال ، حمله ما هنگام استفاده از مجموعه داده های خبری SOGOU برای ربودن STL10 ، CIFAR-10 و طبقه بندی کننده های MNIST ، به 94 ٪ ، 94 ٪ و 95 ٪ حمله حمله می کند.