ترجمه فارسی مقاله DeepBaR: حمله‌ی درب پشتیِ خطادار به لایه‌های عمیق شبکه‌ی عصبی

چکیده

Machine Learning using neural networks has received prominent attention recently because of its success in solving a wide variety of computational tasks, in particular in the field of computer vision. However, several works have drawn attention to potential security risks involved with the training and implementation of such networks. In this work, we introduce DeepBaR, a novel approach that implants backdoors on neural networks by faulting their behavior at training, especially during fine-tuning. Our technique aims to generate adversarial samples by optimizing a custom loss function that mimics the implanted backdoors while adding an almost non-visible trigger in the image. We attack three popular convolutional neural network architectures and show that DeepBaR attacks have a success rate of up to 98.30%. Furthermore, DeepBaR does not significantly affect the accuracy of the attacked networks after deployment when non-malicious inputs are given. Remarkably, DeepBaR allows attackers to choose an input that looks similar to a given class, from a human perspective, but that will be classified as belonging to an arbitrary target class.

چکیده به فارسی (ترجمه ماشینی)

یادگیری ماشین با استفاده از شبکه های عصبی اخیراً به دلیل موفقیت در حل طیف گسترده ای از کارهای محاسباتی ، به ویژه در زمینه دید رایانه ، مورد توجه برجسته ای قرار گرفته است.با این حال ، چندین اثر به خطرات امنیتی احتمالی مربوط به آموزش و اجرای چنین شبکه هایی توجه کرده است.در این کار ، ما Deepbar را معرفی می کنیم ، یک رویکرد جدید که با تقصیر رفتار آنها در آموزش ، به ویژه در هنگام تنظیم دقیق ، در شبکه های عصبی به عقب رانده می شود.تکنیک ما با هدف تولید نمونه های مخالف با بهینه سازی یک عملکرد از دست دادن سفارشی که در حالی که یک محرک تقریباً غیر قابل مشاهده در تصویر را تقلید می کند ، تقلید می کند.ما به سه معماری محبوب شبکه عصبی Convolutional حمله می کنیم و نشان می دهیم که حملات Deepbar میزان موفقیت حداکثر 98.30 ٪ دارند.علاوه بر این ، Deepbar پس از استقرار در هنگام ارائه ورودی های غیر بدخواهانه ، بر صحت شبکه های حمله شده تأثیر نمی گذارد.نکته قابل توجه ، Deepbar به مهاجمان اجازه می دهد تا ورودی را که شبیه به یک کلاس معین است ، از دیدگاه انسانی انتخاب کنند ، اما این به عنوان متعلق به یک کلاس هدف دلخواه طبقه بندی می شود.