ترجمه فارسی مقاله پاکسازی تفاوت‌ها: شناسایی و کاهش حملات در پشتی در مدل‌های انتشار

چکیده

Diffusion models (DMs) are regarded as one of the most advanced generative models today, yet recent studies suggest that they are vulnerable to backdoor attacks, which establish hidden associations between particular input patterns and model behaviors, compromising model integrity by causing undesirable actions with manipulated inputs. This vulnerability poses substantial risks, including reputational damage to model owners and the dissemination of harmful content. To mitigate the threat of backdoor attacks, there have been some investigations on backdoor detection and model repair. However, previous work fails to reliably purify the models backdoored by state-of-the-art attack methods, rendering the field much underexplored. To bridge this gap, we introduce Diff-Cleanse, a novel two-stage backdoor defense framework specifically designed for DMs. The first stage employs a novel trigger inversion technique to reconstruct the trigger and detect the backdoor, and the second stage utilizes a structural pruning method to eliminate the backdoor. We evaluate our framework on hundreds of DMs that are attacked by three existing backdoor attack methods with a wide range of hyperparameter settings. Extensive experiments demonstrate that Diff-Cleanse achieves nearly 100% detection accuracy and effectively mitigates backdoor impacts, preserving the model’s benign performance with minimal compromise. Our code is avaliable at https://github.com/shymuel/diff-cleanse.

چکیده به فارسی (ترجمه ماشینی)

مدل های انتشار (DMS) امروزه به عنوان یکی از پیشرفته ترین مدلهای تولیدی در نظر گرفته می شوند ، اما مطالعات اخیر نشان می دهد که آنها در برابر حملات پشتی آسیب پذیر هستند ، که ارتباطات پنهان بین الگوهای ورودی خاص و رفتارهای مدل را ایجاد می کند ، با ایجاد یکپارچگی مدل با ایجاد اقدامات نامطلوب با دستکاری شدهورودی هااین آسیب پذیری خطرات قابل توجهی را ایجاد می کند ، از جمله آسیب شهرت به صاحبان مدل و انتشار محتوای مضر.برای کاهش تهدید حملات پشتی ، تحقیقاتی در مورد تشخیص پشتی و ترمیم مدل انجام شده است.با این حال ، کار قبلی نتوانسته است با اطمینان از مدل های پشت پرده با روش های پیشرفته حمله ، تصفیه شود ، و این زمینه را بسیار نامشخص می کند.برای عبور از این شکاف ، ما Diff-Cleanse را معرفی می کنیم ، یک چارچوب دفاعی دو مرحله ای جدید که به طور خاص برای DMS طراحی شده است.مرحله اول از یک تکنیک وارونگی محرک جدید برای بازسازی ماشه و تشخیص پشتی استفاده می کند و مرحله دوم از یک روش هرس ساختاری برای از بین بردن پشتی استفاده می کند.ما چارچوب خود را در مورد صدها DM که توسط سه روش حمله Backdoor موجود با طیف گسترده ای از تنظیمات هایپرپارامتر مورد حمله قرار می گیرند ، ارزیابی می کنیم.آزمایش های گسترده نشان می دهد که تمیز کردن Diff-Cleanse نزدیک به 100 ٪ دقت تشخیص را به دست می آورد و به طور مؤثر تأثیرات پشتی را کاهش می دهد ، و عملکرد خوش خیم مدل را با حداقل سازش حفظ می کند.کد ما در https://github.com/shymuel/diff-cleanse قابل حمل است.