ترجمه فارسی مقاله حملات و دفاع‌ها برای مدل‌های انتشار مولد: یک بررسی جامع

چکیده

Diffusion models (DMs) have achieved state-of-the-art performance on various generative tasks such as image synthesis, text-to-image, and text-guided image-to-image generation. However, the more powerful the DMs, the more harmful they potentially are. Recent studies have shown that DMs are prone to a wide range of attacks, including adversarial attacks, membership inference, backdoor injection, and various multi-modal threats. Since numerous pre-trained DMs are published widely on the Internet, potential threats from these attacks are especially detrimental to the society, making DM-related security a worth investigating topic. Therefore, in this paper, we conduct a comprehensive survey on the security aspect of DMs, focusing on various attack and defense methods for DMs. First, we present crucial knowledge of DMs with five main types of DMs, including denoising diffusion probabilistic models, denoising diffusion implicit models, noise conditioned score networks, stochastic differential equations, and multi-modal conditional DMs. We further survey a variety of recent studies investigating different types of attacks that exploit the vulnerabilities of DMs. Then, we thoroughly review potential countermeasures to mitigate each of the presented threats. Finally, we discuss open challenges of DM-related security and envision certain research directions for this topic.

چکیده به فارسی (ترجمه ماشینی)

مدل های انتشار (DMS) در کارهای مختلف تولیدی مانند سنتز تصویر ، متن به تصویر و تولید تصویر به تصویر به تصویر ، عملکرد پیشرفته ای کسب کرده اند.با این حال ، هرچه DMS قدرتمندتر باشد ، آنها به طور بالقوه مضر هستند.مطالعات اخیر نشان داده است که DMS مستعد طیف گسترده ای از حملات از جمله حملات مخالف ، استنباط عضویت ، تزریق پشتی و تهدیدهای مختلف چند منظوره است.از آنجا که تعداد زیادی DM های از قبل آموزش دیده به طور گسترده در اینترنت منتشر می شوند ، تهدیدهای احتمالی این حملات به ویژه برای جامعه مضر است و باعث می شود امنیت مربوط به DM به یک موضوع تحقیق ارزش بپردازد.بنابراین ، در این مقاله ، ما یک بررسی جامع در مورد جنبه امنیتی DMS انجام می دهیم ، با تمرکز بر روش های مختلف حمله و دفاعی برای DMS.اول ، ما دانش مهمی از DMS با پنج نوع اصلی DMS ، از جمله مدل های احتمالی انتشار ، انتشار مدل های ضمنی انتشار ، شبکه های نمره مشروبات الکلی ، معادلات دیفرانسیل تصادفی و DMS مشروط چند مدلی ارائه می دهیم.ما در ادامه انواع مطالعات اخیر را بررسی می کنیم که انواع مختلفی از حملات را که از آسیب پذیری های DMS بهره برداری می کند ، بررسی می کنیم.سپس ، ما اقدامات متقابل بالقوه را برای کاهش هر یک از تهدیدات ارائه شده به طور کامل بررسی می کنیم.سرانجام ، ما در مورد چالش های باز امنیت مربوط به DM بحث می کنیم و مسیرهای تحقیق خاصی را برای این موضوع پیش بینی می کنیم.