ترجمه فارسی مقاله درک انفجار در مدل های تولیدی متن به تصویر

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

عنوان مقاله به انگلیسی Understanding Implosion in Text-to-Image Generative Models
عنوان مقاله به فارسی درک انفجار در مدل های تولیدی متن به تصویر
نویسندگان Wenxin Ding, Cathy Y. Li, Shawn Shan, Ben Y. Zhao, Haitao Zheng
فرمت مقاله انگلیسی PDF
تعداد صفحات 18
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Cryptography and Security,Artificial Intelligence,Computer Vision and Pattern Recognition,Machine Learning,رمزنگاری و امنیت , هوش مصنوعی , چشم انداز رایانه و تشخیص الگوی , یادگیری ماشین ,
توضیحات Submitted 18 September, 2024; originally announced September 2024. , Comments: ACM CCS 2024
توضیحات به فارسی ارائه شده در 18 سپتامبر 2024 ؛در ابتدا سپتامبر 2024 اعلام شد ، نظرات: ACM CCS 2024
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Recent works show that text-to-image generative models are surprisingly vulnerable to a variety of poisoning attacks. Empirical results find that these models can be corrupted by altering associations between individual text prompts and associated visual features. Furthermore, a number of concurrent poisoning attacks can induce "model implosion," where the model becomes unable to produce meaningful images for unpoisoned prompts. These intriguing findings highlight the absence of an intuitive framework to understand poisoning attacks on these models. In this work, we establish the first analytical framework on robustness of image generative models to poisoning attacks, by modeling and analyzing the behavior of the cross-attention mechanism in latent diffusion models. We model cross-attention training as an abstract problem of "supervised graph alignment" and formally quantify the impact of training data by the hardness of alignment, measured by an Alignment Difficulty (AD) metric. The higher the AD, the harder the alignment. We prove that AD increases with the number of individual prompts (or concepts) poisoned. As AD grows, the alignment task becomes increasingly difficult, yielding highly distorted outcomes that frequently map meaningful text prompts to undefined or meaningless visual representations. As a result, the generative model implodes and outputs random, incoherent images at large. We validate our analytical framework through extensive experiments, and we confirm and explain the unexpected (and unexplained) effect of model implosion while producing new, unforeseen insights. Our work provides a useful tool for studying poisoning attacks against diffusion models and their defenses.

چکیده به فارسی (ترجمه ماشینی)

آثار اخیر نشان می دهد که مدل های تولیدی متن به تصویر به طور شگفت آور در برابر انواع حملات مسمومیت آسیب پذیر هستند.نتایج تجربی نشان می دهد که با تغییر ارتباط بین ارسال های متن فردی و ویژگی های بصری مرتبط ، این مدل ها می توانند خراب شوند.علاوه بر این ، تعدادی از حملات مسمومیت همزمان می توانند "انفجار مدل" را القا کنند ، جایی که این مدل قادر به تولید تصاویر معنی دار برای پیشبرد های غیرمجاز نیست.این یافته های جالب توجه عدم وجود یک چارچوب شهودی برای درک حملات مسمومیت به این مدل ها را نشان می دهد.در این کار ، ما اولین چارچوب تحلیلی را در مورد استحکام مدل های تولید کننده تصویر به حملات مسمومیت ، با مدل سازی و تجزیه و تحلیل رفتار مکانیسم توجه متقابل در مدلهای انتشار نهان ایجاد می کنیم.ما آموزش توجه متقابل را به عنوان یک مشکل انتزاعی از "تراز نمودار نظارت شده" الگوبرداری می کنیم و به طور رسمی تأثیر داده های آموزش را با سختی تراز ، اندازه گیری شده توسط یک متریک مشکل تراز (AD) اندازه گیری می کنیم.هرچه تبلیغ بالاتر باشد ، تراز سخت تر می شود.ما ثابت می کنیم که AD با تعداد سوابق فردی (یا مفاهیم) مسموم شده افزایش می یابد.با افزایش AD ، کار تراز به طور فزاینده ای دشوار می شود و نتایج بسیار تحریف شده ای را ارائه می دهد که اغلب متن متن معنی دار را به نمایش های تصویری نامشخص یا بی معنی می رساند.در نتیجه ، مدل تولیدی تصاویر تصادفی و ناهماهنگ را به طور کلی منفجر و خروجی می کند.ما چارچوب تحلیلی خود را از طریق آزمایش های گسترده تأیید می کنیم ، و تأثیر غیر منتظره (و غیر قابل توضیح) از انفجار مدل را هنگام تولید بینش های جدید و پیش بینی نشده تأیید و توضیح می دهیم.کار ما ابزاری مفید برای مطالعه حملات مسمومیت در برابر مدل های انتشار و دفاع آنها فراهم می کند.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.