ترجمه فارسی مقاله تحلیل تجربی مدل‌های زبان-بینایی بزرگ در برابر ربودن هدف از طریق تزریق سریع بصری

چکیده

We explore visual prompt injection (VPI) that maliciously exploits the ability of large vision-language models (LVLMs) to follow instructions drawn onto the input image. We propose a new VPI method, “goal hijacking via visual prompt injection” (GHVPI), that swaps the execution task of LVLMs from an original task to an alternative task designated by an attacker. The quantitative analysis indicates that GPT-4V is vulnerable to the GHVPI and demonstrates a notable attack success rate of 15.8%, which is an unignorable security risk. Our analysis also shows that successful GHVPI requires high character recognition capability and instruction-following ability in LVLMs.

چکیده به فارسی (ترجمه ماشینی)

ما تزریق سریع بصری (VPI) را کشف می کنیم که به طرز مخرب از توانایی مدلهای بزرگ بینایی به زبان (LVLM) برای پیروی از دستورالعمل های ترسیم شده بر روی تصویر ورودی استفاده می کند.ما یک روش جدید VPI ، “ربودن هدف از طریق تزریق سریع بصری” (GHVPI) را پیشنهاد می کنیم ، که وظیفه اجرای LVLMS را از یک کار اصلی به یک کار جایگزین تعیین شده توسط یک مهاجم تعویض می کند.تجزیه و تحلیل کمی نشان می دهد که GPT-4V در برابر GHVPI آسیب پذیر است و میزان موفقیت قابل توجه حمله 15.8 ٪ را نشان می دهد ، که این یک خطر امنیتی غیرقابل توصیف است.تجزیه و تحلیل ما همچنین نشان می دهد که GHVPI موفق به توانایی تشخیص شخصیت بالا و توانایی پیروی از آموزش در LVLMS نیاز دارد.