ترجمه فارسی مقاله Kov: حملات LLM Black-Box قابل انتقال و طبیعی با استفاده از فرآیندهای تصمیم گیری مارکوف و جستجوی درخت

چکیده

Eliciting harmful behavior from large language models (LLMs) is an important task to ensure the proper alignment and safety of the models. Often when training LLMs, ethical guidelines are followed yet alignment failures may still be uncovered through red teaming adversarial attacks. This work frames the red-teaming problem as a Markov decision process (MDP) and uses Monte Carlo tree search to find harmful behaviors of black-box, closed-source LLMs. We optimize token-level prompt suffixes towards targeted harmful behaviors on white-box LLMs and include a naturalistic loss term, log-perplexity, to generate more natural language attacks for better interpretability. The proposed algorithm, Kov, trains on white-box LLMs to optimize the adversarial attacks and periodically evaluates responses from the black-box LLM to guide the search towards more harmful black-box behaviors. In our preliminary study, results indicate that we can jailbreak black-box models, such as GPT-3.5, in only 10 queries, yet fail on GPT-4$-$which may indicate that newer models are more robust to token-level attacks. All work to reproduce these results is open sourced (https://github.com/sisl/Kov.jl).

چکیده به فارسی (ترجمه ماشینی)

انتخاب رفتار مضر از مدلهای بزرگ زبان (LLM) یک کار مهم برای اطمینان از تراز مناسب و ایمنی مدل ها است.غالباً هنگام آموزش LLM ها ، دستورالعمل های اخلاقی رعایت می شود اما هنوز هم ممکن است شکست های تراز از طریق حملات تیمی با تیم قرمز کشف شود.این کار مشکل تیم سازی قرمز را به عنوان یک فرآیند تصمیم گیری مارکوف (MDP) قاب می کند و از جستجوی درخت مونت کارلو برای یافتن رفتارهای مضر از LLM های جعبه سیاه و منبع بسته استفاده می کند.ما پسوندهای سریع در سطح توکن را به سمت رفتارهای مضر هدفمند در LLM های جعبه سفید بهینه می کنیم و شامل یک اصطلاح از دست دادن طبیعت گرایانه ، ورود به سیستم ، برای ایجاد حملات زبان طبیعی تر برای تفسیر بهتر است.الگوریتم پیشنهادی ، KOV ، برای بهینه سازی حملات مخالف در LLM های جعبه سفید قطار می کند و به طور دوره ای پاسخ های LLM جعبه سیاه را برای هدایت جستجو به سمت رفتارهای مضر تر جعبه سیاه ارزیابی می کند.در مطالعه مقدماتی ما ، نتایج نشان می دهد که ما می توانیم مدل های جعبه سیاه مانند GPT-3.5 را تنها در 10 نمایش داده شود ، اما در GPT-4 $-$ شکست می خوریم که ممکن است نشان دهد که مدل های جدیدتر نسبت به حملات سطح توکن قوی تر هستندبشرتمام کارها برای تولید مثل این نتایج باز شده است (https://github.com/sisl/kov.jl).