ترجمه فارسی مقاله ضمانت‌های مقاوم در برابر دستکاری برای LLM های با وزن آزاد

چکیده

Rapid advances in the capabilities of large language models (LLMs) have raised widespread concerns regarding their potential for malicious use. Open-weight LLMs present unique challenges, as existing safeguards lack robustness to tampering attacks that modify model weights. For example, recent works have demonstrated that refusal and unlearning safeguards can be trivially removed with a few steps of fine-tuning. These vulnerabilities necessitate new approaches for enabling the safe release of open-weight LLMs. We develop a method, called TAR, for building tamper-resistant safeguards into open-weight LLMs such that adversaries cannot remove the safeguards even after thousands of steps of fine-tuning. In extensive evaluations and red teaming analyses, we find that our method greatly improves tamper-resistance while preserving benign capabilities. Our results demonstrate that tamper-resistance is a tractable problem, opening up a promising new avenue to improve the safety and security of open-weight LLMs.

چکیده به فارسی (ترجمه ماشینی)

پیشرفت های سریع در قابلیت های مدل های بزرگ زبان (LLM) نگرانی های گسترده ای را در مورد پتانسیل آنها برای استفاده مخرب ایجاد کرده است.LLM های با وزن باز چالش های منحصر به فردی را ارائه می دهند ، زیرا حفاظت های موجود فاقد استحکام در حملات دستکاری هستند که وزن مدل را تغییر می دهد.به عنوان مثال ، آثار اخیر نشان داده اند که با چند مرحله تنظیم دقیق ، می توان از امتناع و حفاظت از ناآرامی ها به صورت بی اهمیت برداشته شد.این آسیب پذیری ها نیاز به رویکردهای جدید برای امکان انتشار ایمن LLMS با وزن باز دارند.ما روشی به نام TAR را برای ایجاد حفاظت از مقاوم در برابر دستکاری در LLM های با وزن باز ایجاد می کنیم به گونه ای که مخالفان نمی توانند حفاظت ها را حتی پس از هزاران مرحله تنظیم دقیق حذف کنند.در ارزیابی های گسترده و تجزیه و تحلیل تیمی قرمز ، می فهمیم که روش ما ضمن حفظ قابلیت های خوش خیم ، مقاومت در برابر دستکاری را تا حد زیادی بهبود می بخشد.نتایج ما نشان می دهد که مقاومت در برابر دستکاری یک مشکل قابل ردیابی است و یک راه جدید امیدوارکننده را برای بهبود ایمنی و امنیت LLMS با وزن آزاد باز می کند.