Computation and Language,Cryptography and Security,Computers and Society,Machine Learning,محاسبات و زبان , رمزنگاری و امنیت , رایانه و جامعه , یادگیری ماشین ,
توضیحات
Submitted 31 August, 2024; originally announced September 2024.
توضیحات به فارسی
ارسال 31 اوت 2024 ؛در ابتدا سپتامبر 2024 اعلام شد.
کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
چکیده
Safety-aligned large language models (LLMs) sometimes falsely refuse pseudo-harmful prompts, like "how to kill a mosquito," which are actually harmless. Frequent false refusals not only frustrate users but also provoke a public backlash against the very values alignment seeks to protect. In this paper, we propose the first method to auto-generate diverse, content-controlled, and model-dependent pseudo-harmful prompts. Using this method, we construct an evaluation dataset called PHTest, which is ten times larger than existing datasets, covers more false refusal patterns, and separately labels controversial prompts. We evaluate 20 LLMs on PHTest, uncovering new insights due to its scale and labeling. Our findings reveal a trade-off between minimizing false refusals and improving safety against jailbreak attacks. Moreover, we show that many jailbreak defenses significantly increase the false refusal rates, thereby undermining usability. Our method and dataset can help developers evaluate and fine-tune safer and more usable LLMs. Our code and dataset are available at https://github.com/umd-huang-lab/FalseRefusal
چکیده به فارسی (ترجمه ماشینی)
مدل های بزرگ زبان با ایمنی (LLMS) گاهی اوقات به طور دروغ از سوابق شبه مضر ، مانند "نحوه کشتن یک پشه" ، که در واقع بی ضرر هستند ، امتناع می ورزند.امتناع کاذب مکرر نه تنها کاربران را ناامید می کند بلکه باعث ایجاد واکنش عمومی در برابر ترازهای بسیار ارزشی می شود که به دنبال محافظت است.در این مقاله ، ما اولین روش را برای تولید خودکار ، کنترل های متنوع ، کنترل محتوا و وابسته به مدل ارائه می دهیم.با استفاده از این روش ، ما یک مجموعه داده ارزیابی به نام PHTEST ایجاد می کنیم که ده برابر بزرگتر از مجموعه داده های موجود است ، الگوهای امتناع کاذب بیشتری را در بر می گیرد و به طور جداگانه برچسب های بحث برانگیز را برچسب می زند.ما 20 LLM را در Phtest ارزیابی می کنیم و به دلیل مقیاس و برچسب زدن ، بینش های جدیدی را کشف می کنیم.یافته های ما نشان دهنده تجارت بین به حداقل رساندن امتناع کاذب و بهبود ایمنی در برابر حملات فرار از زندان است.علاوه بر این ، ما نشان می دهیم که بسیاری از دفاع های فرار از زندان ، میزان امتناع کاذب را به میزان قابل توجهی افزایش می دهد و از این طریق قابلیت استفاده را تضعیف می کند.روش و مجموعه داده ما می تواند به توسعه دهندگان کمک کند تا LLM های ایمن تر و قابل استفاده تر را ارزیابی و تنظیم کنند.کد و مجموعه داده ما در https://github.com/umd-huang-lab/falserefusal در دسترس است
📚 محتوای این محصول آموزشی (پکیج کامل)
علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیقتر و تسلط کامل بر مباحث مجموعهای از کتابهای آموزشی نیز ارائه میشود.
کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
