کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
چکیده
While there has been progress towards aligning Large Language Models (LLMs) with human values and ensuring safe behaviour at inference time, safety-aligned LLMs are known to be vulnerable to training-time attacks such as supervised fine-tuning (SFT) on harmful datasets. In this paper, we ask if LLMs are vulnerable to adversarial reinforcement learning. Motivated by this goal, we propose Reverse Preference Attacks (RPA), a class of attacks to make LLMs learn harmful behavior using adversarial reward during reinforcement learning from human feedback (RLHF). RPAs expose a critical safety gap of safety-aligned LLMs in RL settings: they easily explore the harmful text generation policies to optimize adversarial reward. To protect against RPAs, we explore a host of mitigation strategies. Leveraging Constrained Markov-Decision Processes, we adapt a number of mechanisms to defend against harmful fine-tuning attacks into the RL setting. Our experiments show that ``online" defenses that are based on the idea of minimizing the negative log likelihood of refusals -- with the defender having control of the loss function -- can effectively protect LLMs against RPAs. However, trying to defend model weights using ``offline" defenses that operate under the assumption that the defender has no control over the loss function are less effective in the face of RPAs. These findings show that attacks done using RL can be used to successfully undo safety alignment in open-weight LLMs and use them for malicious purposes.
چکیده به فارسی (ترجمه ماشینی)
در حالی که پیشرفت هایی در جهت تراز کردن مدلهای بزرگ زبان (LLM) با ارزش های انسانی و اطمینان از رفتار ایمن در زمان استنتاج وجود داشته است ، LLM های با ایمنی با ایمنی در برابر حملات زمان آموزش مانند تنظیم دقیق تنظیم شده (SFT) در مجموعه داده های مضر آسیب پذیر هستند.بشردر این مقاله ، ما می پرسیم که آیا LLM ها در برابر یادگیری تقویت کننده مخالف آسیب پذیر هستند یا خیر.با انگیزه از این هدف ، ما حملات اولویت معکوس (PRPA) را پیشنهاد می کنیم ، طبقه ای از حملات برای یادگیری LLM ها با استفاده از پاداش مخالف در هنگام یادگیری تقویت از بازخورد انسانی (RLHF) رفتار مضر را یاد می گیرند.حزب دنباله ای از شکاف ایمنی مهم LLMS با ایمنی در تنظیمات RL در معرض دید قرار می گیرد: آنها به راحتی سیاست های تولید متن مضر را برای بهینه سازی پاداش مخالف کشف می کنند.برای محافظت در برابر حزب ، ما تعداد زیادی از استراتژی های کاهش را کشف می کنیم.با استفاده از فرآیندهای محدوده تصمیم گیری مارکوف ، ما تعدادی از مکانیسم ها را برای دفاع در برابر حملات تنظیم دقیق مضر در تنظیمات RL تطبیق می دهیم.آزمایشات ما نشان می دهد که دفاع "آنلاین" که مبتنی بر ایده به حداقل رساندن احتمال ورود به سیستم منفی است - با این که مدافع کنترل عملکرد از دست دادن را دارد - می تواند به طور مؤثر از LLM ها در برابر RPA محافظت کند.با استفاده از دفاع "آفلاین" که تحت این فرض عمل می کنند که مدافع هیچ کنترلی بر عملکرد ضرر ندارد ، در مواجهه با روپیه ها کمتر موثر است.این یافته ها نشان می دهد که از حملات انجام شده با استفاده از RL می توان برای خنثی کردن موفقیت آمیز هم ترازی ایمنی در LLM های با وزن باز و استفاده از آنها برای اهداف مخرب استفاده کرد.
📚 محتوای این محصول آموزشی (پکیج کامل)
علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیقتر و تسلط کامل بر مباحث مجموعهای از کتابهای آموزشی نیز ارائه میشود.
کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
