اکسپرس 24
ترجمه فارسی مقاله ماموریت غیرممکن: نگاهی آماری به جیلبریک کردن دوره‌های LLM

ترجمه فارسی مقاله ماموریت غیرممکن: نگاهی آماری به جیلبریک کردن دوره‌های LLM

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

پرداخت اقساطی
در صورت خرید اقساطی هر قسط: 37,500 تومان
۴ قسط ماهانه. بدون سود، چک و ضامن.
پرداخت اقساطی با دیجی‌پی پرداخت اقساطی با ترب‌پی
عنوان مقاله به انگلیسی Mission Impossible: A Statistical Perspective on Jailbreaking LLMs
عنوان مقاله به فارسی ماموریت غیرممکن: نگاهی آماری به جیلبریک کردن دوره‌های LLM
نویسندگان Jingtong Su, Julia Kempe, Karen Ullrich
فرمت مقاله انگلیسی PDF
تعداد صفحات 32
دسته بندی موضوعات Machine Learning,Artificial Intelligence,Computation and Language,یادگیری ماشین , هوش مصنوعی , محاسبات و زبان ,
توضیحات Submitted 2 August, 2024; originally announced August 2024.
توضیحات به فارسی ارسال شده در 2 اوت 2024 ؛در ابتدا اوت 2024 اعلام شد.

قیمت: 19,000 تومان

دانلود مقاله اصل انگلیسی + خلاصه دو صفحه ای مقاله + پادکست صوتی فارسی خلاصه مقاله

با انتخاب این گزینه، علاوه بر دریافت مقاله اصلی، یک خلاصه دو صفحه‌ای فارسی و پادکست صوتی فارسی خلاصه مقاله را نیز دریافت خواهید کرد.

قیمت: 99,000 تومان

سفارش + خلاصه دو صفحه ای مقاله + پادکست صوتی فارسی خلاصه مقاله

با انتخاب این گزینه، علاوه بر دریافت مقاله اصلی و ترجمه کامل آن، یک خلاصه دو صفحه‌ای فارسی و پادکست صوتی فارسی خلاصه مقاله را نیز دریافت خواهید کرد.

قیمت: 1,280,000 تومان

زمان تحویل: 2 تا 3 روز کاری

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Large language models (LLMs) are trained on a deluge of text data with limited quality control. As a result, LLMs can exhibit unintended or even harmful behaviours, such as leaking information, fake news or hate speech. Countermeasures, commonly referred to as preference alignment, include fine-tuning the pretrained LLMs with carefully crafted text examples of desired behaviour. Even then, empirical evidence shows preference aligned LLMs can be enticed to harmful behaviour. This so called jailbreaking of LLMs is typically achieved by adversarially modifying the input prompt to the LLM. Our paper provides theoretical insights into the phenomenon of preference alignment and jailbreaking from a statistical perspective. Under our framework, we first show that pretrained LLMs will mimic harmful behaviour if present in the training corpus. Under that same framework, we then introduce a statistical notion of alignment, and lower-bound the jailbreaking probability, showing that it is unpreventable under reasonable assumptions. Based on our insights, we propose an alteration to the currently prevalent alignment strategy RLHF. Specifically, we introduce a simple modification to the RLHF objective, we call E-RLHF, that aims to increase the likelihood of safe responses. E-RLHF brings no additional training cost, and is compatible with other methods. Empirically, we demonstrate that E-RLHF outperforms RLHF on all alignment problems put forward by the AdvBench and HarmBench project without sacrificing model performance as measured by the MT-Bench project.

چکیده به فارسی (ترجمه ماشینی)

مدل های بزرگ زبان (LLMS) بر روی داده های متن با کنترل کیفیت محدود آموزش داده می شوند.در نتیجه ، LLMS می تواند رفتارهای ناخواسته یا حتی مضر مانند نشت اطلاعات ، اخبار جعلی یا گفتار نفرت را به نمایش بگذارد.اقدامات متقابل ، که معمولاً به عنوان تراز اولویت گفته می شود ، شامل تنظیم دقیق LLM های پیش ساخته با نمونه های متن با دقت ساخته شده از رفتار مورد نظر است.حتی پس از آن ، شواهد تجربی نشان می دهد که LLM های ترجیح داده شده می توانند به رفتار مضر باشند.این به اصطلاح فرار از LLMS به طور معمول با اصلاح متناقض ارسال سریع ورودی به LLM حاصل می شود.مقاله ما بینش نظری در مورد پدیده تراز اولویت و فرار از زندان از دیدگاه آماری ارائه می دهد.تحت چارچوب ما ، ابتدا نشان می دهیم که LLM های پیش ساخته در صورت وجود در قسمت آموزش ، رفتار مضر را تقلید می کنند.در همان چارچوب ، ما مفهوم آماری از تراز را معرفی می کنیم و احتمال فرار از زندان را نشان می دهیم ، نشان می دهد که تحت فرضیات معقول غیرقابل پیش بینی است.بر اساس بینش های ما ، ما یک تغییر در استراتژی تراز شیوع فعلی RLHF پیشنهاد می کنیم.به طور خاص ، ما یک اصلاح ساده را به هدف RLHF معرفی می کنیم ، ما E-RLHF می نامیم ، که هدف آن افزایش احتمال پاسخ های ایمن است.E-RLHF هیچ هزینه آموزش اضافی به ارمغان نمی آورد و با روش های دیگر سازگار است.از نظر تجربی ، ما نشان می دهیم که E-RLHF از RLHF از همه مشکلات تراز ارائه شده توسط پروژه Advbench و Harmbench بدون قربانی کردن عملکرد مدل که توسط پروژه MT-BENCH اندازه گیری می شود ، بهتر عمل می کند.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.