کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
چکیده
Activation engineering is becoming increasingly popular as a means of online control of large language models (LLMs). In this work, I extend the idea of active steering with vectors that represent a behavioral direction of interest to tuning those vectors directly into the model, obviating the need for online control. First, I identify activation vectors related to honesty in an open-source LLM (Llama- 2-13b-chat). Next, I demonstrate that model output can be made more or less honest by adding positive or negative multiples of these vectors to residual stream activations during generation. Then, I show that a similar effect can be achieved by fine-tuning the vectors directly into the model, by use of a dual loss function based on the cosine similarity of residual stream activations to the vectors combined with a standard token-based loss ("representation tuning"). Finally, I compare the generations in response to honesty-probing prompts from the resulting models to those from models fine-tuned with a token-based loss alone, and to those from the untuned model subjected to online steering. Overall, fine-tuning the vectors into the models using the cosine similarity plus token loss showed a stronger effect than online steering, and generalized better than using the standard loss, suggesting the potential utility of this approach as a safety measure. Code and data are available at https://github.com/cma1114/representation_tuning; tuned models are available at https://huggingface.co/collections/cackerman/ representation-tuning-66da1e5ab41cd1b824687d9f.
چکیده به فارسی (ترجمه ماشینی)
مهندسی فعال سازی به عنوان ابزاری برای کنترل آنلاین مدل های بزرگ زبان (LLM) به طور فزاینده ای محبوب می شود.در این کار ، من ایده فرمان فعال را با بردارهایی که نشان دهنده یک جهت رفتاری مورد علاقه برای تنظیم آن بردارها به طور مستقیم به مدل است ، گسترش می دهم و از نیاز به کنترل آنلاین جلوگیری می کند.اول ، من بردارهای فعال سازی مربوط به صداقت را در منبع باز LLM (Llama- 2-13B-Chat) شناسایی می کنم.در مرحله بعد ، من نشان می دهم که با افزودن چند برابر مثبت یا منفی این بردارها به فعال سازی جریان باقیمانده در طول تولید ، می توان خروجی مدل را کم و بیش صادقانه کرد.سپس ، من نشان می دهم که می توان با تنظیم دقیق بردارها به طور مستقیم به مدل ، با استفاده از یک عملکرد از دست دادن دوگانه بر اساس شباهت کسین فعال سازی جریان باقیمانده به بردارهای همراه با یک از دست دادن استاندارد مبتنی بر نشانه ، اثر مشابهی حاصل کرد."تنظیم نمایندگی").سرانجام ، من نسل ها را در پاسخ به درخواست های صداقت از مدل های حاصل از مدل هایی که از مدل های تنظیم شده با از دست دادن مبتنی بر توکن به تنهایی و با مدل های غیرقانونی که در معرض فرمان آنلاین قرار دارند ، مقایسه می کنم.به طور کلی ، تنظیم دقیق بردارها به مدل ها با استفاده از شباهت Cosine به علاوه از بین رفتن توکن تأثیر قوی تری نسبت به فرمان آنلاین نشان داد و بهتر از استفاده از ضرر استاندارد تعمیم یافته است ، و این نشان دهنده ابزار بالقوه این روش به عنوان یک اقدام ایمنی است.کد و داده ها در https://github.com/cma1114/representation_tuning در دسترس هستند.مدل های تنظیم شده در https://huggingface.co/collections/cackerman/ بازنمایی-tuning-66da1e5ab41cd1b824687d9f در دسترس هستند.
📚 محتوای این محصول آموزشی (پکیج کامل)
علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیقتر و تسلط کامل بر مباحث مجموعهای از کتابهای آموزشی نیز ارائه میشود.
کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
