ترجمه فارسی مقاله بهبود ویرایش مدل مادام العمر با ارتباط مستمر داده-آداپتور

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

عنوان مقاله به انگلیسی Enhance Lifelong Model Editing with Continuous Data-Adapter Association
عنوان مقاله به فارسی بهبود ویرایش مدل مادام العمر با ارتباط مستمر داده-آداپتور
نویسندگان Jiaang Li, Quan Wang, Zhongnan Wang, Yongdong Zhang, Zhendong Mao
فرمت مقاله انگلیسی PDF
تعداد صفحات 13
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Computation and Language,Artificial Intelligence,Machine Learning,محاسبه و زبان , هوش مصنوعی , یادگیری ماشین ,
توضیحات Submitted 18 August, 2024; originally announced August 2024. , Comments: Preprint. Under Review
توضیحات به فارسی ارائه شده در 18 اوت 2024 ؛در ابتدا اوت 2024 اعلام شد. ، نظرات: preprint.تحت بررسی
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Large language models (LLMs) require model editing to efficiently update specific knowledge within them and avoid factual errors. Most model editing methods are solely designed for single-time use and lead to a significant forgetting effect after sequential edits over time, referred to as lifelong editing. Current approaches manage sequential edits by freezing original parameters and allocating new adapters for each knowledge modification. However, these methods lack robustness to minor input variations. To address this challenge, we propose ELDER, \textbf{E}nhancing \textbf{L}ifelong mo\textbf{D}el \textbf{E}diting with mixtu\textbf{R}e of Low-Rank Adapter (LoRA). ELDER is an adaptive approach that integrates multiple LoRAs through a router network. It learns to create a continuous and smooth association between data and adapters, thereby enhancing robustness and generalization to semantically equivalent inputs. Additionally, we introduce a novel loss to help learn associations between adapter allocations and edit semantics. A deferral mechanism is also proposed to retain the original LLM capabilities post-edit. Extensive experiments on GPT-2 XL and LLaMA2-7B demonstrate that ELDER effectively edits models in the lifelong setting and exhibits strong scalability, while retaining LLM's general abilities on downstream tasks.

چکیده به فارسی (ترجمه ماشینی)

مدل های بزرگ زبان (LLMS) برای به روزرسانی کارآمد دانش خاص در آنها و جلوگیری از خطاهای واقعی ، به ویرایش مدل نیاز دارند.بیشتر روشهای ویرایش مدل فقط برای استفاده تک بار طراحی شده و منجر به اثر فراموشی قابل توجهی پس از ویرایش های پی در پی در طول زمان می شوند ، که به آن ویرایش مادام العمر گفته می شود.رویکردهای فعلی با انجماد پارامترهای اصلی و تخصیص آداپتورهای جدید برای هر اصلاح دانش ، ویرایش های متوالی را مدیریت می کنند.با این حال ، این روش ها فاقد استحکام نسبت به تغییرات ورودی جزئی هستند.برای پرداختن به این چالش ، ما به بزرگان ، \ textBf {e} nhancing \ textBf {l} ifelong mo \ textbf {d} el \ textbf {e} diting با mixtu \ textbf {r} e آداپتور رده پایین (lora) پیشنهاد می کنیم.بشرElder یک رویکرد تطبیقی ​​است که چندین LORAS را از طریق یک شبکه روتر ادغام می کند.این یاد می گیرد که یک ارتباط مداوم و صاف بین داده ها و آداپتورها ایجاد کند ، در نتیجه باعث افزایش استحکام و تعمیم در ورودی های معنایی معادل می شود.علاوه بر این ، ما یک ضرر جدید را برای کمک به یادگیری ارتباط بین تخصیص آداپتور و ویرایش معناشناسی معرفی می کنیم.یک مکانیسم تعویق همچنین برای حفظ قابلیت های اصلی LLM پس از ویرایش پیشنهاد شده است.آزمایش های گسترده در مورد GPT-2 XL و LLAMA2-7B نشان می دهد که بزرگتر به طور موثری مدل ها را در تنظیمات مادام العمر ویرایش می کند و مقیاس پذیری قوی را نشان می دهد ، در حالی که توانایی های کلی LLM را در کارهای پایین دست حفظ می کند.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.