در دنیای پرشتاب هوش مصنوعی، مدل‌های زبانی (Language Models یا LMs) نقش فزاینده‌ای در طیف گسترده‌ای از کاربردها ایفا می‌کنند. این مدل‌ها، با توانایی خود در درک و تولید متن، به ابزاری قدرتمند برای پاسخگویی به سوالات، استدلال متنی و بسیاری از وظایف دیگر تبدیل شده‌اند. با این حال، دانش واقعی (Factual Knowledge) که این مدل‌ها در طول آموزش اولیه (Pre-training) کسب می‌کنند و در پارامترهای خود ذخیره می‌کنند، همواره دقیق و به‌روز نیست. گاهی اوقات، مدل‌ها اطلاعات نادرستی را القا می‌کنند یا دانش آن‌ها با گذشت زمان منسوخ می‌شود. این موضوع، چالشی جدی را برای اطمینان از صحت و قابلیت اعتماد این مدل‌ها ایجاد می‌کند.

مقاله “ویرایش دانش واقعی در مدل‌های زبانی” به بررسی راه‌حلی نوآورانه برای این چالش می‌پردازد. این مقاله، به ارائه روشی به نام KnowledgeEditor می‌پردازد که به کمک آن می‌توان دانش موجود در مدل‌های زبانی را ویرایش کرد و اطلاعات نادرست یا منسوخ را اصلاح نمود. اهمیت این موضوع از آنجا نشأت می‌گیرد که بازآموزی (Re-training) یا تنظیم دقیق (Fine-tuning) مدل‌های زبانی، فرآیندی بسیار پرهزینه و زمان‌بر است. KnowledgeEditor این امکان را فراهم می‌سازد که بدون نیاز به بازآموزی کامل مدل، دانش خاصی را ویرایش کرد و عملکرد آن را بهبود بخشید.

به عنوان مثال، فرض کنید یک مدل زبانی به اشتباه ادعا می‌کند که رئیس جمهور فرانسه نیکلا سارکوزی است. با استفاده از KnowledgeEditor، می‌توان این دانش نادرست را بدون اینکه بر سایر قابلیت‌های مدل تأثیر بگذارد، اصلاح کرد و اطلاعات درست (امانوئل مکرون) را جایگزین نمود.

این مقاله توسط نیکولا دی کائو، ویلکر عزیز و ایوان تیتوف ارائه شده است. این محققان، در زمینه پردازش زبان طبیعی (Natural Language Processing یا NLP) و یادگیری ماشین (Machine Learning) فعالیت دارند و تخصص آن‌ها بر توسعه و بهبود مدل‌های زبانی متمرکز است. انتشار این مقاله در حوزه محاسبات و زبان، هوش مصنوعی و یادگیری ماشین نشان‌دهنده جایگاه آن در این حوزه‌های علمی است.

چکیده مقاله به این موضوع اشاره دارد که دانش واقعی که در مدل‌های زبانی ذخیره می‌شود، می‌تواند در وظایف مختلفی مانند پاسخگویی به سوالات و استدلال متنی مفید باشد. اما، این دانش ممکن است حاوی اطلاعات نادرست یا منسوخ باشد. KnowledgeEditor، روشی برای ویرایش این دانش است که بدون نیاز به بازآموزی پرهزینه، “باگ‌ها” یا پیش‌بینی‌های غیرمنتظره را برطرف می‌کند. این روش، نیازی به تغییرات در فرآیند آموزش اولیه مدل ندارد و از یک هایپر-شبکه (Hyper-network) با بهینه‌سازی مقید (Constrained Optimization) برای اصلاح یک واقعیت بدون تأثیر بر سایر دانش استفاده می‌کند. این هایپر-شبکه، در زمان آزمایش (Test Time) برای پیش‌بینی به‌روزرسانی وزن‌ها (Weight Update) استفاده می‌شود. نویسندگان، اثربخشی KnowledgeEditor را با استفاده از دو معماری محبوب و وظایف دانش‌محور نشان داده‌اند: مدل BERT که برای بررسی صحت اطلاعات تنظیم دقیق شده است و مدل BART sequence-to-sequence برای پاسخگویی به سوالات. با استفاده از این روش، تغییر یک پیش‌بینی در مورد یک سوال خاص، منجر به تغییرات سازگار در پیش‌بینی‌ها برای بازنویسی‌های آن سوال (Paraphrases) می‌شود. این پایداری را می‌توان با استفاده از بازنویسی‌ها در طول آموزش، تقویت کرد. جالب اینجاست که هایپر-شبکه را می‌توان به عنوان یک “کاوشگر” در نظر گرفت که نشان می‌دهد کدام اجزا باید تغییر کنند تا دانش واقعی دستکاری شود. تجزیه و تحلیل‌ها نشان می‌دهد که به‌روزرسانی‌ها بر روی زیرمجموعه کوچکی از اجزا متمرکز هستند.

به طور خلاصه، KnowledgeEditor یک روش کارآمد و مؤثر برای ویرایش دانش واقعی در مدل‌های زبانی است که بدون نیاز به بازآموزی کامل مدل، امکان اصلاح اطلاعات نادرست و به‌روزرسانی دانش را فراهم می‌سازد.

روش‌شناسی این تحقیق بر پایه آموزش یک هایپر-شبکه استوار است. هایپر-شبکه، یک شبکه عصبی است که وظیفه تولید وزن‌های (Weights) شبکه اصلی (مدل زبانی) را بر عهده دارد. در این روش، هایپر-شبکه به گونه‌ای آموزش داده می‌شود که بتواند وزن‌های شبکه اصلی را به نحوی تغییر دهد که دانش خاصی را ویرایش کند، بدون اینکه بر سایر دانش‌های موجود در مدل تأثیر بگذارد.

برای آموزش هایپر-شبکه، از یک بهینه‌سازی مقید استفاده می‌شود. این بهینه‌سازی، تضمین می‌کند که تغییرات ایجاد شده در وزن‌های شبکه اصلی، تنها بر دانش مورد نظر تأثیر بگذارد و سایر قسمت‌های مدل را دست‌نخورده باقی بگذارد. به عبارت دیگر، هدف این است که تا حد امکان از تغییرات غیرضروری در مدل جلوگیری شود و تنها دانش مورد نظر با دقت ویرایش گردد.

نویسندگان برای ارزیابی اثربخشی KnowledgeEditor، از دو مدل زبانی محبوب (BERT و BART) و دو وظیفه دانش‌محور (بررسی صحت اطلاعات و پاسخگویی به سوالات) استفاده کرده‌اند. آن‌ها نشان داده‌اند که KnowledgeEditor می‌تواند با موفقیت دانش موجود در این مدل‌ها را ویرایش کند و عملکرد آن‌ها را در این وظایف بهبود بخشد.

یافته‌های کلیدی این تحقیق عبارتند از:

• اثربخشی KnowledgeEditor: این روش می‌تواند به طور موثر دانش واقعی را در مدل‌های زبانی ویرایش کند و اطلاعات نادرست را اصلاح نماید.
• کارآیی محاسباتی: KnowledgeEditor به طور قابل توجهی سریع‌تر و کم‌هزینه‌تر از روش‌های بازآموزی یا تنظیم دقیق است.
• پایداری ویرایش: تغییر یک پیش‌بینی در مورد یک سوال خاص، منجر به تغییرات سازگار در پیش‌بینی‌ها برای بازنویسی‌های آن سوال می‌شود.
• تمرکز به‌روزرسانی‌ها: به‌روزرسانی‌های اعمال شده توسط هایپر-شبکه، بر روی زیرمجموعه کوچکی از اجزای مدل متمرکز هستند، که نشان می‌دهد تنها بخش کوچکی از مدل برای ویرایش دانش خاصی نیاز به تغییر دارد.

KnowledgeEditor می‌تواند در طیف گسترده‌ای از کاربردها مورد استفاده قرار گیرد، از جمله:

• بهبود دقت مدل‌های زبانی: با اصلاح اطلاعات نادرست، می‌توان دقت و قابلیت اعتماد مدل‌های زبانی را در وظایف مختلف بهبود بخشید.
• به‌روزرسانی دانش مدل‌ها: می‌توان دانش مدل‌ها را با اطلاعات جدید و به‌روز، به‌روزرسانی کرد. به عنوان مثال، می‌توان اطلاعات مربوط به رویدادهای جاری یا تغییرات در داده‌ها را به مدل‌ها اضافه کرد.
• سفارشی‌سازی دانش مدل‌ها: می‌توان دانش مدل‌ها را برای کاربردهای خاص سفارشی‌سازی کرد. به عنوان مثال، می‌توان یک مدل زبانی را برای استفاده در یک حوزه خاص (مانند پزشکی یا حقوق) آموزش داد.

یکی از دستاوردهای مهم این تحقیق، ارائه یک روش کارآمد و مؤثر برای ویرایش دانش واقعی در مدل‌های زبانی است. این روش، می‌تواند به محققان و توسعه‌دهندگان کمک کند تا مدل‌های زبانی دقیق‌تر، به‌روزتر و قابل اعتمادتری را توسعه دهند.

مقاله “ویرایش دانش واقعی در مدل‌های زبانی”، گامی مهم در جهت بهبود قابلیت اعتماد و کارایی مدل‌های زبانی است. روش KnowledgeEditor، با ارائه یک راه‌حل کارآمد و مؤثر برای ویرایش دانش واقعی، امکان اصلاح اطلاعات نادرست و به‌روزرسانی دانش مدل‌ها را بدون نیاز به بازآموزی کامل فراهم می‌سازد. این روش، می‌تواند در طیف گسترده‌ای از کاربردها مورد استفاده قرار گیرد و به توسعه مدل‌های زبانی دقیق‌تر، به‌روزتر و قابل اعتمادتری منجر شود. با توجه به اهمیت روزافزون مدل‌های زبانی در دنیای امروز، این تحقیق می‌تواند تاثیر بسزایی در پیشرفت هوش مصنوعی و پردازش زبان طبیعی داشته باشد. دسترسی به کد منبع این مقاله در Github، امکان استفاده و توسعه این روش را برای سایر محققان فراهم می‌کند.