در عصر مدل‌های زبان بزرگ (LLMs)، توانایی تولید متن‌های شبه‌انسان به دستاوردی شگرف بدل شده است. با این حال، این پیشرفت چالش بزرگی را نیز به همراه داشته است: پدیده‌ای به نام «توهم» یا Hallucination. توهم زمانی رخ می‌دهد که یک مدل هوش مصنوعی، اطلاعاتی را تولید می‌کند که در داده‌های منبع وجود ندارد، نادرست است یا کاملاً ساختگی است. این مشکل در کاربردهای حساس مانند خلاصه‌سازی متون، که در آن صحت و وفاداری به متن اصلی حیاتی است، اهمیت ویژه‌ای پیدا می‌کند. یک خلاصه غیردقیق یا حاوی اطلاعات غلط می‌تواند به تصمیم‌گیری‌های اشتباه و انتشار اطلاعات نادرست منجر شود.

چالش اصلی در توسعه مدل‌های خلاصه‌ساز، صرفاً تولید خلاصه‌های روان و منسجم نیست، بلکه تضمین سازگاری واقعی آن‌ها با متن منبع است. اندازه‌گیری این سازگاری، فرآیندی دشوار، زمان‌بر و پرهزینه است که معمولاً به ارزیابان انسانی متکی است. معیارهای خودکار سنتی مانند ROUGE، با وجود کاربرد گسترده، در تشخیص ناهماهنگی‌های ظریف معنایی و خطاهای واقعی ناتوان هستند. مقاله «HaRiM$^+$: ارزیابی کیفیت خلاصه‌سازی با ریسک توهم» راهکاری نوآورانه برای این معضل ارائه می‌دهد. اهمیت این پژوهش در معرفی یک معیار ارزیابی خودکار و بدون نیاز به مرجع (reference-free) است که می‌تواند با دقت بالایی، ریسک وجود اطلاعات توهمی در خلاصه‌های تولیدشده را تخمین بزند و به این ترتیب، گامی بزرگ در جهت ساخت سیستم‌های خلاصه‌ساز قابل اعتماد بردارد.

این مقاله توسط تیمی از پژوهشگران برجسته به نام‌های سئونیل سون، جونسو پارک، جونگ-این هوانگ، جونگهوا لی، هیونگ‌جونگ نو و یئونسو لی به رشته تحریر درآمده است. این پژوهش در حوزه «محاسبات و زبان» (Computation and Language) قرار می‌گیرد که شاخه‌ای کلیدی از هوش مصنوعی و پردازش زبان طبیعی (NLP) است. این حوزه بر توسعه الگوریتم‌ها و مدل‌هایی تمرکز دارد که کامپیوترها را قادر می‌سازد زبان انسان را درک، تفسیر و تولید کنند.

تحقیق حاضر بر یک مسئله بنیادی در ارزیابی تولید متن (Text Generation Evaluation) متمرکز است. در حالی که پیشرفت‌های عظیمی در ساخت مدل‌های مولد صورت گرفته، توسعه معیارهای ارزیابی قابل اعتماد که بتوانند کیفیت خروجی این مدل‌ها را به دقت قضاوت انسانی اندازه‌گیری کنند، همواره یک گلوگاه تحقیقاتی بوده است. این مقاله با الهام از کارهای پیشین در زمینه تنظیم مدل‌ها برای جلوگیری از «اعتمادبه‌نفس کاذب»، رویکردی جدید برای ارزیابی ارائه می‌دهد و در مرز دانش این حوزه قرار می‌گیرد.

یکی از چالش‌های اصلی در توسعه مدل‌های خلاصه‌ساز، دشواری در اندازه‌گیری «ناسازگاری واقعی» (factual inconsistency) متن تولید شده است. در این تحقیق، نویسندگان یک هدف بهینه‌سازی که پیش‌تر برای تنظیم «اعتمادبه‌نفس کاذب» دیکودر مدل‌ها پیشنهاد شده بود (Miao et al., 2021) را مجدداً تفسیر کرده و از آن به عنوان معیاری برای سنجش «ریسک توهم» استفاده می‌کنند تا کیفیت خلاصه‌های تولیدی را بهتر تخمین بزنند.

آنها معیاری به نام HaRiM$^+$ را پیشنهاد می‌کنند که برای محاسبه ریسک توهم، تنها به یک مدل خلاصه‌ساز آماده و از پیش آموزش‌دیده (off-the-shelf) نیاز دارد تا احتمال وقوع توکن‌ها (کلمات) را محاسبه کند. پیاده‌سازی این معیار نیازی به آموزش مدل‌های اضافی یا ماژول‌های جانبی که معمولاً باید با قضاوت‌های انسانی همسو شوند، ندارد. در زمینه تخمین کیفیت خلاصه، HaRiM$^+$ توانسته است به بالاترین سطح همبستگی (state-of-the-art correlation) با قضاوت انسانی در سه مجموعه داده معتبر ارزیابی کیفیت خلاصه، یعنی FRANK، QAGS و SummEval دست یابد. پژوهشگران امیدوارند که این کار، با بهره‌گیری هوشمندانه از خود مدل‌های خلاصه‌ساز، به پیشرفت همزمان در ارزیابی خودکار و تولید خلاصه‌های باکیفیت کمک کند.

اساس روش‌شناسی HaRiM$^+$ بر یک ایده هوشمندانه استوار است: بازتفسیر یک مفهوم موجود برای یک کاربرد جدید. بیایید این فرآیند را گام به گام بررسی کنیم.

۱. درک مفهوم ریسک توهم:
زمانی که یک مدل خلاصه‌ساز، کلمه یا عبارتی را تولید می‌کند که به‌طور ضعیف توسط متن اصلی پشتیبانی می‌شود، در واقع در حال «توهم» است. HaRiM$^+$ این پدیده را به صورت کمی اندازه‌گیری می‌کند. ایده اصلی این است که اگر یک مدل زبان، هنگام تولید یک توکن (کلمه) در خلاصه، «اعتمادبه‌نفس بیش از حد» داشته باشد در حالی که آن توکن از نظر معنایی با متن منبع ارتباطی ندارد، احتمال توهم بالاست.

۲. محاسبه ریسک با استفاده از احتمال توکن:
روش کار HaRiM$^+$ به این صورت است:

• یک خلاصه تولیدشده توسط مدل A را در نظر بگیرید.
• برای ارزیابی این خلاصه، از یک مدل خلاصه‌ساز دیگر (مدل B، که یک مدل استاندارد و آماده است) استفاده می‌شود.
• مدل B متن اصلی را به عنوان ورودی دریافت می‌کند و وظیفه آن، محاسبه احتمال تولید هر یک از کلمات موجود در خلاصه مدل A است.
• اگر احتمال تولید یک کلمه خاص (با توجه به متن اصلی و کلمات قبلی خلاصه) بسیار پایین باشد، این نشان می‌دهد که مدل B آن کلمه را «غیرمنتظره» یا «پشتیبانی نشده» می‌داند. این عدم انتظار، به عنوان ریسک توهم برای آن کلمه تلقی می‌شود.

در نهایت، امتیاز HaRiM$^+$ از agregating (تجمیع) این ریسک‌ها برای تمام کلمات خلاصه به دست می‌آید. امتیاز نهایی پایین‌تر، نشان‌دهنده ریسک توهم بالاتر و کیفیت پایین‌تر خلاصه است.

۳. مزیت کلیدی: بدون نیاز به مرجع
برجسته‌ترین ویژگی HaRiM$^+$، reference-free بودن آن است. معیارهای سنتی مانند ROUGE، خلاصه تولیدشده را با یک یا چند خلاصه مرجع که توسط انسان نوشته شده مقایسه می‌کنند. این رویکرد دو محدودیت بزرگ دارد: اولاً، تهیه خلاصه‌های مرجع انسانی گران و زمان‌بر است. ثانیاً، برای یک متن طولانی، ممکن است چندین خلاصه صحیح وجود داشته باشد و وابستگی به یک مرجع خاص، ارزیابی را محدود می‌کند. HaRiM$^+$ با ارزیابی مستقیم وفاداری خلاصه به متن منبع، این محدودیت‌ها را برطرف کرده و ارزیابی را بسیار مقیاس‌پذیرتر و کارآمدتر می‌کند.

اثربخشی یک معیار ارزیابی جدید، با میزان همبستگی آن با قضاوت‌های انسانی سنجیده می‌شود. به عبارت دیگر، آیا معیاری که یک خلاصه را «خوب» ارزیابی می‌کند، با نظر یک ارزیاب متخصص انسانی نیز همخوانی دارد؟ یافته‌های مقاله نشان می‌دهد که HaRiM$^+$ در این زمینه عملکردی فوق‌العاده دارد.

• همبستگی بالا با قضاوت انسانی: نویسندگان، HaRiM$^+$ را بر روی سه مجموعه داده استاندارد صنعتی (FRANK، QAGS و SummEval) آزمایش کردند. نتایج نشان داد که امتیازات تولید شده توسط HaRiM$^+$ دارای بالاترین همبستگی آماری با امتیازات انسانی در مقایسه با سایر معیارهای خودکار پیشرفته است. این بدان معناست که HaRiM$^+$ با دقت بسیار بالایی می‌تواند پیش‌بینی کند که یک انسان به یک خلاصه چه امتیازی (از نظر کیفیت و صحت) خواهد داد.
• عملکرد برتر در تشخیص خطاهای واقعی: مجموعه داده FRANK به طور خاص برای ارزیابی سازگاری واقعی طراحی شده است. عملکرد درخشان HaRiM$^+$ بر روی این مجموعه داده نشان می‌دهد که این معیار به ویژه در شناسایی خلاصه‌هایی که حاوی اطلاعات نادرست یا توهمی هستند، قدرتمند است.
• سادگی و کارایی: یکی دیگر از یافته‌های مهم، عملی بودن این روش است. برخلاف برخی معیارهای پیچیده که به مدل‌های جداگانه و آموزش‌های سنگین نیاز دارند، HaRiM$^+$ تنها با استفاده از یک مدل خلاصه‌ساز موجود پیاده‌سازی می‌شود. این سادگی، پذیرش و استفاده از آن را در دنیای واقعی تسهیل می‌کند.

این یافته‌ها تأیید می‌کنند که HaRiM$^+$ نه تنها یک ایده نظری جالب، بلکه ابزاری عملی و مؤثر برای حل یکی از فوری‌ترین مشکلات حوزه پردازش زبان طبیعی است.

معرفی HaRiM$^+$ پیامدهای عملی گسترده‌ای برای محققان و توسعه‌دهندگان سیستم‌های هوش مصنوعی دارد. این معیار می‌تواند به عنوان یک ابزار قدرتمند در چرخه‌های مختلف توسعه و استقرار مدل‌های زبانی به کار گرفته شود.

• ارزیابی خودکار و مقیاس‌پذیر: شرکت‌ها و آزمایشگاه‌های تحقیقاتی می‌توانند از HaRiM$^+$ برای ارزیابی سریع و خودکار هزاران خلاصه تولید شده توسط مدل‌های مختلف استفاده کنند و به سرعت بهترین مدل یا بهترین پارامترها را شناسایی کنند.
• بهبود فرآیند آموزش مدل: امتیاز HaRiM$^+$ می‌تواند به عنوان یک سیگنال پاداش در روش‌های یادگیری تقویتی (Reinforcement Learning) استفاده شود. به این ترتیب، مدل‌های خلاصه‌ساز را می‌توان به گونه‌ای آموزش داد که خلاصه‌هایی با کمترین ریسک توهم تولید کنند و در نتیجه، به طور مستقیم برای تولید محتوای صحیح‌تر بهینه شوند.
• تضمین کیفیت در محصولات نهایی: در اپلیکیشن‌های دنیای واقعی، مانند agregatorهای خبری، دستیارهای هوشمند یا ابزارهای تحلیل اسناد، می‌توان از HaRiM$^+$ به عنوان یک فیلتر کیفی استفاده کرد. خلاصه‌هایی که امتیاز پایینی کسب می‌کنند، می‌توانند برای بازبینی بیشتر علامت‌گذاری شده یا به کاربر نمایش داده نشوند تا از انتشار اطلاعات نادرست جلوگیری شود.
• کاهش هزینه‌های ارزیابی انسانی: با فراهم کردن یک جایگزین قابل اعتماد برای ارزیابی انسانی، HaRiM$^+$ می‌تواند به طور چشمگیری هزینه‌ها و زمان مورد نیاز برای توسعه و اعتبارسنجی مدل‌های زبانی را کاهش دهد.

بزرگترین دستاورد این مقاله، ارائه یک راه حل عملی، دقیق و کارآمد برای مشکلی است که مدت‌ها مانع پیشرفت در زمینه تولید متن قابل اعتماد بوده است.

مقاله «HaRiM$^+$: ارزیابی کیفیت خلاصه‌سازی با ریسک توهم» یک گام مهم رو به جلو در تلاش برای ساخت سیستم‌های هوش مصنوعی قابل اعتماد و دقیق است. با بازتفسیر خلاقانه یک تکنیک موجود، نویسندگان موفق به ایجاد یک معیار ارزیابی شده‌اند که سه ویژگی کلیدی را به طور همزمان ارائه می‌دهد: ارتباط قوی با قضاوت انسانی، عدم نیاز به مرجع، و سهولت پیاده‌سازی.

HaRiM$^+$ صرفاً یک معیار دیگر در میان انبوه معیارهای موجود نیست؛ بلکه ابزاری است که به طور خاص برای مقابله با چالش «توهم» طراحی شده و کارایی خود را در معیارهای استاندارد به اثبات رسانده است. این پژوهش نه تنها راه را برای ارزیابی بهتر خلاصه‌ها هموار می‌کند، بلکه می‌تواند به عنوان الگویی برای توسعه معیارهای مشابه در سایر وظایف تولید متن مانند ترجمه ماشینی یا پاسخ به پرسش عمل کند. در نهایت، کارهایی مانند HaRiM$^+$ به ما کمک می‌کنند تا از تولید صرفاً متن‌های روان و زیبا، به سمت تولید متن‌هایی که به طور قابل اثباتی صحیح و قابل اعتماد هستند، حرکت کنیم و این، کلید تحقق پتانسیل واقعی هوش مصنوعی مولد است.