مقدمه: اهمیت درک تشبیه در پردازش زبان طبیعی

زبان انسان سرشار از ظرافت‌ها، استعاره‌ها و تشبیه‌هاست. تشبیه، یکی از پرکاربردترین آرایه‌های ادبی، ابزاری قدرتمند برای بیان مفاهیم پیچیده، ایجاد تصویرسازی ذهنی و انتقال عواطف است. درک صحیح تشبیه‌ها برای ماشین‌ها، به ویژه در حوزه پردازش زبان طبیعی (NLP)، امری حیاتی محسوب می‌شود. توانایی مدل‌های زبانی در تفسیر تشبیه‌ها، نشان‌دهنده عمق درک آن‌ها از مفاهیم و روابط بین کلمات و عبارات است. این امر می‌تواند تأثیر چشمگیری بر عملکرد سیستم‌های مختلف NLP، از جمله سیستم‌های پرسش و پاسخ، خلاصه‌سازی متن، ترجمه ماشینی و حتی تحلیل احساسات داشته باشد.

با پیشرفت‌های چشمگیر در حوزه مدل‌های زبانی بزرگ و پیش‌آموز (PLMs)، شاهد ارتقاء قابل توجه عملکرد این مدل‌ها در طیف وسیعی از وظایف NLP بوده‌ایم. اما پرسشی اساسی همچنان مطرح است: آیا این مدل‌های قدرتمند، توانایی درک ظرافت‌های زبانی مانند تشبیه‌ها را به همان اندازه انسان دارند؟ مقاله حاضر به بررسی دقیق این سوال و ارائه راه‌حل‌هایی برای پر کردن شکاف موجود می‌پردازد.

معرفی نویسندگان و زمینه تحقیق

این پژوهش توسط تیمی از محققان برجسته در زمینه هوش مصنوعی و پردازش زبان طبیعی، شامل Qianyu He، Sijie Cheng، Zhixu Li، Rui Xie و Yanghua Xiao ارائه شده است. این مقاله در حوزه محاسبات و زبان (Computation and Language) و هوش مصنوعی (Artificial Intelligence) قرار می‌گیرد.

زمینه کلی تحقیق، ارزیابی توانایی مدل‌های زبانی پیش‌آموز در فهم تشبیه‌ها است. تشبیه، که در آن دو چیز نامرتبط با هم مقایسه می‌شوند تا شباهت‌هایشان آشکار شود (مانند “او مانند شیر شجاع است”)، اغلب نیازمند درک عمیق‌تری از معانی ضمنی و روابط معنایی فراتر از دانش لغوی صرف است. محققان با طرح یک وظیفه جدید، تلاش کرده‌اند تا این توانایی را در مدل‌های پیش‌آموز بسنجند و میزان نزدیکی آن‌ها به درک انسانی را مورد بررسی قرار دهند.

چکیده و خلاصه محتوا

مقاله با طرح این موضوع آغاز می‌شود که درک تشبیه، یک وظیفه اساسی در پردازش زبان طبیعی است. مدل‌های زبانی پیش‌آموز (PLMs) امروزه در بسیاری از وظایف به عملکرد پیشرفته دست یافته‌اند، اما هنوز مشخص نیست که آیا آن‌ها قادر به تفسیر تشبیه‌ها هستند یا خیر. این پژوهش، توانایی PLMs را در تفسیر تشبیه با طراحی یک وظیفه نوین به نام “بررسی ویژگی تشبیه” (Simile Property Probing) مورد کاوش قرار می‌دهد. هدف این وظیفه، واداشتن PLMs به استنتاج ویژگی‌های مشترک در تشبیه‌ها است.

برای این منظور، محققان مجموعه داده‌هایی برای بررسی ویژگی تشبیه از منابع متنی عمومی و سوالات طراحی شده توسط انسان‌ها ساختند. این مجموعه داده‌ها شامل ۱۶۳۳ مثال در هفت دسته اصلی است. نتایج مطالعات تجربی بر اساس این مجموعه داده‌ها نشان می‌دهد که PLMs می‌توانند ویژگی‌های مشترک تشبیه‌ها را استنتاج کنند، اما همچنان عملکرد ضعیف‌تری نسبت به انسان‌ها دارند.

برای پر کردن این شکاف، روشی مبتنی بر ارتقاء دانش (knowledge-enhanced training objective) طراحی شد. این روش با ادغام دانش تشبیه در PLMs از طریق روش‌های جاسازی دانش (knowledge embedding methods)، به بهبود عملکرد مدل کمک می‌کند. نتایج نشان‌دهنده افزایش ۸.۵۸ درصدی در وظیفه بررسی ویژگی تشبیه و ۱.۳۷ درصدی در وظیفه طبقه‌بندی احساسات (Sentiment Classification) است. مجموعه داده‌ها و کد مورد استفاده در این پژوهش به صورت عمومی در آدرس https://github.com/Abbey4799/PLMs-Interpret-Simile در دسترس قرار گرفته است.

روش‌شناسی تحقیق

مهم‌ترین نوآوری این مقاله، طراحی یک وظیفه جدید و مجموعه داده‌های مرتبط برای ارزیابی درک تشبیه توسط مدل‌های زبانی است. روش‌شناسی تحقیق را می‌توان به چند بخش کلیدی تقسیم کرد:

۱. وظیفه “بررسی ویژگی تشبیه” (Simile Property Probing)

برخلاف وظایف سنتی که ممکن است به دنبال تشخیص تشبیه یا جایگزینی بخشی از آن باشند، این وظیفه بر روی درک عمق معنایی تشبیه تمرکز دارد. ایده اصلی این است که یک تشبیه، مانند “کودک مانند گنجشک پرواز کرد”، بیانگر یک ویژگی مشترک بین دو عنصر (کودک و گنجشک) است. در این مثال، ویژگی مشترک “سبکی” یا “آزادی حرکت” است. وظیفه PLM این است که این ویژگی مشترک را از متن استنتاج کند.

این روش به جای قضاوت کلی “درک می‌کند یا نه”، سعی در کمی‌سازی و ارزیابی دقیق‌تر سطح درک مدل دارد.

۲. ساخت مجموعه داده‌ها

برای آموزش و ارزیابی مدل‌ها، دو نوع مجموعه داده طراحی و ساخته شده است:

• مجموعه داده‌های مبتنی بر متون عمومی: این داده‌ها از متون متنوع و گسترده استخراج شده‌اند و شامل نمونه‌های طبیعی از تشبیه‌ها به همراه ویژگی‌های مشترک آن‌ها هستند.
• مجموعه داده‌های مبتنی بر سوالات انسانی: در این بخش، محققان سوالاتی را طراحی کرده‌اند که از کاربران می‌خواهد ویژگی‌های مشترک تشبیه‌ها را مشخص کنند. این رویکرد اطمینان می‌دهد که داده‌ها نمایانگر نحوه درک و بیان انسان‌ها هستند.

مجموعه داده نهایی شامل ۱۶۳۳ مثال است که هفت دسته اصلی تشبیه‌ها را پوشش می‌دهد. دسته‌بندی تشبیه‌ها بر اساس نوع ویژگی مشترک (مانند سرعت، قدرت، رنگ، صدا، احساس و غیره) انجام شده است.

۳. مدل‌های مورد استفاده

مقاله از مدل‌های زبانی پیش‌آموز (PLMs) مختلفی استفاده کرده است. این مدل‌ها، که با حجم عظیمی از داده‌های متنی آموزش دیده‌اند، قادر به یادگیری الگوهای پیچیده زبانی هستند. هدف، ارزیابی عملکرد این مدل‌ها در وظیفه جدید و شناسایی نقاط قوت و ضعف آن‌ها در درک تشبیه است.

۴. روش ارتقاء دانش (Knowledge-Enhanced Training)

پس از ارزیابی عملکرد اولیه مدل‌ها و مشاهده شکاف با عملکرد انسانی، محققان یک روش نوین برای بهبود این شکاف پیشنهاد دادند. این روش شامل:

• استخراج دانش تشبیه: شناسایی و استخراج دانش صریح یا ضمنی مرتبط با تشبیه‌ها.
• جاسازی دانش (Knowledge Embedding): تبدیل این دانش استخراج شده به فرمت قابل فهم برای مدل‌های زبانی (مانند بردارهای عددی).
• ادغام دانش در PLMs: ترکیب دانش جاسازی شده با معماری و فرآیند آموزش مدل‌های زبانی پیش‌آموز. این کار از طریق یک تابع هدف آموزشی جدید (training objective) انجام می‌شود که مدل را تشویق به استفاده از دانش خارجی در کنار دانش آموخته شده از متن می‌کند.

این رویکرد، به ویژه با تمرکز بر “دانش تشبیه”، به دنبال غنی‌سازی درک مدل از روابط معنایی ظریف است.

یافته‌های کلیدی

نتایج این پژوهش، اطلاعات ارزشمندی در مورد توانایی‌های فعلی مدل‌های زبانی در درک تشبیه‌ها ارائه می‌دهد:

• توانایی استنتاج ویژگی‌ها: PLMs، حتی بدون آموزش خاص برای درک تشبیه، قادر به استنتاج برخی ویژگی‌های مشترک در تشبیه‌ها هستند. این نشان می‌دهد که دانش ضمنی در مورد روابط معنایی در این مدل‌ها وجود دارد.
• شکاف با عملکرد انسانی: با وجود توانایی در استنتاج، عملکرد مدل‌ها به طور قابل توجهی پایین‌تر از انسان‌ها است. انسان‌ها در درک مفاهیم انتزاعی و ظرافت‌های معنایی تشبیه، برتری محسوسی دارند. این شکاف نشان‌دهنده نیاز به رویکردهای پیشرفته‌تر برای آموزش مدل‌ها است.
• اثرگذاری روش ارتقاء دانش: پیاده‌سازی روش “ارتقاء دانش” نتایج قابل توجهی را به همراه داشته است.
  • افزایش ۸.۵۸ درصدی در وظیفه بررسی ویژگی تشبیه: این بهبود چشمگیر نشان می‌دهد که ادغام دانش مرتبط با تشبیه، توانایی مدل را در شناسایی ویژگی‌های مشترک به طور مستقیم ارتقا می‌بخشد.
  • افزایش ۱.۳۷ درصدی در وظیفه طبقه‌بندی احساسات: این نتیجه نشان‌دهنده اثرات غیرمستقیم و مثبت درک بهتر تشبیه‌ها بر وظایف پایین‌دستی (downstream tasks) است. تشبیه‌ها اغلب برای انتقال احساسات و لحن به کار می‌روند، بنابراین درک بهتر آن‌ها به بهبود تحلیل احساسات کمک می‌کند.
• اهمیت مجموعه داده‌های متنوع: ساخت مجموعه داده‌هایی که هم از منابع عمومی و هم از سوالات انسانی الهام گرفته شده‌اند، به ایجاد یک ارزیابی جامع‌تر و واقع‌گرایانه‌تر کمک کرده است.

به طور خلاصه، مدل‌های زبانی پیش‌آموز در حال برداشتن گام‌های اولیه در جهت درک تشبیه‌ها هستند، اما برای رسیدن به سطح درک انسانی، نیاز به رویکردهای مبتنی بر دانش دارند.

کاربردها و دستاوردها

این پژوهش دستاوردهای مهمی در حوزه پردازش زبان طبیعی به ارمغان آورده و کاربردهای بالقوه فراوانی دارد:

۱. ارزیابی دقیق‌تر مدل‌های زبانی

با معرفی وظیفه “بررسی ویژگی تشبیه”، ابزار جدیدی برای ارزیابی عمیق‌تر و دقیق‌تر توانایی مدل‌های زبانی در درک مفاهیم پیچیده و غیرمستقیم فراهم شده است. این وظیفه می‌تواند معیاری برای سنجش “هوش” معنایی مدل‌ها باشد.

۲. بهبود درک متون ادبی و خلاقانه

بسیاری از متون ادبی، شعرها و نوشته‌های خلاقانه از تشبیه‌ها برای بیان غنی‌تر استفاده می‌کنند. مدل‌هایی که توانایی درک بهتر تشبیه‌ها را دارند، می‌توانند در تجزیه و تحلیل، تفسیر و حتی تولید چنین متونی بسیار مؤثر باشند.

۳. افزایش دقت در تحلیل احساسات

همانطور که نتایج نشان داد، درک بهتر تشبیه‌ها مستقیماً به بهبود عملکرد در تحلیل احساسات کمک می‌کند. تشبیه‌ها اغلب برای بیان شدت احساسات (مثلاً “غمش مانند کوهی بر دلش سنگینی می‌کرد”) یا ظرافت‌های عاطفی به کار می‌روند.

۴. پیشرفت در سیستم‌های پرسش و پاسخ و خلاصه‌سازی

درک روابط و شباهت‌های ضمنی که از طریق تشبیه‌ها بیان می‌شوند، می‌تواند به سیستم‌های پرسش و پاسخ در یافتن پاسخ‌های دقیق‌تر و به سیستم‌های خلاصه‌سازی در درک نکات کلیدی و اصلی متن کمک کند.

۵. توسعه مدل‌های آگاه از دانش (Knowledge-Aware Models)

این مقاله مسیر روشنی را برای توسعه مدل‌های NLP که نه تنها بر اساس داده‌های متنی، بلکه بر اساس دانش صریح و دانش استخراج شده از منابع مختلف نیز آموزش می‌بینند، نشان می‌دهد. ادغام دانش، کلید پیشرفت در درک جنبه‌های پیچیده‌تر زبان است.

۶. ارائه منابع باز

دسترسی عمومی به مجموعه داده‌ها و کد این پژوهش، فرصت‌های همکاری و تکرارپذیری را برای جامعه تحقیقاتی فراهم می‌کند و به تسریع پیشرفت در این حوزه کمک شایانی خواهد کرد.

نتیجه‌گیری

مقاله “آیا مدل‌های زبانی پیش‌آموز، تشبیه‌ها را به‌هوشمندی انسان درک می‌کنند؟” به طور مؤثر به این سوال مهم پرداخته است. یافته‌های کلیدی نشان می‌دهند که در حالی که مدل‌های زبانی پیش‌آموز (PLMs) دارای پتانسیل درک تشبیه‌ها هستند، هنوز شکاف قابل توجهی بین توانایی آن‌ها و درک انسانی وجود دارد.

با این حال، رویکرد نوآورانه “بررسی ویژگی تشبیه” و روش “ارتقاء دانش” با استفاده از جاسازی دانش، راهکار مؤثری برای پر کردن این شکاف ارائه کرده است. افزایش قابل توجه عملکرد در هر دو وظیفه ارزیابی و وظیفه پایین‌دستی طبقه‌بندی احساسات، نشان‌دهنده قدرت این رویکرد است.

این پژوهش گام مهمی در جهت ساخت مدل‌های زبانی هوشمندتر و قادر به درک عمیق‌تر زبان انسان، به ویژه جنبه‌های ظریف و خلاقانه آن، برداشته است. آینده پردازش زبان طبیعی احتمالاً به سمت مدل‌هایی پیش خواهد رفت که قادرند دانش خارجی را به طور مؤثر با درک مبتنی بر داده ترکیب کنند تا به سطحی از درک نزدیک‌تر به انسان دست یابند.