در دهه‌های اخیر، هوش مصنوعی به دنبال ایجاد سیستم‌هایی بوده است که بتوانند جهان را همچون انسان درک کنند. یکی از ارکان اصلی این درک، «دانش» است؛ مجموعه‌ای از حقایق، مفاهیم و روابطی که به ما امکان می‌دهد استدلال کنیم، تصمیم بگیریم و با محیط خود تعامل داشته باشیم. به طور سنتی، این دانش برای ماشین‌ها در ساختارهایی به نام پایگاه‌های دانش رابطه‌ای (Relational Knowledge Bases) مانند Wikidata یا Freebase ذخیره می‌شود. این پایگاه‌ها بسیار دقیق و قابل تفسیر هستند، اما دو محدودیت عمده دارند: اول اینکه بر اساس طرح‌واره‌های از پیش تعریف‌شده و دستی ساخته می‌شوند که انعطاف‌پذیری آن‌ها را کم می‌کند و دوم، ایجاد و نگهداری آن‌ها نیازمند تلاش و هزینه انسانی بسیار زیادی است.

مقاله مروری “Relational World Knowledge Representation in Contextual Language Models” به قلم تارا صفوی و دانای کوترا، از منظر پردازش زبان طبیعی به این چالش‌ها می‌نگرد. این مقاله به بررسی این موضوع می‌پردازد که چگونه مدل‌های زبان متنی عمیق (Deep Contextual Language Models) مانند BERT و GPT می‌توانند دانش رابطه‌ای را به شکلی انعطاف‌پذیرتر در درون خود «بیاموزند» و بازنمایی کنند. اهمیت این مقاله در ارائه یک چارچوب مفهومی جامع برای درک و دسته‌بندی روش‌های موجود، بررسی نقاط قوت و ضعف هر رویکرد، و ترسیم مسیرهای تحقیقاتی آینده است. این اثر یک راهنمای ضروری برای پژوهشگران حوزه هوش مصنوعی است که به دنبال پل زدن میان دانش ساختاریافته و درک زبانی مدل‌های نوین هستند.

این مقاله توسط تارا صفوی (Tara Safavi) و دانای کوترا (Danai Koutra)، پژوهشگران دانشگاه میشیگان، به نگارش درآمده است. تخصص این دو محقق در تقاطع حوزه‌های یادگیری ماشین، داده‌کاوی، به ویژه تحلیل گراف‌ها، و پردازش زبان طبیعی قرار دارد. این پیشینه تخصصی به آن‌ها دیدگاه منحصر به فردی برای تحلیل چگونگی بازنمایی دانش (که اغلب به صورت گراف روابط است) در مدل‌های زبانی (که با داده‌های متنی سروکار دارند) بخشیده است.

این پژوهش در قلب سه حوزه کلیدی هوش مصنوعی قرار دارد:

• محاسبات و زبان (Computation and Language): تمرکز بر اینکه چگونه مدل‌های کامپیوتری می‌توانند زبان انسان را پردازش و درک کنند.
• هوش مصنوعی (Artificial Intelligence): هدف غایی آن ساخت ماشین‌های هوشمندی است که قادر به درک و استدلال باشند.
• یادگیری ماشین (Machine Learning): ارائه الگوریتم‌هایی که به سیستم‌ها اجازه می‌دهند از داده‌ها بیاموزند، که در اینجا، مدل‌های زبانی از حجم عظیمی از متون برای یادگیری دانش جهان استفاده می‌کنند.

مقاله به صورت نظام‌مند به این پرسش کلیدی پاسخ می‌دهد: مدل‌های زبان متنی چگونه دانش رابطه‌ای جهان را در خود ذخیره و بیان می‌کنند؟ دانش رابطه‌ای به حقایق ساختاریافته‌ای مانند «تهران پایتخت ایران است» اشاره دارد که شامل دو موجودیت (تهران، ایران) و یک رابطه (پایتخت بودن) است. نویسندگان برای پاسخ به این پرسش، سه دستاورد اصلی را ارائه می‌دهند:

1. ارائه یک طبقه‌بندی جامع و قابل توسعه: این مقاله یک طبقه‌بندی نوین برای استراتژی‌های بازنمایی دانش در مدل‌های زبانی پیشنهاد می‌کند. این طبقه‌بندی بر اساس میزان نظارت پایگاه دانش (KB Supervision) در فرآیند آموزش مدل‌ها سازماندهی شده است.
2. مروری بر آخرین دستاوردها: در چارچوب این طبقه‌بندی، نویسندگان به بررسی مدل‌های برجسته، وظایف ارزیابی متداول و یافته‌های کلیدی در هر دسته می‌پردازند و تصویری به‌روز از توانایی‌های فعلی مدل‌های زبانی در بازنمایی دانش ارائه می‌دهند.
3. پیشنهاد مسیرهای تحقیقاتی آینده: در نهایت، مقاله با تأکید بر جنبه‌های مکمل پایگاه‌های دانش (دقت و تفسیرپذیری) و مدل‌های زبانی (انعطاف‌پذیری و پوشش گسترده)، مسیرهای پژوهشی هیجان‌انگیزی را برای آینده ترسیم می‌کند.

از آنجا که این یک مقاله مروری است، روش‌شناسی آن شامل یک تحلیل و سنتز جامع از ادبیات پژوهشی موجود است. نوآوری اصلی نویسندگان در ارائه یک طبقه‌بندی سه‌سطحی است که روش‌های مختلف را بر اساس میزان وابستگی آن‌ها به پایگاه‌های دانش خارجی سازماندهی می‌کند.

• سطح ۱: بدون نظارت پایگاه دانش (No KB Supervision)
  در این سطح، مدل‌های زبانی (مانند BERT) تنها بر روی حجم عظیمی از متون خام (مانند ویکی‌پدیا یا وب) آموزش می‌بینند. دانش به صورت کاملاً ضمنی و خودکار از هم‌رخدادی کلمات در متن استخراج می‌شود. برای سنجش این دانش، از تکنیک‌هایی به نام کاوش دانش (Knowledge Probing) استفاده می‌شود. برای مثال، از مدل خواسته می‌شود جمله «پایتخت فرانسه [MASK] است» را کامل کند. اگر مدل به درستی «پاریس» را پیش‌بینی کند، نشان می‌دهد که این دانش را به صورت ضمنی فرا گرفته است. این رویکرد نشان می‌دهد که مدل‌های زبانی به خودی خود «پایگاه‌های دانش ضمنی» هستند.
• سطح ۲: نظارت در سطح موجودیت (Entity-level Supervision)
  در این رویکرد، علاوه بر متن خام، اطلاعاتی درباره موجودیت‌ها از یک پایگاه دانش به مدل تزریق می‌شود. برای مثال، در فرآیند آموزش، کلماتی مانند «اپل» در متن به موجودیت منحصربه‌فرد آن در پایگاه دانش (مثلاً Apple Inc.) پیوند داده می‌شوند. این کار به مدل کمک می‌کند تا بازنمایی‌های غنی‌تر و دقیق‌تری از موجودیت‌ها بسازد و تفاوت میان «اپل» به عنوان شرکت و «اپل» به عنوان میوه را بهتر درک کند. مدل‌هایی مانند ERNIE و KnowBERT در این دسته قرار می‌گیرند.
• سطح ۳: نظارت در سطح موجودیت و رابطه (Entity- and Relation-level Supervision)
  این سطح، بالاترین میزان نظارت را شامل می‌شود. در اینجا، مدل نه تنها با اطلاعات موجودیت‌ها، بلکه با روابط صریح میان آن‌ها از پایگاه دانش نیز آموزش می‌بیند. به عنوان مثال، سه‌تایی‌های دانش (Subject, Relation, Object) مانند (آلبرت انیشتین، متولد، آلمان) به طور مستقیم به فرآیند یادگیری مدل اضافه می‌شوند. این کار با هدف تزریق دانش ساختاریافته به پارامترهای مدل انجام می‌شود تا دقت آن در وظایف مبتنی بر واقعیت افزایش یابد. مدل‌هایی مانند K-BERT و KEPLER نمونه‌هایی از این رویکرد هستند.

این مقاله مروری، چندین یافته مهم را از تحلیل پژوهش‌های موجود برجسته می‌سازد:

• مدل‌های زبانی، پایگاه‌های دانش شگفت‌انگیزی هستند: حتی بدون هیچ‌گونه نظارت صریح، مدل‌های زبانی از پیش‌آموزش‌دیده حجم قابل توجهی از دانش واقعی را از متون یاد می‌گیرند.
• دانش ضمنی همیشه قابل اعتماد نیست: دانش ذخیره‌شده در مدل‌های زبانی می‌تواند مستعد خطا، تناقض و توهم (Hallucination) باشد. این دانش به شدت تحت تأثیر نحوه بیان اطلاعات در متون آموزشی است و به‌روزرسانی آن دشوار است.
• نظارت صریح، عملکرد را بهبود می‌بخشد: تلفیق دانش از پایگاه‌های دانش خارجی (چه در سطح موجودیت و چه رابطه) به طور کلی عملکرد مدل‌ها را در وظایف نیازمند دانش، مانند پرسش و پاسخ، بهبود می‌بخشد و دانش آن‌ها را مستحکم‌تر می‌کند.
• وجود یک موازنه (Trade-off): تزریق دانش ساختاریافته ممکن است گاهی به قیمت کاهش توانایی‌های عمومی درک زبان مدل تمام شود. به عبارت دیگر، ممکن است مدل در به خاطر سپردن حقایق بهتر عمل کند اما در تعمیم و استدلال بر روی دانش جدید ضعیف‌تر شود.
• چالش در ارزیابی: اندازه‌گیری دقیق «دانش» درون یک مدل که مانند جعبه سیاه عمل می‌کند، بسیار دشوار است. نویسندگان بر محدودیت‌های روش‌های ارزیابی فعلی تأکید کرده و نیاز به معیارهای جامع‌تر را مطرح می‌کنند.

پژوهش‌های مرور شده در این مقاله، تأثیرات عملی گسترده‌ای در دنیای واقعی دارند:

• سیستم‌های پرسش و پاسخ هوشمندتر: موتورهای جستجو و دستیارهای مجازی (مانند Google Assistant و Siri) می‌توانند با استفاده از این مدل‌ها، پاسخ‌های دقیق‌تر و مستقیم‌تری به سوالات کاربران بدهند.
• استخراج خودکار اطلاعات (Information Extraction): این مدل‌ها می‌توانند به طور خودکار اطلاعات ساختاریافته مانند روابط خانوادگی، رویدادهای تاریخی یا اطلاعات مالی شرکت‌ها را از مقالات خبری و اسناد متنی استخراج کنند.
• راستی‌آزمایی و تشخیص اطلاعات نادرست (Fact-Checking): مدلی که به دانش قابل اعتماد مجهز است، می‌تواند گزاره‌های متنی را با حقایق شناخته‌شده مقایسه کرده و به شناسایی اخبار جعلی کمک کند.
• ربات‌های گفتگو (Chatbots) با مکالمات معنادارتر: ربات‌هایی که درک عمیق‌تری از جهان دارند، می‌توانند مکالمات طبیعی‌تر و مفیدتری با کاربران برقرار کنند.

مهم‌ترین دستاورد این مقاله، ارائه یک نقشه راه مفهومی است که به محققان کمک می‌کند تا انبوه روش‌های موجود را درک کرده، آن‌ها را با یکدیگر مقایسه کنند و شکاف‌های تحقیقاتی را برای کارهای آینده شناسایی نمایند.

این مقاله به شکلی استادانه نشان می‌دهد که آینده بازنمایی دانش در هوش مصنوعی، احتمالاً در ترکیبی هوشمندانه از دو رویکرد نهفته است. پایگاه‌های دانش سنتی دقت، ساختار و قابلیت تفسیر را به ارمغان می‌آورند، در حالی که مدل‌های زبانی مدرن انعطاف‌پذیری، مقیاس‌پذیری و توانایی یادگیری از داده‌های نامحدود متنی را فراهم می‌کنند.

نویسندگان چندین مسیر تحقیقاتی جذاب را برای آینده پیشنهاد می‌کنند:

• توسعه مدل‌های هیبریدی: طراحی معماری‌هایی که به بهترین شکل از استدلال نمادین پایگاه‌های دانش و قدرت شبکه‌های عصبی عمیق به طور همزمان بهره ببرند.
• به‌روزرسانی کارآمد دانش: ایجاد روش‌هایی برای افزودن، اصلاح یا حذف دانش در مدل‌های زبانی بدون نیاز به بازآموزی کامل و پرهزینه آن‌ها.
• معیارهای ارزیابی قوی‌تر: طراحی بنچمارک‌های جدید که نه تنها توانایی مدل در به خاطر سپردن حقایق، بلکه قدرت استدلال آن بر روی دانش را نیز بسنجند.
• حرکت از بازنمایی به استدلال: تمرکز بر اینکه مدل‌ها چگونه می‌توانند از دانش ذخیره‌شده خود برای انجام استدلال‌های چندمرحله‌ای و پیچیده استفاده کنند.

در نهایت، این مقاله یک گام مهم به سوی ساخت سیستم‌های هوش مصنوعی است که نه تنها زبان را پردازش می‌کنند، بلکه جهانی را که آن زبان توصیف می‌کند، عمیقاً درک می‌نمایند.