یکی از بزرگ‌ترین چالش‌های دیرینه در حوزه هوش مصنوعی، آموزش دادن دانش عقل سلیم (Commonsense Knowledge) به ماشین‌ها بوده است. دانش عقل سلیم به مجموعه عظیمی از دانسته‌های بدیهی، ضمنی و روزمره اطلاق می‌شود که انسان‌ها برای درک جهان و تعامل با آن به کار می‌برند؛ حقایقی مانند «آب خیس است»، «پرندگان پرواز می‌کنند» یا «اگر چیزی را رها کنید به زمین می‌افتد». این دانش که برای ما انسان‌ها کاملاً طبیعی است، برای ماشین‌ها یک معمای پیچیده محسوب می‌شود.

مقاله مروری «استدلال و تولید دانش عقل سلیم با مدل‌های زبانی از پیش‌آموزش‌دیده» نوشته پراجوال بارگاوا و وینسنت نگ، به بررسی تحولات اخیر در این حوزه می‌پردازد. اهمیت این مقاله در آن است که برای اولین بار، پلی میان دو حوزه تحقیقاتی سنتی و مدرن برقرار می‌کند: از یک سو، حوزه کلاسیک «بازنمایی دانش و استدلال» (Knowledge Representation and Reasoning) که دهه‌ها برای مدلسازی دانش عقل سلیم با رویکردهای نمادین تلاش کرده و از سوی دیگر، حوزه نوین «پردازش زبان طبیعی» (NLP) که با ظهور مدل‌های زبانی از پیش‌آموزش‌دیده (Pre-trained Language Models – PLMs) مانند BERT و GPT، انقلابی در این زمینه ایجاد کرده است. این مقاله به طور جامع، وظایف، مدل‌ها، نقاط قوت و ضعف رویکردهای جدید را تحلیل کرده و نقشه راهی برای تحقیقات آینده ترسیم می‌کند.

این مقاله توسط پراجوال بارگاوا (Prajjwal Bhargava) و وینسنت نگ (Vincent Ng) به رشته تحریر درآمده است. پروفسور وینسنت نگ، یکی از پژوهشگران برجسته در آزمایشگاه پردازش زبان طبیعی انسانی در دانشگاه تگزاس در دالاس است و تحقیقات گسترده‌ای در زمینه درک زبان طبیعی، استخراج اطلاعات و استدلال ماشینی دارد. این مقاله در تقاطع دو حوزه کلیدی هوش مصنوعی قرار دارد:

• پردازش زبان طبیعی (NLP): تمرکز بر توانمندسازی ماشین‌ها برای درک، تفسیر و تولید زبان انسانی.
• استدلال مبتنی بر دانش (Knowledge Reasoning): تمرکز بر ایجاد سیستم‌هایی که بتوانند بر اساس دانش موجود، نتایج جدیدی را استنتاج کنند.

مقاله حاضر، نمودی از یک تغییر پارادایم است: گذار از رویکردهای مبتنی بر قوانین و منطق نمادین به سمت رویکردهای داده‌محور و مبتنی بر شبکه‌های عصبی عمیق که می‌توانند الگوهای پیچیده دانش را از حجم عظیمی از داده‌های متنی بیاموزند.

نویسندگان در چکیده مقاله بیان می‌کنند که اگرچه کسب و استدلال دانش عقل سلیم به طور سنتی یک موضوع اصلی در جامعه بازنمایی دانش بوده، اما سال‌های اخیر شاهد افزایش علاقه در جامعه پردازش زبان طبیعی به توسعه مدل‌های از پیش‌آموزش‌دیده و آزمودن توانایی آن‌ها در حل وظایف جدید استدلال و تولید دانش عقل سلیم بوده‌ایم. این مقاله مروری، این وظایف را بررسی کرده، نقاط قوت و ضعف مدل‌های پیشرفته را تحلیل نموده و مسیرهای تحقیقاتی آینده را مورد بحث قرار می‌دهد.

به طور خلاصه، این مقاله سه بخش اصلی را پوشش می‌دهد:

1. بررسی وظایف (Tasks): معرفی و دسته‌بندی مجموعه داده‌ها و معیارهای ارزیابی که برای سنجش توانایی مدل‌ها در استدلال عقل سلیم طراحی شده‌اند.
2. تحلیل مدل‌ها (Models): ارزیابی عملکرد مدل‌های زبانی پیشرفته بر روی این وظایف و شناسایی الگوهای موفقیت و شکست آن‌ها.
3. مسیرهای آینده (Future Directions): ارائه پیشنهاداتی برای رفع محدودیت‌های فعلی و حرکت به سوی ساخت سیستم‌های هوش مصنوعی با درک عمیق‌تر از جهان.

از آنجا که این مقاله یک اثر مروری (Survey) است، روش‌شناسی آن مبتنی بر «تحلیل و سنتز نظام‌مند ادبیات پژوهشی» است. نویسندگان یک بررسی جامع از مقالات، مجموعه داده‌ها و مدل‌های منتشر شده در کنفرانس‌ها و ژورنال‌های معتبر هوش مصنوعی و پردازش زبان طبیعی انجام داده‌اند. فرآیند تحقیق آن‌ها شامل مراحل زیر بوده است:

• گردآوری و دسته‌بندی وظایف: نویسندگان وظایف مختلف مرتبط با عقل سلیم را در چند دسته اصلی طبقه‌بندی کرده‌اند. برای مثال:
  • استدلال علّی و زمانی (Causal & Temporal Reasoning): درک رابطه علت و معلولی. مثال: «چون باران بارید، زمین خیس شد.»
  • استدلال اجتماعی و نیت‌محور (Social & Intentional Reasoning): درک احساسات، باورها و اهداف انسان‌ها. مثال: «اگر کسی در امتحان تقلب کند، احتمالاً احساس گناه خواهد کرد.»
  • استدلال فیزیکی (Physical Reasoning): درک ویژگی‌های اشیاء و تعاملات فیزیکی آن‌ها. مثال: «یک فیل نمی‌تواند در یک قفس پرنده جای بگیرد.»
• تحلیل مدل‌های زبانی: آن‌ها معماری و عملکرد مدل‌های برجسته‌ای مانند BERT، RoBERTa، T5 و GPT را در مواجهه با این وظایف بررسی کرده‌اند.
• ترکیب نتایج: با جمع‌آوری نتایج گزارش‌شده در مقالات متعدد، نویسندگان به یک دیدگاه کلان از وضعیت فعلی این حوزه دست یافته و توانسته‌اند الگوهای مشترک را شناسایی کنند.

این مقاله به نتایج مهمی دست یافته است که درک ما از قابلیت‌های مدل‌های زبانی را عمیق‌تر می‌کند:

۱. توانایی شگفت‌انگیز در یادگیری دانش ضمنی: مدل‌های زبانی از پیش‌آموزش‌دیده، با تحلیل میلیاردها جمله از اینترنت، توانایی قابل توجهی در جذب دانش آماری و تداعی‌گرایانه از خود نشان می‌دهند. آن‌ها می‌توانند الگوهای زبانی را که منعکس‌کننده دانش عقل سلیم هستند، بیاموزند. برای مثال، یک مدل ممکن است بدون آموزش صریح، بیاموزد که کلمات «آتش» و «گرما» اغلب با هم ظاهر می‌شوند.

۲. شکنندگی و عدم استحکام: با وجود کسب امتیازات بالا در بسیاری از آزمون‌ها، این مدل‌ها اغلب شکننده هستند. یافته‌های کلیدی در این زمینه عبارتند از:

• حساسیت به جمله‌بندی (Adversarial Attacks): تغییرات جزئی در صورت مسئله که معنای آن را برای انسان تغییر نمی‌دهد، می‌تواند به طور کامل پاسخ مدل را اشتباه کند. این نشان می‌دهد که درک آن‌ها سطحی و مبتنی بر الگوهای آماری است، نه یک فهم عمیق مفهومی.
• سوگیری‌های اکتسابی (Reporting Bias): مدل‌ها سوگیری‌های موجود در داده‌های متنی را بازتولید می‌کنند. اگر در متون آموزشی، پزشکان اغلب مرد و پرستاران زن توصیف شوند، مدل نیز این کلیشه را تقویت خواهد کرد.
• ناتوانی در استدلال انتزاعی: این مدل‌ها در مواجهه با سناریوهای جدیدی که مشابه آن‌ها را در داده‌های آموزشی ندیده‌اند، دچار مشکل می‌شوند. آن‌ها در تعمیم دانش به موقعیت‌های کاملاً جدید ضعیف عمل می‌کنند.

۳. ماهیت «جعبه سیاه»: یکی از بزرگ‌ترین محدودیت‌ها این است که مدل‌های زبانی غول‌پیکر، سیستم‌های جعبه سیاه (Black Box) هستند. ما نمی‌توانیم به سادگی بفهمیم که آن‌ها چگونه به یک پاسخ خاص رسیده‌اند. این عدم شفافیت، اعتماد به آن‌ها را در کاربردهای حساس دشوار می‌سازد.

پیشرفت در حوزه استدلال عقل سلیم، تأثیر مستقیمی بر توسعه نسل بعدی سیستم‌های هوش مصنوعی دارد. دستاوردها و کاربردهای این پژوهش‌ها عبارتند از:

• دستیارهای مجازی هوشمندتر: دستیارهایی مانند سیری یا الکسا می‌توانند با درک عمیق‌تر از نیت و زمینه مکالمه، پاسخ‌های طبیعی‌تر و مفیدتری ارائه دهند. برای مثال، اگر کاربر بگوید «من کلیدهایم را گم کرده‌ام»، یک سیستم هوشمند می‌تواند مکان‌های محتمل برای جستجو را پیشنهاد دهد.
• بهبود سیستم‌های پرسش و پاسخ: سیستم‌های Q&A می‌توانند با استفاده از دانش عقل سلیم، اطلاعاتی را که به طور صریح در متن نیامده است، استنتاج کرده و پاسخ‌های کامل‌تری ارائه دهند.
• رباتیک و تعامل انسان و ربات: یک ربات خانگی برای انجام وظایف ساده مانند تمیز کردن میز، نیازمند درک عمیقی از اشیاء، ویژگی‌های آن‌ها و نحوه تعامل ایمن با محیط است.
• ایجاد نقشه راه علمی: این مقاله با سازماندهی یک حوزه تحقیقاتی پراکنده و در حال تحول، به پژوهشگران کمک می‌کند تا چالش‌های اصلی را شناسایی کرده و تلاش‌های خود را بر روی مسائل مهم متمرکز کنند.

مقاله بارگاوا و نگ به این نتیجه می‌رسد که مدل‌های زبانی از پیش‌آموزش‌دیده گام بزرگی در مسیر حل معمای دانش عقل سلیم برداشته‌اند، اما این راه هنوز به پایان نرسیده است. این مدل‌ها ابزارهای قدرتمندی برای یادگیری الگوها از داده‌ها هستند، اما فاقد توانایی استدلال عمیق، انتزاعی و مستحکمی هستند که در هوش انسانی مشاهده می‌شود.

نویسندگان چندین مسیر کلیدی برای تحقیقات آینده پیشنهاد می‌کنند:

• مدل‌های ترکیبی (Hybrid Models): ادغام مدل‌های عصبی با رویکردهای منطق نمادین (Neuro-symbolic AI) تا از مزایای هر دو پارادایم بهره‌مند شویم: قدرت یادگیری از داده‌ها و دقت و شفافیت استدلال منطقی.
• مجموعه داده‌های چالش‌برانگیزتر: طراحی آزمون‌هایی که صرفاً با تطبیق الگو قابل حل نباشند و نیازمند استدلال چندمرحله‌ای و عمیق باشند.
• تمرکز بر تفسیرپذیری (Interpretability): توسعه روش‌هایی برای درک فرآیند تصمیم‌گیری در مدل‌های زبانی تا بتوان به آن‌ها اعتماد کرد و نقاط ضعفشان را بهتر شناسایی نمود.
• یادگیری چندوجهی (Multi-modal Learning): ترکیب اطلاعات متنی با داده‌های تصویری و حسی برای ایجاد یک درک «زمینه‌مند» (grounded) از جهان، همان‌طور که انسان‌ها از طریق حواس خود جهان را می‌آموزند.

در نهایت، این مقاله یک منبع ارزشمند برای هر پژوهشگری است که به دنبال درک چشم‌انداز فعلی و آینده استدلال عقل سلیم در هوش مصنوعی است و نشان می‌دهد که سفر به سوی هوش مصنوعی عمومی (AGI) همچنان ادامه دارد.