در سال‌های اخیر، حوزه پردازش زبان طبیعی (NLP) با ظهور مدل‌هایی مبتنی بر معماری ترانسفورمر (Transformer)، مانند BERT، شاهد یک جهش پارادایمی بوده است. این مدل‌ها توانایی بی‌سابقه‌ای در درک و تولید زبان انسان از خود نشان داده‌اند و رکوردهای پیشین را در طیف گسترده‌ای از وظایف، از ترجمه ماشینی گرفته تا تحلیل احساسات، جابجا کرده‌اند. قلب قدرت این مدل‌ها در توانایی آن‌ها برای تولید «جاسازی‌های کلمه» (Word Embeddings) نهفته است؛ بازنمایی‌های عددی متراکمی که اطلاعات معنایی غنی کلمات را در بطن جمله ثبت می‌کنند.

با این حال، این قدرت با یک چالش بزرگ همراه است: عدم شفافیت. جاسازی‌های تولید شده توسط BERT بردارهایی با ابعاد بالا (مثلاً ۷۶۸ بُعد) هستند که تفسیر مستقیم آن‌ها برای انسان تقریباً غیرممکن است. به همین دلیل، این مدل‌ها اغلب به عنوان «جعبه سیاه» (Black Box) توصیف می‌شوند. ما می‌دانیم که آن‌ها کار می‌کنند، اما درک دقیق اینکه *چگونه* به تصمیمات خود می‌رسند، بسیار دشوار است. این مقاله با عنوان «استخراج ویژگی‌های معنایی متنی از جاسازی‌های BERT» نوشته جیکوب ترتون، دیوید وینسون و رابرت الیوت اسمیت، دقیقاً به همین چالش می‌پردازد. اهمیت این پژوهش در تلاش برای گشودن این جعبه سیاه و ایجاد پلی میان بازنمایی‌های پیچیده و ماشینی BERT و درک شهودی و مبتنی بر ویژگی انسان از معنای کلمات است. این کار نه تنها به افزایش قابلیت تفسیرپذیری (Interpretability) مدل‌های زبانی کمک می‌کند، بلکه راه را برای تحلیل عمیق‌تر و دقیق‌تر نحوه بازنمایی معنا در لایه‌های مختلف این شبکه‌های عصبی پیچیده هموار می‌سازد.

این مقاله توسط تیمی از پژوهشگران برجسته در تقاطع علوم شناختی، زبان‌شناسی محاسباتی و هوش مصنوعی به رشته تحریر درآمده است. این پژوهش بر پایه کارهای قبلی و مهمی در این حوزه بنا شده است. یکی از مهم‌ترین این کارها، پژوهش Binder و همکارانش است که یک فضای جاسازی شهودی را پیشنهاد کردند. در این فضا، هر بُعد متناظر با یکی از ۶۵ ویژگی معنایی اصلی (مانند «موجود زنده»، «ساخته دست بشر»، «دارای بو»، «مربوط به زمان») است. این ویژگی‌ها از طریق آزمایش‌های روان‌شناختی گسترده بر روی انسان‌ها استخراج شده بودند. مشکل اصلی کار Binder این بود که این فضای معنایی تنها برای مجموعه داده کوچکی شامل ۵۳۵ کلمه وجود داشت.

پژوهش‌های بعدی (توسط اوتسومی، و همچنین خود نویسندگان این مقاله) نشان دادند که می‌توان ویژگی‌های معنایی Binder را از جاسازی‌های ایستا (Static Embeddings) مانند Word2Vec و GloVe استخراج کرد و آن را به واژگان بسیار بزرگ‌تری تعمیم داد. مقاله حاضر، گام منطقی بعدی را برمی‌دارد: آیا می‌توان این ویژگی‌های قابل تفسیر را از جاسازی‌های متنی (Contextualised) و پویای BERT نیز استخراج کرد؟ این پرسش، هسته اصلی تحقیق را تشکیل می‌دهد و آن را در خط مقدم پژوهش‌های مربوط به تفسیرپذیری مدل‌های زبان بزرگ قرار می‌دهد.

این مقاله نشان می‌دهد که چگونه می‌توان ویژگی‌های معنایی قابل تفسیر (ویژگی‌های Binder) را از فضای جاسازی مدل BERT استخراج کرد. مدل‌های ترانسفورمر مانند BERT، با تولید جاسازی‌های کلمه که معنا را در بستر جمله در نظر می‌گیرند، انقلابی در NLP ایجاد کرده‌اند. با این حال، این جاسازی‌ها به خودی خود مبهم و غیرقابل تفسیر هستند. در مقابل، فضای معنایی Binder وجود دارد که بر اساس ۶۵ ویژگی اصلی و قابل فهم برای انسان ساخته شده، اما محدود به یک مجموعه کوچک از کلمات است.

پژوهشگران در این مقاله با موفقیت نشان می‌دهند که می‌توان یک مدل نگاشت (Mapping) ایجاد کرد که جاسازی‌های پیچیده BERT را به بردارهای ۶۵ بعدی و قابل تفسیر Binder تبدیل می‌کند. این دستاورد دو نتیجه مهم به همراه دارد:

• ایجاد جاسازی‌های Binder متنی: برای اولین بار، می‌توان برای هر کلمه در هر جمله، یک بردار ویژگی معنایی تولید کرد که با تغییر زمینه، تغییر می‌کند. این امر به درک تفاوت‌های ظریف معنایی کمک شایانی می‌کند.
• تحلیل لایه‌های BERT: این روش به عنوان یک ابزار قدرتمند برای «کاوش» (Probing) در لایه‌های مختلف مدل BERT عمل می‌کند و نشان می‌دهد که اطلاعات معنایی چگونه در سراسر این معماری عمیق توزیع شده‌اند.

روش‌شناسی این پژوهش بر پایه یک فرآیند هوشمندانه برای یادگیری یک نگاشت خطی بین دو فضای برداری متفاوت استوار است. مراحل اصلی این فرآیند را می‌توان به صورت زیر خلاصه کرد:

1. داده‌های پایه: نقطه شروع، مجموعه داده اصلی Binder است که شامل ۵۳۵ کلمه به همراه امتیاز آن‌ها در ۶۵ ویژگی معنایی است. این مجموعه به عنوان «حقیقت زمینی» (Ground Truth) برای آموزش مدل عمل می‌کند.
2. تولید جاسازی‌های BERT: برای هر یک از این ۵۳۵ کلمه، نویسندگان جاسازی‌های متنی را از مدل BERT استخراج می‌کنند. این کار با قرار دادن هر کلمه در جملات مختلف و استخراج بردار بازنمایی آن از لایه‌های مختلف BERT انجام می‌شود.
3. آموزش مدل نگاشت: هسته اصلی روش، آموزش یک مدل رگرسیون (احتمالاً رگرسیون ستیغی یا Ridge Regression) است. این مدل یاد می‌گیرد که چگونه یک جاسازی ۷۶۸ بعدی BERT را به عنوان ورودی دریافت کرده و یک بردار ۶۵ بعدی از ویژگی‌های Binder را به عنوان خروجی پیش‌بینی کند. هدف، به حداقل رساندن خطا بین بردارهای پیش‌بینی‌شده و بردارهای واقعی از مجموعه داده Binder است.
4. تحلیل لایه‌به‌لایه: برای بررسی نحوه توزیع اطلاعات معنایی، فرآیند آموزش مدل نگاشت برای خروجی هر یک از ۱۲ لایه مدل BERT (نسخه پایه) به طور جداگانه تکرار می‌شود. سپس دقت هر مدل نگاشت ارزیابی می‌گردد تا مشخص شود کدام لایه‌ها بهترین بازنمایی از ویژگی‌های معنایی Binder را در خود دارند.
5. اعتبارسنجی و تعمیم: پس از آموزش، مدل نگاشت بر روی کلمات جدیدی که در مجموعه داده اولیه وجود نداشتند، آزمایش می‌شود تا توانایی آن در تعمیم به واژگان گسترده‌تر سنجیده شود.

این پژوهش به یافته‌های مهم و قابل توجهی دست یافت که درک ما را از عملکرد درونی مدل‌های ترانسفورمر عمیق‌تر می‌کند:

• استخراج موفقیت‌آمیز ویژگی‌ها: یافته اصلی این است که می‌توان با دقت بالایی ویژگی‌های معنایی Binder را از جاسازی‌های BERT استخراج کرد. این نشان می‌دهد که اطلاعات معنایی شهودی و قابل درک برای انسان، به صورت خطی در فضای برداری BERT کدگذاری شده‌اند.
• حساسیت به متن: مهم‌ترین دستاورد، نشان دادن ماهیت متنی ویژگی‌های استخراج‌شده است. برای مثال، کلمه “bank” را در دو جمله زیر در نظر بگیرید:
  • “He sat on the river bank.” (او روی ساحل رودخانه نشست.)
  • “She works at an investment bank.” (او در یک بانک سرمایه‌گذاری کار می‌کند.)

  ویژگی‌های Binder استخراج‌شده برای “bank” در جمله اول، امتیاز بالایی در ویژگی‌هایی مانند «طبیعی»، «مربوط به مکان» و «ثابت» دریافت می‌کند، در حالی که در جمله دوم، امتیاز آن در ویژگی‌هایی مانند «ساختمان»، «مربوط به تجارت» و «ساخته دست بشر» بالاتر خواهد بود. این یافته به وضوح نشان می‌دهد که این روش، توانایی مدل BERT در ابهام‌زدایی از معنای کلمه را به شکلی قابل تفسیر نمایش می‌دهد.

• تخصص‌گرایی لایه‌ها: تحلیل لایه‌به‌لایه نشان داد که لایه‌های مختلف BERT در بازنمایی اطلاعات معنایی، نقش‌های متفاوتی ایفا می‌کنند. به طور کلی، لایه‌های میانی (حدود لایه‌های ۶ تا ۹) بهترین عملکرد را در پیش‌بینی ویژگی‌های معنایی Binder داشتند. این موضوع با تئوری‌های موجود همخوانی دارد که معتقدند لایه‌های اولیه بیشتر بر اطلاعات نحوی و سطحی تمرکز دارند، و لایه‌های پایانی بیش از حد برای وظیفه پیش‌آموزش مدل (مانند پیش‌بینی کلمه ماسک‌شده) تخصصی شده‌اند. لایه‌های میانی نقطه‌ای هستند که غنی‌ترین بازنمایی معنایی در آن‌ها شکل می‌گیرد.

نتایج این مقاله پیامدها و کاربردهای عملی گسترده‌ای در حوزه هوش مصنوعی و علوم شناختی دارد:

• افزایش تفسیرپذیری (Explainable AI – XAI): این روش یک «عدسی معنایی» قدرتمند برای نگاه کردن به درون جعبه سیاه BERT فراهم می‌کند. محققان اکنون می‌توانند تحلیل کنند که مدل برای اتخاذ یک تصمیم خاص، بر کدام ویژگی‌های معنایی تمرکز کرده است.
• تحلیل و اشکال‌زدایی مدل: با استفاده از ویژگی‌های استخراج‌شده، می‌توان نقاط ضعف و سوگیری‌های (biases) مدل را شناسایی کرد. برای مثال، می‌توان بررسی کرد که آیا مدل ارتباطات معنایی نادرستی را یاد گرفته است یا خیر.
• ابزاری برای علوم شناختی: این پژوهش پلی میان مدل‌های مهندسی‌محور NLP و نظریه‌های روان‌شناختی در مورد نحوه بازنمایی معنا در ذهن انسان ایجاد می‌کند. این ابزار می‌تواند برای آزمودن فرضیه‌های شناختی در مقیاس بزرگ به کار رود.
• مهندسی ویژگی‌های پیشرفته: در برخی کاربردها که به شفافیت بالا نیاز دارند، می‌توان از این ویژگی‌های معنایی متنی به عنوان ورودی برای مدل‌های دیگر استفاده کرد و عملکرد آن‌ها را بهبود بخشید.

مقاله «استخراج ویژگی‌های معنایی متنی از جاسازی‌های BERT» یک گام مهم و رو به جلو در جهت رمزگشایی از مدل‌های زبان مدرن است. نویسندگان با موفقیت نشان دادند که می‌توان بازنمایی‌های انتزاعی و پیچیده مدل BERT را به یک فضای معنایی انسانی و قابل تفسیر نگاشت کرد. این دستاورد نه تنها امکان درک بهتر تفاوت‌های معنایی کلمات در زمینه‌های مختلف را فراهم می‌کند، بلکه دیدگاه‌های جدیدی در مورد چگونگی سازماندهی و پردازش اطلاعات معنایی در لایه‌های مختلف این معماری‌های عمیق ارائه می‌دهد.

این پژوهش مسیری را برای ساختن سیستم‌های هوش مصنوعی شفاف‌تر، قابل اعتمادتر و همسوتر با درک انسانی از زبان هموار می‌کند. با ادامه این نوع تحقیقات، می‌توان امیدوار بود که در آینده، جعبه‌های سیاه امروزی به ابزارهای شفاف و قابل تفسیری تبدیل شوند که به ما در درک عمیق‌تر زبان و شناخت کمک می‌کنند.