در سال‌های اخیر، مدل‌های هوش مصنوعی، به‌ویژه مدل‌های زبانی بزرگ (LLM)، به بخش جدایی‌ناپذیری از فناوری‌های مدرن تبدیل شده‌اند. این مدل‌ها قادر به انجام وظایف پیچیده‌ای مانند ترجمه، خلاصه‌سازی متن و پاسخ به پرسش‌ها هستند. اما یک چالش بزرگ همواره وجود داشته است: چگونه این مدل‌های پیچیده که اغلب به عنوان «جعبه سیاه» (Black-box) شناخته می‌شوند، تصمیم‌گیری می‌کنند؟ چرا یک مدل، ایمیلی را به عنوان هرزنامه علامت‌گذاری می‌کند یا یک نقد فیلم را مثبت ارزیابی می‌کند؟

اینجاست که حوزه «هوش مصنوعی قابل توضیح» (Explainable AI – XAI) اهمیت پیدا می‌کند. هدف XAI، شفاف‌سازی فرآیند تصمیم‌گیری مدل‌های هوش مصنوعی است. یکی از مسائل کلیدی در این حوزه، «مسئله حذف حداقل ویژگی» (Minimal Feature Removal Problem) است. در این مسئله، هدف یافتن کوچکترین مجموعه از کلمات (ویژگی‌ها) در یک متن ورودی است که با حذف آن‌ها، پیش‌بینی مدل تغییر کند. برای مثال، در یک نقد فیلم منفی، کدام کلمات کلیدی با حذف شدن، نظر مدل را به «مثبت» تغییر می‌دهند؟ پاسخ به این سوال، درک عمیقی از منطق درونی مدل به ما می‌دهد.

مقاله «CIDR: روش پالایش دینامیک یکپارچه مشارکتی برای مسئله حذف حداقل ویژگی»، یک رویکرد نوین و قدرتمند برای حل این مسئله، به ویژه در حوزه پردازش زبان طبیعی (NLP)، ارائه می‌دهد و به عنوان یکی از اولین تلاش‌های جامع در این زمینه، از اهمیت بالایی برخوردار است.

این مقاله حاصل تلاش گروهی از پژوهشگران برجسته در زمینه هوش مصنوعی، شامل Qian Chen، Taolin Zhang، Dongyang Li و Xiaofeng He است. زمینه اصلی تحقیق آن‌ها بر «توضیحات پس از وقوع» (Post-hoc Explanation) متمرکز است. این شاخه از XAI به دنبال توسعه روش‌هایی است که بتوانند تصمیمات مدل‌های پیچیده و از قبل آموزش‌دیده را برای انسان‌ها قابل فهم کنند. با توجه به پیچیدگی روزافزون مدل‌هایی مانند BERT و GPT، نیاز به چنین روش‌هایی بیش از هر زمان دیگری احساس می‌شود.

مقاله، روشی نوین به نام CIDR (Cooperative Integrated Dynamic Refining) را معرفی می‌کند که برای کشف کارآمد «مجموعه‌های ویژگی حداقلی» (Minimal Feature Sets – MFS) طراحی شده است. نویسندگان استدلال می‌کنند که روش‌های پیشین، که عمدتاً بر پایه الگوریتم‌های حریصانه (Greedy Algorithms) بودند، دو نقص اساسی داشتند:

• آن‌ها تعاملات پیچیده و غیرخطی بین ویژگی‌ها (کلمات) را نادیده می‌گرفتند.
• آن‌ها بر «فرض یکنواختی» (Monotonic Assumption) تکیه داشتند که در مدل‌های مدرن و سناریوهای واقعی، اغلب صادق نیست. این فرض می‌گوید که حذف یک ویژگی همیشه تأثیری یک‌جهت و قابل پیش‌بینی بر خروجی دارد.

برای غلبه بر این محدودیت‌ها، CIDR یک رویکرد چندمرحله‌ای و هوشمندانه را پیشنهاد می‌کند. ابتدا با استفاده از مؤلفه‌ای به نام «گرادیان‌های یکپارچه مشارکتی» (Cooperative Integrated Gradients – CIG)، تعاملات بین کلمات را شناسایی می‌کند. سپس، مسئله پیچیده یافتن MFS را به یک «مسئله کوله‌پشتی» (Knapsack Problem) تبدیل می‌کند که یک مسئله بهینه‌سازی شناخته‌شده است. در نهایت، با یک الگوریتم پالایش کمکی، دقیق‌ترین و حداقلی‌ترین مجموعه را از میان کاندیداهای به‌دست‌آمده انتخاب می‌کند. این پژوهش، اولین گام جدی برای حل مسئله حذف حداقل ویژگی در حوزه پردازش زبان طبیعی است.

روش CIDR از سه جزء اصلی و نوآورانه تشکیل شده است که با همکاری یکدیگر، محدودیت‌های روش‌های قبلی را برطرف می‌کنند.

الف) گرادیان‌های یکپارچه مشارکتی (CIG)

قلب تپنده CIDR، مؤلفه CIG است. الگوریتم‌های سنتی، اهمیت هر کلمه را به صورت مجزا می‌سنجیدند. اما در زبان، معنا اغلب از ترکیب کلمات حاصل می‌شود. برای مثال، در عبارت «نه چندان خوب»، کلمات «نه» و «خوب» به تنهایی معنای کاملی ندارند، بلکه تعامل آن‌هاست که مفهوم منفی را می‌سازد. CIG دقیقاً برای کشف همین تعاملات طراحی شده است. این الگوریتم، تأثیر *مشارکتی* و *ترکیبی* گروه‌هایی از کلمات را بر تصمیم نهایی مدل اندازه‌گیری می‌کند. این کار به CIDR اجازه می‌دهد تا واحدهای معنایی تأثیرگذار را به جای کلمات منفرد شناسایی کند.

ب) تبدیل به مسئله کوله‌پشتی

پس از آنکه CIG اهمیت و تأثیر تعاملی کلمات و گروه‌های کلمات را محاسبه کرد، CIDR مسئله را به یک مسئله بهینه‌سازی کلاسیک تبدیل می‌کند. تصور کنید یک کوله‌پشتی با ظرفیت مشخص دارید و مجموعه‌ای از اشیاء با وزن و ارزش متفاوت. هدف، پر کردن کوله با باارزش‌ترین اشیاء بدون عبور از حد ظرفیت وزنی است. در این چارچوب:

• اشیاء: کلمات یا گروه‌های کلماتی هستند که توسط CIG شناسایی شده‌اند.
• ارزش هر شیء: میزان تأثیری است که حذف آن کلمه یا گروه بر تغییر پیش‌بینی مدل دارد.
• وزن هر شیء: تعداد کلمات موجود در آن گروه است (که هدف ما حداقل کردن آن است).
• ظرفیت کوله‌پشتی: حداقل میزان تأثیر لازم برای تغییر قطعی تصمیم مدل است.

با حل این مسئله، CIDR به صورت بهینه مجموعه‌هایی از کلمات را پیدا می‌کند که با کمترین تعداد (حداقل وزن)، بیشترین تأثیر را برای تغییر خروجی مدل (حداکثر ارزش) دارند.

ج) الگوریتم پالایش ویژگی حداقلی

خروجی مرحله کوله‌پشتی ممکن است چندین مجموعه کاندید مناسب باشد. برای تضمین دقت، یک الگوریتم پالایش نهایی به کار گرفته می‌شود. این الگوریتم هر مجموعه کاندید را بررسی کرده و اطمینان حاصل می‌کند که واقعاً «حداقلی» است. به عبارت دیگر، بررسی می‌کند که آیا هیچ زیرمجموعه‌ای از آن وجود ندارد که به تنهایی قادر به تغییر تصمیم مدل باشد. این مرحله، کیفیت و صحت توضیح نهایی را تضمین می‌کند.

نویسندگان، کارایی CIDR را از طریق آزمایش‌های گسترده بر روی مجموعه داده‌ها و مدل‌های مختلف NLP (مانند BERT و RoBERTa) ارزیابی کردند. نتایج به دست آمده برتری قابل توجه این روش را نشان می‌دهد:

• تفسیرپذیری برتر: مجموعه‌های ویژگی شناسایی‌شده توسط CIDR از نظر معنایی منسجم‌تر و قابل‌فهم‌تر بودند. به جای کلمات پراکنده، این روش عبارات و گروه‌های معنایی را شناسایی کرد که دلیل اصلی تصمیم مدل را به شکل بهتری روشن می‌ساختند.
• کارایی و فشردگی: CIDR توانست مجموعه‌های ویژگی کوچکتری نسبت به روش‌های حریصانه پیدا کند. این بدان معناست که توضیحات ارائه‌شده توسط آن دقیق‌تر و متمرکزتر بر روی هسته اصلی تأثیرگذار بر مدل است.
• انعطاف‌پذیری و عمومیت: این روش بر روی مدل‌ها و وظایف مختلف (مانند تحلیل احساسات و طبقه‌بندی موضوعی متون) عملکرد پایداری از خود نشان داد که نشان‌دهنده عمومیت‌پذیری بالای آن است.

برای مثال، فرض کنید مدل نقدی با عنوان «بازیگری عالی بود اما داستان فیلم یک آشفتگی کامل بود» را «منفی» طبقه‌بندی می‌کند. یک روش ساده ممکن است فقط کلمه «آشفتگی» را به عنوان دلیل معرفی کند. اما CIDR با درک تعاملات، ممکن است مجموعه {«عالی»، «اما»، «آشفتگی»} را به عنوان مجموعه حداقلی معرفی کند. این توضیح بسیار عمیق‌تر است، زیرا نشان می‌دهد که مدل تضاد ایجاد شده توسط کلمه «اما» بین دو بخش جمله را درک کرده است.

روش CIDR کاربردهای عملی گسترده‌ای در دنیای واقعی دارد:

• اشکال‌زدایی (Debugging) مدل‌ها: توسعه‌دهندگان می‌توانند با استفاده از CIDR بفهمند چرا مدل در موارد خاصی دچار خطا می‌شود و بر این اساس، آن را بهبود بخشند.
• افزایش اعتماد و شفافیت: در حوزه‌های حساسی مانند پزشکی، حقوقی و مالی، ارائه توضیحات شفاف برای تصمیمات هوش مصنوعی حیاتی است. CIDR با فراهم کردن دلایل قابل فهم، به ایجاد اعتماد در کاربران کمک می‌کند.
• شناسایی و کاهش سوگیری (Bias): این روش می‌تواند برای تشخیص اینکه آیا مدل بر اساس ویژگی‌های نامطلوب و سوگیرانه (مانند نژاد، جنسیت یا مذهب) تصمیم‌گیری می‌کند یا خیر، به کار رود.

بزرگترین دستاورد علمی این مقاله، ارائه اولین راه‌حل جامع و مؤثر برای مسئله حذف حداقل ویژگی در حوزه پیچیده پردازش زبان طبیعی است. این کار مسیر را برای تحقیقات آینده در زمینه توسعه مدل‌های زبانی قابل اعتماد و شفاف هموار می‌سازد.

مقاله CIDR یک پیشرفت قابل توجه در حوزه هوش مصنوعی قابل توضیح (XAI) است. با ارائه یک چارچوب هوشمندانه که تعاملات پیچیده میان ویژگی‌ها را مدل کرده و از تکنیک‌های بهینه‌سازی کلاسیک بهره می‌برد، CIDR موفق شده است بر محدودیت‌های جدی روش‌های پیشین غلبه کند. این روش نه تنها به ما ابزاری برای گشودن جعبه سیاه مدل‌های زبانی می‌دهد، بلکه گامی اساسی در جهت ساخت سیستم‌های هوش مصنوعی ایمن‌تر، عادلانه‌تر و قابل اعتمادتر است. CIDR به خوبی نشان می‌دهد که عملکرد بالا و تفسیرپذیری در مدل‌های هوش مصنوعی نه تنها در تضاد با یکدیگر نیستند، بلکه می‌توانند مکمل یکدیگر باشند.