در دنیای امروز، پایگاه‌های دانش نقش حیاتی در مدیریت اطلاعات ایفا می‌کنند. این پایگاه‌ها به کاربردهایی نظیر جستجوی وب، پاسخگویی به سؤالات و پردازش زبان طبیعی قدرت می‌بخشند. علاوه بر این، آن‌ها ستون فقرات سیستم‌های تصمیم‌گیری خودکار، مانند تشخیص پزشکی و اعتبارسنجی، هستند. با توجه به اینکه ذینفعان این تصمیمات می‌خواهند از وضعیت خود آگاه شوند و عادلانه بودن تصمیمات را بررسی کنند، روش‌های متعددی برای تبیین (Explanation) این تصمیمات پیشنهاد شده است. یکی از روش‌های ذاتاً شفاف برای طبقه‌بندی، استفاده از مفاهیم در منطق‌های توصیفی است. با این حال، این مفاهیم می‌توانند طولانی و برای افراد غیر متخصص دشوار باشند، حتی اگر به زبان ساده بیان شوند. اینجاست که اهمیت روش‌های نوین تبیین تصمیمات خودکار مشخص می‌شود.

مقاله حاضر به بررسی روشی برای تبیین توصیفات مفهومی در منطق توصیفی $mathcal{ELH}$ از طریق استدلال پادواقعی (Counterfactual Reasoning) می‌پردازد. استدلال پادواقعی در تلاش است تا به این سوال پاسخ دهد: “برای تغییر طبقه‌بندی، مقادیر ویژگی‌ها را چگونه باید تغییر داد؟” با تمرکز بر حداقل تغییرات ویژگی، توضیحات کوتاه، کاربرپسند و ارائه دهنده یک مسیر اقدام روشن در مورد تغییر در پیش‌بینی هستند. این مقاله با انتقال مفهوم پادواقعی به پایگاه‌های دانش و منطق توصیفی $mathcal{ELH}$، گامی مهم در جهت افزایش شفافیت و قابلیت فهم سیستم‌های تصمیم‌گیری برداشته است.

این مقاله توسط Leonie Nora Sieger، Stefan Heindorf، Yasir Mahmood، Lukas Blübaum و Axel-Cyrille Ngonga Ngomo به رشته تحریر درآمده است. نویسندگان این مقاله در زمینه هوش مصنوعی و یادگیری ماشین متخصص هستند و تحقیقات گسترده‌ای در زمینه پایگاه‌های دانش، منطق‌های توصیفی و تبیین‌پذیری مدل‌های یادگیری ماشین انجام داده‌اند. تخصص این افراد در کنار هم، باعث شده تا مقاله‌ای با رویکردی نوآورانه در زمینه تبیین تصمیمات خودکار ارائه شود.

زمینه تحقیقاتی این مقاله در تقاطع حوزه‌های زیر قرار دارد:

• هوش مصنوعی: استفاده از تکنیک‌های هوش مصنوعی برای درک و تبیین داده‌ها.
• یادگیری ماشین: توسعه مدل‌های یادگیری ماشین که قادر به ارائه توضیحات قابل فهم برای تصمیمات خود باشند.
• منطق‌های توصیفی: استفاده از منطق‌های توصیفی برای نمایش دانش و استدلال در مورد آن.
• تبیین‌پذیری (Explainability): افزایش شفافیت و قابلیت فهم سیستم‌های تصمیم‌گیری خودکار.

چکیده مقاله بر اهمیت پایگاه‌های دانش در کاربردهای مختلف و نیاز به تبیین تصمیمات خودکار تاکید می‌کند. مقاله با معرفی منطق‌های توصیفی به عنوان یک روش شفاف برای طبقه‌بندی آغاز می‌شود و سپس به چالش‌های مرتبط با طولانی و پیچیده بودن این مفاهیم برای افراد غیرمتخصص می‌پردازد. راه حل پیشنهادی مقاله، استفاده از استدلال پادواقعی است که به دنبال یافتن حداقل تغییرات در ویژگی‌ها برای تغییر طبقه‌بندی است.

به طور خلاصه، مقاله به دنبال پاسخ به سوالات زیر است:

• چگونه می‌توان توصیفات مفهومی در منطق $mathcal{ELH}$ را به طور قابل فهم تبیین کرد؟
• چگونه می‌توان با استفاده از استدلال پادواقعی، حداقل تغییرات در ویژگی‌ها را برای تغییر طبقه‌بندی شناسایی کرد؟
• کدام یک از کاندیداهای پادواقعی برای تبیین تصمیمات بهتر هستند؟

مقاله یک روش جدید برای تولید کاندیداهای پادواقعی از مفاهیم در منطق $mathcal{ELH}$ ارائه می‌دهد و سپس بر اساس حداقل تعداد تغییرات ویژگی، آن‌ها را انتخاب می‌کند. در صورت وجود چندین کاندیدا، روشی برای رتبه‌بندی آن‌ها بر اساس احتمال وقوع ترکیبات ویژگی‌ها ارائه می‌شود. در نهایت، روش پیشنهادی از طریق یک نظرسنجی کاربری ارزیابی می‌شود تا مشخص شود کدام کاندیداهای پادواقعی برای تبیین تصمیمات ترجیح داده می‌شوند.

روش‌شناسی تحقیق در این مقاله شامل مراحل زیر است:

1. تولید کاندیداهای پادواقعی: در این مرحله، کاندیداهای پادواقعی از مفاهیم موجود در پایگاه دانش و با استفاده از منطق توصیفی $mathcal{ELH}$ تولید می‌شوند. به عبارت دیگر، تلاش می‌شود تا مجموعه‌ای از تغییرات احتمالی در ویژگی‌ها شناسایی شود که می‌تواند منجر به تغییر طبقه‌بندی شود.
2. انتخاب کاندیداهای پادواقعی: از بین کاندیداهای تولید شده، آن‌هایی انتخاب می‌شوند که نیاز به کمترین تغییرات در ویژگی‌ها دارند. این امر به این دلیل اهمیت دارد که هدف، ارائه توضیحات کوتاه و قابل فهم است. هرچه تعداد تغییرات مورد نیاز کمتر باشد، درک توضیح برای کاربر آسان‌تر خواهد بود.
3. رتبه‌بندی کاندیداهای پادواقعی: در صورتی که چندین کاندیدا با حداقل تغییرات ویژگی وجود داشته باشد، آن‌ها بر اساس احتمال وقوع ترکیبات ویژگی‌ها رتبه‌بندی می‌شوند. این امر به این دلیل اهمیت دارد که برخی از ترکیبات ویژگی‌ها ممکن است در دنیای واقعی نادرتر یا غیرممکن باشند. انتخاب کاندیداهایی که ترکیبات ویژگی‌های محتمل‌تری دارند، باعث می‌شود توضیحات ارائه شده برای کاربر قابل باورتر و معنادارتر باشند.
4. ارزیابی از طریق نظرسنجی کاربری: برای ارزیابی روش پیشنهادی، یک نظرسنجی کاربری انجام می‌شود. در این نظرسنجی، از شرکت‌کنندگان خواسته می‌شود تا کاندیداهای پادواقعی مختلف را برای تبیین تصمیمات مقایسه کنند و مشخص کنند کدام یک را ترجیح می‌دهند. نتایج این نظرسنجی به ارزیابی اثربخشی روش پیشنهادی در ارائه توضیحات قابل فهم و مفید کمک می‌کند.

به عنوان مثال، فرض کنید سیستمی برای تشخیص بیماری‌های قلبی وجود دارد. اگر سیستم تشخیص دهد که فردی مبتلا به بیماری قلبی نیست، اما این فرد می‌خواهد بداند چه تغییراتی باید در سبک زندگی خود ایجاد کند تا خطر ابتلا به بیماری قلبی را کاهش دهد، روش پادواقعی می‌تواند به او کمک کند. این روش می‌تواند پیشنهاد دهد که “اگر فرد سیگار کشیدن را ترک کند و ورزش را به طور منظم شروع کند، احتمال ابتلا به بیماری قلبی در او کاهش می‌یابد.” این توضیح کوتاه، کاربرپسند و ارائه دهنده یک مسیر اقدام روشن است.

یافته‌های کلیدی این مقاله عبارتند از:

• استفاده از استدلال پادواقعی می‌تواند به طور موثری توصیفات مفهومی در منطق $mathcal{ELH}$ را تبیین کند.
• انتخاب کاندیداهای پادواقعی بر اساس حداقل تغییرات ویژگی، منجر به توضیحات کوتاه‌تر و قابل فهم‌تر می‌شود.
• رتبه‌بندی کاندیداهای پادواقعی بر اساس احتمال وقوع ترکیبات ویژگی‌ها، باعث بهبود کیفیت توضیحات ارائه شده می‌شود.
• نتایج نظرسنجی کاربری نشان می‌دهد که شرکت‌کنندگان کاندیداهای پادواقعی را که با کمترین تغییرات ویژگی و ترکیبات ویژگی‌های محتمل‌تر ارائه شده‌اند، برای تبیین تصمیمات ترجیح می‌دهند.

به طور کلی، یافته‌های این مقاله نشان می‌دهند که استدلال پادواقعی یک رویکرد امیدوارکننده برای تبیین تصمیمات خودکار در پایگاه‌های دانش و منطق‌های توصیفی است. این روش می‌تواند به افزایش شفافیت و قابلیت فهم سیستم‌های تصمیم‌گیری کمک کند و به کاربران امکان دهد تا در مورد تصمیماتی که بر زندگی آن‌ها تاثیر می‌گذارند، آگاهانه‌تر تصمیم بگیرند.

کاربردهای این تحقیق بسیار گسترده است و می‌تواند در زمینه‌های مختلفی مورد استفاده قرار گیرد، از جمله:

• تشخیص پزشکی: تبیین دلیل تشخیص یک بیماری و ارائه راهکارهایی برای بهبود وضعیت بیمار.
• اعتبارسنجی: تبیین دلیل رد درخواست وام و ارائه راهکارهایی برای افزایش شانس دریافت وام در آینده.
• سیستم‌های توصیه‌گر: تبیین دلیل پیشنهاد یک محصول یا خدمات خاص و ارائه اطلاعات بیشتر در مورد آن.
• آموزش: تبیین مفاهیم پیچیده و ارائه مثال‌هایی برای درک بهتر آن‌ها.

دستاورد اصلی این مقاله، ارائه یک روش جدید و موثر برای تبیین تصمیمات خودکار است. این روش می‌تواند به افزایش اعتماد کاربران به سیستم‌های تصمیم‌گیری کمک کند و به آن‌ها امکان دهد تا در مورد تصمیماتی که بر زندگی آن‌ها تاثیر می‌گذارند، آگاهانه‌تر تصمیم بگیرند. علاوه بر این، این تحقیق می‌تواند به توسعه مدل‌های یادگیری ماشین با قابلیت تبیین‌پذیری بیشتر کمک کند.

مقاله “تبیین توصیفات مفهومی $mathcal{ELH}$ از طریق استدلال پادواقعی” گامی مهم در جهت افزایش شفافیت و قابلیت فهم سیستم‌های تصمیم‌گیری خودکار برداشته است. این مقاله با ارائه یک روش جدید برای تبیین تصمیمات مبتنی بر منطق‌های توصیفی و استدلال پادواقعی، امکان درک بهتر فرآیند تصمیم‌گیری را برای کاربران فراهم می‌کند. نتایج این تحقیق نشان می‌دهد که استدلال پادواقعی یک رویکرد امیدوارکننده برای تبیین تصمیمات خودکار است و می‌تواند در زمینه‌های مختلفی مورد استفاده قرار گیرد. در نهایت، این مقاله زمینه‌ای را برای تحقیقات بیشتر در زمینه تبیین‌پذیری مدل‌های یادگیری ماشین و توسعه سیستم‌های تصمیم‌گیری با قابلیت اعتماد بیشتر فراهم می‌کند.