۱. معرفی مقاله و اهمیت آن

در دهه‌های اخیر، هوش مصنوعی (AI)، به ویژه شبکه‌های عصبی عمیق، تحولات عظیمی را در حوزه‌های مختلف به ارمغان آورده است. کاربرد این فناوری‌ها در پزشکی و تصمیم‌گیری‌های بالینی، پتانسیل زیادی برای بهبود کیفیت مراقبت‌های بهداشتی، افزایش کارایی و نجات جان بیماران دارد. با این حال، ماهیت “جعبه سیاه” بسیاری از مدل‌های هوش مصنوعی، به ویژه مدل‌های پیچیده شبکه‌های عصبی، چالش‌های جدی را در پذیرش و استفاده از آن‌ها در محیط‌های بالینی مطرح می‌کند. در شرایطی که خطاهای سیستم می‌تواند عواقب جبران‌ناپذیری برای بیماران داشته باشد، قابلیت تفسیرپذیری و شفافیت عملکرد مدل‌های هوش مصنوعی، نه تنها یک ویژگی مطلوب بلکه یک ضرورت اخلاقی و عملی محسوب می‌شود.

مقاله حاضر با عنوان “تولید استدلال برای پشتیبانی از تصمیم‌گیری بالینی” به این نیاز حیاتی می‌پردازد. هدف اصلی این پژوهش، استخراج توضیحات قابل تفسیر از خروجی مدل‌های هوش مصنوعی است که در پیش‌بینی‌های بالینی به کار گرفته می‌شوند. به طور خاص، این مقاله بر روی مسئله پیش‌بینی احتمال بستری مجدد بیماران در بیمارستان در آینده نزدیک تمرکز دارد؛ وظیفه‌ای که از اهمیت بالینی فراوانی برای مدیریت منابع بیمارستانی و اولویت‌بندی بیماران (ترياژ) برخوردار است. با گسترش روزافزون استفاده از پرونده‌های سلامت الکترونیکی (EHRs) و حجم وسیع داده‌های متنی آزاد موجود در آن‌ها، استفاده از پردازش زبان طبیعی (NLP) برای تحلیل این متون، اهمیت ویژه‌ای یافته است.

این پژوهش نه تنها به پیشرفت در حوزه هوش مصنوعی تفسیری (Explainable AI – XAI) کمک می‌کند، بلکه راهکارهای عملی برای افزایش اعتماد پزشکان و متخصصان سلامت به سیستم‌های مبتنی بر هوش مصنوعی ارائه می‌دهد. قابلیت فهم دلایل یک پیش‌بینی، به پزشکان اجازه می‌دهد تا توصیه‌های سیستم را تأیید، رد یا تعدیل کنند و در نهایت، کیفیت تصمیم‌گیری‌های بالینی را ارتقا بخشند. اهمیت این تحقیق در توانایی آن برای پر کردن شکاف میان قدرت پیش‌بینی‌کنندگی بالای مدل‌های پیچیده و نیاز مبرم به شفافیت و اعتماد در حیاتی‌ترین زمینه کاربردی یعنی سلامت انسان، نهفته است.

۲. نویسندگان و زمینه تحقیق

این مقاله توسط تیمی متشکل از شش پژوهشگر برجسته به نام‌های Niall Taylor, Lei Sha, Dan W Joyce, Thomas Lukasiewicz, Alejo Nevado-Holgado, و Andrey Kormilitzin به رشته تحریر درآمده است. این ترکیب از نویسندگان، نشان‌دهنده یک رویکرد میان‌رشته‌ای است که تخصص در زمینه‌های هوش مصنوعی، پردازش زبان طبیعی، یادگیری ماشین و انفورماتیک بالینی را گرد هم می‌آورد. این تخصص‌های متنوع برای پرداختن به چالش‌های پیچیده در تقاطع هوش مصنوعی و پزشکی ضروری است، جایی که درک عمیق از هم داده‌های بالینی و هم فنون پیشرفته یادگیری ماشین لازم است.

زمینه تحقیق اصلی این مقاله در قلب حوزه هوش مصنوعی تفسیری (XAI) قرار دارد، به ویژه در کاربردهای آن در محیط‌های بالینی. هوش مصنوعی تفسیری شاخه‌ای از هوش مصنوعی است که بر توسعه روش‌ها و الگوریتم‌هایی تمرکز دارد که امکان درک و تفسیر نحوه کارکرد مدل‌های هوش مصنوعی و دلایل تصمیم‌گیری‌های آن‌ها را فراهم می‌آورد. این زمینه به دلیل افزایش استفاده از مدل‌های پیچیده “جعبه سیاه” که قابلیت تفسیر ذاتی ندارند، اهمیت فزاینده‌ای یافته است.

در بستر پزشکی، نیاز به هوش مصنوعی تفسیری دوچندان است. تصمیمات بالینی اغلب پیامدهای قابل توجهی برای سلامت و زندگی بیماران دارند. بنابراین، پزشکان و بیماران باید بتوانند به نتایج حاصل از سیستم‌های هوش مصنوعی اعتماد کنند و دلایل پشت این نتایج را درک نمایند. این پژوهش همچنین در تقاطع پردازش زبان طبیعی (NLP) بالینی و انفورماتیک پزشکی قرار می‌گیرد. با توجه به اینکه بخش قابل توجهی از اطلاعات حیاتی بیمار در یادداشت‌های متنی آزاد (مانند یادداشت‌های ترخیص، سوابق پیشرفت، و خلاصه‌های مشاوره) در پرونده‌های سلامت الکترونیکی (EHRs) ذخیره می‌شود، NLP ابزاری قدرتمند برای استخراج، تحلیل و درک این داده‌ها به شمار می‌رود. هدف این تحقیق، نه تنها استخراج اطلاعات، بلکه ارائه تفسیرهای قابل اعتماد و عملی از پیش‌بینی‌های مدل‌ها بر اساس همین متون بالینی است تا از تصمیم‌گیری‌های هوشمندانه‌تر و مبتنی بر شواهد پشتیبانی کند.

۳. چکیده و خلاصه محتوا

چکیده مقاله به وضوح نیاز مبرم به قابلیت تفسیرپذیری، شفافیت و عملکرد بالا را در توسعه شبکه‌های عصبی برای هوش مصنوعی بالینی برجسته می‌کند. همانطور که پیشتر اشاره شد، نفوذ به درون معماری “جعبه سیاه” شبکه‌های عصبی و استخراج توضیحات قابل تفسیر از خروجی مدل، از اهمیت بالایی برخوردار است. این نیاز به ویژه در وظایف بالینی حیاتی، مانند پیش‌بینی احتمال بستری مجدد بیمار در بیمارستان در آینده نزدیک جهت تسهیل مدیریت کارآمد منابع و ترياژ، دوچندان می‌شود.

با پذیرش فزاینده پرونده‌های سلامت الکترونیکی (EHRs) در سیستم‌های بهداشتی، علاقه‌مندی زیادی به کاربردهای پردازش زبان طبیعی (NLP) بر روی متون آزاد بالینی موجود در این پرونده‌ها وجود دارد. این متون حاوی اطلاعات غنی و حیاتی هستند که می‌توانند در پیش‌بینی‌ها و تصمیم‌گیری‌های بالینی مورد استفاده قرار گیرند. در این پژوهش، محققان مدل InfoCal را به کار گرفته‌اند. اینفوکال یک مدل پیشرفته است که برای پیش‌بینی‌های خود، استدلال‌های استخراجی (extractive rationales) تولید می‌کند؛ به این معنی که مدل، بخش‌هایی از متن ورودی را که برای تصمیم‌گیری‌اش حیاتی بوده‌اند، مستقیماً از متن استخراج و برجسته می‌کند.

مدل اینفوکال در وظیفه پیش‌بینی بستری مجدد بیمار با استفاده از یادداشت‌های ترخیص بیمارستان (که نوعی متن آزاد بالینی است) به کار گرفته شده است. برای ارزیابی کارایی این روش، نتایج استدلال‌های استخراجی تولید شده توسط اینفوکال با مدل‌های مبتنی بر ترانسفورمر رقابتی مقایسه شده‌اند. این مدل‌های ترانسفورمر بر روی داده‌های متنی بالینی پیش‌آموزش دیده‌اند و از مکانیسم توجه (attention mechanism) آن‌ها می‌توان برای تفسیر عملکرد مدل استفاده کرد. مکانیسم توجه در مدل‌های ترانسفورمر نشان می‌دهد که مدل در هنگام پردازش، بر کدام بخش‌های ورودی بیشتر “توجه” می‌کند و این می‌تواند سرنخی برای درک تصمیم‌گیری مدل باشد.

خلاصه یافته‌های کلیدی نشان می‌دهد که هر یک از مدل‌های مورد بررسی با روش‌های مختلف تفسیرپذیری یا اهمیت ویژگی (feature importance)، نتایج متفاوتی را ارائه می‌دهند. نکته حائز اهمیت این است که تخصص در حوزه زبان بالینی و مرحله پیش‌آموزش (pretraining) مدل، در دستیابی به عملکرد بالا و به تبع آن، قابلیت تفسیرپذیری رضایت‌بخش، نقشی حیاتی و تعیین‌کننده ایفا می‌کنند. این یافته بر ضرورت استفاده از داده‌ها و دانش تخصصی حوزه برای توسعه سیستم‌های هوش مصنوعی کارآمد و قابل اعتماد در پزشکی تأکید می‌کند.

۴. روش‌شناسی تحقیق

روش‌شناسی این تحقیق بر پایه دو محور اصلی استوار است: اول، استفاده از یک مدل پیشرفته برای تولید استدلال‌های قابل تفسیر و دوم، مقایسه این روش با رویکردهای تفسیری دیگر مبتنی بر مدل‌های قدرتمند یادگیری عمیق. داده‌های مورد استفاده برای این پژوهش، یادداشت‌های ترخیص بیمارستان بوده‌اند که شامل متون آزاد بالینی هستند. این یادداشت‌ها اطلاعات جامع و مهمی در مورد وضعیت بیمار، تشخیص‌ها، روند درمان، داروها و توصیه‌های پس از ترخیص ارائه می‌دهند و منبع ارزشمندی برای پیش‌بینی‌های بالینی به شمار می‌روند.

الف. مدل اینفوکال (InfoCal)

• هدف: اینفوکال یک مدل پیشرفته (state-of-the-art) در تولید استدلال‌های استخراجی است. استدلال استخراجی به معنای برجسته‌سازی مستقیم بخش‌هایی از متن ورودی است که مدل بر اساس آن‌ها به پیش‌بینی خود رسیده است. به عنوان مثال، اگر مدل پیش‌بینی کند که بیماری احتمالاً مجدداً بستری خواهد شد، اینفوکال ممکن است جملاتی مانند “عدم رعایت دقیق رژیم دارویی” یا “نیاز به مراقبت خانگی بیشتر” را در یادداشت ترخیص برجسته کند.
• مکانیزم: این مدل با شناسایی و استخراج زیرمجموعه‌ای از کلمات یا جملات از متن اصلی که به طور معناداری بر تصمیم مدل تأثیر می‌گذارند، به دنبال ایجاد شفافیت است. این فرایند به کاربران بالینی اجازه می‌دهد تا نه تنها نتیجه پیش‌بینی (مثلاً “خطر بالای بستری مجدد”) را مشاهده کنند، بلکه دلایل متنی پشت آن را نیز درک کنند.
• کاربرد در این پژوهش: اینفوکال برای پیش‌بینی احتمال بستری مجدد بیماران بر اساس محتوای متنی یادداشت‌های ترخیص بیمارستان آموزش داده شده و مورد ارزیابی قرار گرفته است.

ب. مدل‌های مبتنی بر ترانسفورمر و مکانیسم توجه

• مدل‌های رقیب: محققان نتایج اینفوکال را با عملکرد مدل‌های مبتنی بر ترانسفورمر (Transformer-based models) مقایسه کرده‌اند. مدل‌های ترانسفورمر، مانند BERT یا RoBERTa، در سال‌های اخیر انقلابی در پردازش زبان طبیعی ایجاد کرده‌اند و در بسیاری از وظایف به بهترین عملکرد دست یافته‌اند.
• پیش‌آموزش بر روی متون بالینی: نکته مهم این است که این مدل‌های ترانسفورمر بر روی حجم عظیمی از داده‌های متنی بالینی پیش‌آموزش دیده‌اند. این پیش‌آموزش دامنه-خاص (domain-specific pretraining)، به مدل‌ها کمک می‌کند تا ظرافت‌ها و اصطلاحات خاص زبان پزشکی را بهتر درک کنند که برای دقت و تفسیرپذیری در محیط بالینی حیاتی است.
• مکانیسم توجه برای تفسیر: در مدل‌های ترانسفورمر، مکانیسم توجه یک روش رایج برای استخراج بینش‌های تفسیری است. این مکانیسم نشان می‌دهد که مدل در هنگام پردازش یک کلمه یا عبارت، به کدام بخش‌های دیگر متن ورودی “توجه” بیشتری می‌کند. وزن‌های توجه (attention weights) می‌توانند به عنوان شاخصی از اهمیت کلمات یا بخش‌های متن برای تصمیم نهایی مدل تلقی شوند و بدین ترتیب، توضیحی برای خروجی مدل ارائه دهند.

ج. مقایسه و ارزیابی

مقایسه بین استدلال‌های استخراجی اینفوکال و بینش‌های حاصل از مکانیسم توجه مدل‌های ترانسفورمر، به محققان امکان می‌دهد تا نقاط قوت و ضعف هر رویکرد را در زمینه تولید استدلال برای تصمیم‌گیری‌های بالینی ارزیابی کنند. هدف نهایی، درک این است که کدام روش در ارائه توضیحات معتبرتر، قابل اعتمادتر و مفیدتر برای متخصصان بالینی موفق‌تر است، و چه عواملی (مانند تخصص در حوزه زبان بالینی و پیش‌آموزش) بر این قابلیت تفسیرپذیری تأثیر می‌گذارند.

۵. یافته‌های کلیدی

نتایج این پژوهش بینش‌های مهمی را در مورد چالش‌ها و عوامل مؤثر بر قابلیت تفسیرپذیری در هوش مصنوعی بالینی ارائه می‌دهد. یافته‌های اصلی را می‌توان در چندین محور خلاصه کرد:

• تفاوت در نتایج تفسیری: مطالعه نشان داد که هر یک از مدل‌های مورد بررسی، هنگامی که با روش‌های انتخابی تفسیرپذیری یا اهمیت ویژگی ترکیب می‌شوند، نتایج تفسیری متفاوتی را تولید می‌کنند. این بدان معناست که هیچ رویکرد واحدی برای تولید استدلال‌های تفسیری وجود ندارد که در همه مدل‌ها و زمینه‌ها به طور یکسان عمل کند. برای مثال، ممکن است اینفوکال با برجسته‌سازی مستقیم متن، توضیحات ملموس‌تری ارائه دهد، در حالی که مکانیسم توجه در ترانسفورمرها، روابط پنهان‌تری بین کلمات را آشکار کند که نیاز به تحلیل عمیق‌تر دارد. این تفاوت‌ها حاکی از آن است که انتخاب روش تفسیرپذیری باید با دقت و متناسب با مدل و کاربرد بالینی مورد نظر انجام شود.
• نقش حیاتی تخصص در حوزه زبان بالینی: یکی از مهم‌ترین و قاطع‌ترین یافته‌ها این بود که تخصص در حوزه زبان بالینی، یک عامل حیاتی برای عملکرد مدل و قابلیت تفسیرپذیری متعاقب آن است. این بدان معناست که مدل‌هایی که قادر به درک دقیق اصطلاحات پزشکی، جمله‌بندی‌های خاص بالینی و بافتار اطلاعات سلامت هستند، نه تنها پیش‌بینی‌های دقیق‌تری ارائه می‌دهند، بلکه استدلال‌های معنادارتر و قابل فهم‌تری نیز تولید می‌کنند. بدون این تخصص دامنه، حتی مدل‌های پیشرفته نیز ممکن است استدلال‌هایی را تولید کنند که از نظر بالینی بی‌اهمیت یا گمراه‌کننده باشند.
• اهمیت پیش‌آموزش (Pretraining): همچنین مشخص شد که پیش‌آموزش مدل‌ها بر روی حجم وسیعی از داده‌های متنی بالینی برای دستیابی به عملکرد بالا و قابلیت تفسیرپذیری قابل قبول، ضروری است. مدل‌هایی که بر روی داده‌های عمومی زبان (مانند متن وب) آموزش دیده‌اند، به دلیل تفاوت‌های واژگانی، گرامری و مفهومی، در پردازش متون بالینی کارایی لازم را ندارند. پیش‌آموزش با داده‌های بالینی، به مدل کمک می‌کند تا ساختار و معنای نهفته در زبان پزشکی را فرا گیرد و در نتیجه، قادر به استخراج ویژگی‌های مرتبط و ارائه استدلال‌های دقیق‌تری باشد.
• تأثیر بر قابلیت اعتماد: این یافته‌ها به طور ضمنی نشان می‌دهند که قابلیت تفسیرپذیری بدون تخصص دامنه و پیش‌آموزش مناسب، می‌تواند منجر به کاهش اعتماد پزشکان به سیستم‌های هوش مصنوعی شود. اگر یک سیستم هوش مصنوعی پیش‌بینی‌های درستی انجام دهد اما نتواند دلایل منطقی و بالینی معتبری برای آن ارائه دهد، یا دلایل آن نامربوط باشد، احتمال استفاده عملی از آن در محیط‌های حساس بالینی بسیار پایین خواهد بود.

به طور خلاصه، این تحقیق تأکید می‌کند که دستیابی به هوش مصنوعی بالینی قابل اعتماد و کاربردی، فراتر از صرفاً بهینه‌سازی عملکرد پیش‌بینی است. این امر مستلزم توجه دقیق به چگونگی درک مدل‌ها از زبان بالینی و توانایی آن‌ها در ارائه توضیحات شفاف و معنادار است که تنها از طریق ترکیب تخصص دامنه و تکنیک‌های پیشرفته پیش‌آموزش میسر می‌شود.

۶. کاربردها و دستاوردها

این پژوهش، با تأکید بر تولید استدلال‌های قابل تفسیر در هوش مصنوعی بالینی، دستاوردها و کاربردهای عملی متعددی را در حوزه سلامت به همراه دارد که می‌تواند به طور قابل توجهی بر کیفیت مراقبت و مدیریت بیمار تأثیر بگذارد:

الف. پشتیبانی از تصمیم‌گیری بالینی با افزایش اعتماد

• ترياژ کارآمد: یکی از کاربردهای مستقیم این تحقیق، بهبود ترياژ (اولویت‌بندی) بیماران است. با پیش‌بینی دقیق احتمال بستری مجدد و ارائه دلایل متنی برای این پیش‌بینی، کادر درمانی می‌توانند بیماران پرخطر را سریع‌تر شناسایی کرده و منابع را به طور مؤثرتری تخصیص دهند. مثلاً، اگر سیستم بر اساس جمله‌ای مانند “بیمار فاقد حمایت خانگی کافی برای مدیریت بیماری‌های مزمن است” پیش‌بینی بستری مجدد کند، این استدلال می‌تواند منجر به ارائه خدمات مددکاری اجتماعی یا ویزیت‌های خانگی پیشگیرانه شود.
• افزایش اعتماد پزشکان: توانایی مدل‌ها در توضیح منطق تصمیم‌گیری خود به زبانی قابل فهم برای پزشکان، کلید پذیرش و استفاده از هوش مصنوعی در بالین است. هنگامی که پزشک می‌تواند ببیند چرا یک مدل به نتیجه خاصی رسیده است (مثلاً، برجسته‌سازی نارسایی قلبی کنترل‌نشده در یادداشت ترخیص)، احتمال بیشتری دارد که به توصیه مدل اعتماد کرده و آن را در تصمیم‌گیری خود لحاظ کند. این شفافیت، مدل‌های هوش مصنوعی را از “جعبه سیاه” به ابزارهای کمک‌کننده و قابل اعتماد تبدیل می‌کند.

ب. بهبود کیفیت مراقبت و کاهش خطاهای پزشکی

• شناسایی عوامل خطر پنهان: استدلال‌های استخراجی می‌توانند به شناسایی عوامل خطری که ممکن است از دید پزشکان پنهان مانده باشند، کمک کنند. با برجسته‌سازی عبارات کلیدی در یادداشت‌های طولانی، مدل می‌تواند توجه پزشک را به جزئیات مهمی جلب کند که ممکن است بر پیش‌بینی تأثیرگذار باشند اما به سادگی قابل مشاهده نیستند.
• بهبود مستندسازی بالینی: با درک اینکه کدام بخش‌ها از یادداشت‌های بالینی برای پیش‌بینی‌های مدل حیاتی هستند، می‌توان به متخصصان سلامت در زمینه بهبود کیفیت و کامل بودن مستندسازی کمک کرد. این امر می‌تواند منجر به ثبت اطلاعات مرتبط‌تر و سازگارتر شود که در نهایت به نفع هم هوش مصنوعی و هم مراقبت از بیمار است.

ج. دستاوردهای پژوهشی و مسیرهای آتی

• تأیید اهمیت تخصص دامنه: این تحقیق به وضوح نشان داد که صرفاً داشتن یک مدل قدرتمند کافی نیست؛ بلکه تخصص در حوزه زبان بالینی و پیش‌آموزش اختصاصی برای دستیابی به نتایج قابل تفسیر و عملی حیاتی است. این دستاورد یک درس مهم برای توسعه‌دهندگان سیستم‌های هوش مصنوعی در پزشکی است.
• مدل‌های هیبریدی: این پژوهش راه را برای توسعه مدل‌های هیبریدی هموار می‌کند که نه تنها عملکرد پیش‌بینی‌کنندگی بالایی دارند، بلکه قابلیت‌های تفسیرپذیری قوی نیز از خود نشان می‌دهند. ترکیب نقاط قوت اینفوکال (استخراج مستقیم استدلال) با قدرت مدل‌های ترانسفورمر (درک عمیق زبان) می‌تواند نسل بعدی سیستم‌های هوش مصنوعی بالینی را شکل دهد.
• تعمیم به سایر وظایف بالینی: اصول و روش‌های مطرح شده در این مقاله، می‌توانند به سایر وظایف بالینی که نیازمند تفسیرپذیری هستند، مانند تشخیص بیماری، پیش‌بینی پاسخ به درمان، یا غربالگری بیماران، تعمیم یابند و بدین ترتیب، تأثیر گسترده‌ای بر بخش سلامت داشته باشند.

به طور خلاصه، دستاوردهای این پژوهش فراتر از یک مقاله علمی صرف است؛ این تحقیق به ما نشان می‌دهد که چگونه می‌توان هوش مصنوعی را به ابزاری قدرتمند و در عین حال قابل اعتماد برای حمایت از پزشکان در پیچیده‌ترین و حساس‌ترین تصمیم‌گیری‌ها تبدیل کرد.

۷. نتیجه‌گیری

مقاله “تولید استدلال برای پشتیبانی از تصمیم‌گیری بالینی” یک گام مهم و رو به جلو در مسیر ادغام هوش مصنوعی در محیط‌های مراقبت‌های بهداشتی است. این پژوهش به طور مؤثر به چالش کلیدی شفافیت و قابلیت تفسیرپذیری در مدل‌های پیچیده یادگیری عمیق می‌پردازد، خصوصاً در وظایف حیاتی مانند پیش‌بینی بستری مجدد بیمار در بیمارستان. با توجه به پیامدهای سنگین تصمیم‌گیری‌های بالینی، صرف عملکرد بالا برای پذیرش هوش مصنوعی کافی نیست؛ بلکه توانایی سیستم در توضیح “چرایی” پیش‌بینی‌هایش، عاملی تعیین‌کننده است.

یافته‌های کلیدی این مقاله تأکید می‌کند که برای دستیابی به قابلیت تفسیرپذیری مؤثر، صرفاً به‌کارگیری الگوریتم‌های پیشرفته کافی نیست. تخصص عمیق در حوزه زبان بالینی و پیش‌آموزش مدل‌ها بر روی داده‌های اختصاصی پزشکی، دو رکن اساسی هستند که نه تنها عملکرد مدل را بهبود می‌بخشند، بلکه کیفیت و اعتبار استدلال‌های تولیدی را نیز تضمین می‌کنند. مدل InfoCal با رویکرد استدلال‌های استخراجی خود، و مقایسه آن با مکانیسم توجه در مدل‌های ترانسفورمر پیش‌آموزش‌دیده بالینی، نشان داد که رویکردهای مختلف می‌توانند بینش‌های متفاوتی ارائه دهند و انتخاب صحیح وابسته به بافتار و نیازهای بالینی است.

کاربردهای این تحقیق گسترده و حائز اهمیت هستند. از بهبود ترياژ بیماران و مدیریت منابع گرفته تا افزایش اعتماد پزشکان به سیستم‌های هوش مصنوعی و کاهش خطاهای پزشکی، تولید استدلال‌های قابل تفسیر می‌تواند به طور مستقیم به ارتقاء کیفیت مراقبت‌های بهداشتی کمک کند. توانایی مشاهده مستندات متنی که مدل بر اساس آن‌ها به یک پیش‌بینی رسیده است، به پزشکان این امکان را می‌دهد که ارزیابی‌های خود را با نتایج هوش مصنوعی ترکیب کرده و تصمیمات جامع‌تر و مطمئن‌تری اتخاذ کنند.

در نهایت، این پژوهش راه را برای تحقیقات آتی در چندین جبهه هموار می‌کند. از جمله این موارد می‌توان به توسعه روش‌های تفسیری هیبریدی که از نقاط قوت رویکردهای مختلف بهره می‌برند، بررسی کاربرد این تکنیک‌ها در سایر وظایف بالینی (مانند تشخیص زودهنگام بیماری‌ها یا پیش‌بینی پاسخ به درمان)، و اعتبارسنجی بالینی گسترده‌تر این سیستم‌ها در محیط‌های واقعی اشاره کرد. آینده هوش مصنوعی در پزشکی به شدت به توانایی ما در ساخت سیستم‌هایی بستگی دارد که نه تنها هوشمند هستند، بلکه قابل اعتماد، شفاف و قابل فهم نیز باشند. این مقاله گامی محکم در جهت تحقق این چشم‌انداز است.