همه‌گیری کووید-۱۹ تنها یک بحران بهداشتی جهانی نبود، بلکه با پدیده‌ای دیگر به نام «اینفودمی» (Infodemic) نیز همراه شد؛ سیلی از اطلاعات که بخش بزرگی از آن نادرست، گمراه‌کننده و خطرناک بود. گسترش سریع اخبار جعلی و اطلاعات غلط در شبکه‌های اجتماعی، از درمان‌های خانگی بی‌اثر و خطرناک گرفته تا تئوری‌های توطئه درباره واکسن‌ها، سلامت عمومی را به طور جدی تهدید می‌کرد و تلاش‌های جهانی برای مهار ویروس را تضعیف می‌نمود. در چنین شرایطی، نیاز به ابزارهای هوشمند و خودکار برای شناسایی و مقابله با این حجم از اطلاعات نادرست بیش از هر زمان دیگری احساس می‌شد.

مقاله “مقابله با اینفودمی کووید-۱۹ با مدل‌های پردازش زبان طبیعی تبیین‌پذیر” که توسط جکی ایوب، شی جسی یانگ و فنگ ژو به رشته تحریر درآمده است، پاسخی نوآورانه و کارآمد به این چالش ارائه می‌دهد. اهمیت این پژوهش در دو جنبه کلیدی نهفته است: اول، ارائه یک مدل یادگیری عمیق با دقت بسیار بالا برای تشخیص اخبار جعلی مرتبط با کووید-۱۹. دوم و مهم‌تر از آن، حل یکی از بزرگ‌ترین معضلات سیستم‌های هوش مصنوعی یعنی «مشکل جعبه سیاه». این مقاله با بهره‌گیری از تکنیک‌های هوش مصنوعی تبیین‌پذیر (Explainable AI)، نه‌تنها قادر به تشخیص اطلاعات نادرست است، بلکه می‌تواند دلیل این تشخیص را نیز برای کاربر انسانی به شیوه‌ای قابل فهم توضیح دهد. این ویژگی، اعتماد عمومی به سیستم‌های خودکار را افزایش داده و آن‌ها را به ابزاری قدرتمندتر برای ارتقای سواد رسانه‌ای جامعه تبدیل می‌کند.

این مقاله توسط تیمی از محققان به نام‌های جکی ایوب (Jackie Ayoub)، شی جسی یانگ (X. Jessie Yang) و فنگ ژو (Feng Zhou) نوشته شده است. این پژوهش در حوزه تخصصی «محاسبات و زبان» (Computation and Language) قرار می‌گیرد که یکی از شاخه‌های مهم علوم کامپیوتر و هوش مصنوعی است. این حوزه بر توسعه مدل‌ها و الگوریتم‌هایی تمرکز دارد که به کامپیوترها امکان درک، تفسیر و تولید زبان انسان را می‌دهند. به طور خاص، این تحقیق از تکنیک‌های پیشرفته در پردازش زبان طبیعی (NLP) برای یک کاربرد مهم اجتماعی، یعنی مبارزه با اطلاعات نادرست در حوزه سلامت عمومی، بهره می‌برد.

این پژوهش یک مدل پردازش زبان طبیعی تبیین‌پذیر را برای مقابله با اطلاعات نادرست درباره کووید-۱۹ معرفی می‌کند. محققان با درک خطرات جدی ناشی از اخبار جعلی، سیستمی دو مرحله‌ای طراحی کرده‌اند که هم کارآمدی بالایی در تشخیص دارد و هم شفافیت لازم برای جلب اعتماد عمومی را فراهم می‌کند.

• مرحله اول: تشخیص اطلاعات نادرست: در این مرحله، از یک مدل یادگیری عمیق به نام DistilBERT استفاده شده است. این مدل که نسخه‌ای بهینه‌شده و سبک‌تر از مدل مشهور BERT گوگل است، با کارایی و سرعت بالا می‌تواند متون را تحلیل کرده و ادعاهای درست را از نادرست تفکیک کند. محققان ابتدا یک مجموعه داده شامل ۹۸۴ ادعای راستی‌آزمایی‌شده درباره کووید-۱۹ جمع‌آوری کردند و با استفاده از تکنیک «ترجمه معکوس»، حجم آن را دو برابر کردند تا عملکرد مدل بهبود یابد.
• مرحله دوم: تبیین‌پذیری و افزایش اعتماد: برای اینکه مدل صرفاً یک «جعبه سیاه» نباشد که پاسخی بدون توضیح ارائه می‌دهد، محققان از چارچوب SHAP (Shapley Additive exPlanations) بهره گرفتند. SHAP به مدل این قابلیت را می‌دهد که توضیح دهد کدام کلمات یا عبارات در یک ادعا بیشترین تأثیر را در تصمیم‌گیری آن برای برچسب‌گذاری به عنوان «درست» یا «نادرست» داشته‌اند.

در نهایت، پژوهشگران با انجام یک آزمایش انسانی، تأثیر این تبیین‌پذیری را بر اعتماد کاربران سنجیدند. نتایج نشان داد که وقتی دلایل تصمیم‌گیری مدل (توضیحات SHAP) به کاربران ارائه می‌شود، اعتماد آن‌ها به سیستم به شکل چشمگیری افزایش می‌یابد و تمایل بیشتری برای پذیرش و اشتراک‌گذاری اطلاعات صحیح از خود نشان می‌دهند.

روش‌شناسی این تحقیق بر چهار ستون اصلی استوار است:

۱. جمع‌آوری و آماده‌سازی داده‌ها:

پایه و اساس هر مدل یادگیری ماشین، داده‌های باکیفیت است. محققان در گام نخست، مجموعه‌ای از ۹۸۴ ادعای متنی مرتبط با کووید-۱۹ را از منابع معتبر راستی‌آزمایی جمع‌آوری کردند. با این حال، این حجم از داده برای آموزش یک مدل یادگیری عمیق قدرتمند کافی نبود. برای حل این مشکل، آن‌ها از یک تکنیک هوشمندانه به نام «افزایش داده با ترجمه معکوس» (Back-translation Data Augmentation) استفاده کردند. در این روش، جملات انگلیسی ابتدا به یک زبان دیگر (مثلاً آلمانی) و سپس مجدداً به انگلیسی ترجمه می‌شوند. این فرآیند باعث ایجاد جملات جدیدی با ساختار و کلمات کمی متفاوت اما با همان معنای اصلی می‌شود و به این ترتیب، حجم مجموعه داده دو برابر شد. این کار به مدل کمک می‌کند تا مفاهیم را بهتر یاد بگیرد و در مقابل تنوع زبانی مقاوم‌تر شود.

۲. مدل تشخیص اطلاعات نادرست (DistilBERT):

قلب تپنده سیستم تشخیص، مدل DistilBERT است. این مدل بر پایه معماری ترنسفورمرها (Transformers) ساخته شده که انقلابی در پردازش زبان طبیعی ایجاد کرده است. DistilBERT نسخه‌ای «تقطیرشده» یا فشرده از مدل عظیم BERT است. این بهینه‌سازی باعث می‌شود مدل ضمن حفظ بخش بزرگی از دقت و قدرت تحلیلی نسخه اصلی، بسیار سریع‌تر و سبک‌تر باشد و منابع محاسباتی کمتری نیاز داشته باشد. این ویژگی آن را برای استفاده در کاربردهای واقعی و مقیاس‌پذیر ایده‌آل می‌سازد. مدل با استفاده از مجموعه داده آماده‌شده آموزش داده شد تا بتواند الگوهای زبانی مرتبط با اخبار جعلی و واقعی را شناسایی کند.

۳. تبیین‌پذیری مدل با استفاده از SHAP:

برای عبور از محدودیت «جعبه سیاه» بودن مدل، محققان از چارچوب SHAP استفاده کردند. SHAP یک روش مبتنی بر نظریه بازی‌ها است که به هر ویژگی (در اینجا، هر کلمه در متن) یک مقدار اهمیت اختصاص می‌دهد. این مقدار نشان می‌دهد که آن کلمه چقدر در سوق دادن تصمیم نهایی مدل به سمت یک خروجی خاص (مثلاً «خبر نادرست») نقش داشته است. برای مثال، اگر مدل یک ادعا را به عنوان جعلی تشخیص دهد، SHAP می‌تواند نشان دهد که کلماتی مانند «اثبات شده»، «درمان قطعی» یا «پنهان‌کاری دولت» بیشترین تأثیر منفی را در این تصمیم‌گیری داشته‌اند. این توضیحات بصری به کاربر کمک می‌کند تا منطق پشت تصمیم هوش مصنوعی را درک کند.

۴. آزمایش ارزیابی اعتماد عمومی:

برای سنجش اثربخشی تبیین‌پذیری، یک آزمایش کنترل‌شده با مشارکت‌کنندگان انسانی طراحی شد. شرکت‌کنندگان به سه گروه تقسیم شدند:

• گروه اول (T – فقط متن): فقط ادعای مربوط به کووید-۱۹ را مشاهده می‌کردند.
• گروه دوم (TSE – متن + توضیح SHAP): علاوه بر ادعا، توضیحات بصری SHAP را نیز می‌دیدند که کلمات کلیدی تأثیرگذار را هایلایت کرده بود.
• گروه سوم (TSESE – متن + توضیح SHAP + منبع و شواهد): علاوه بر ادعا و توضیح SHAP، منبع راستی‌آزمایی و شواهد مربوط به آن را نیز دریافت می‌کردند.

سپس از شرکت‌کنندگان خواسته شد تا میزان اعتماد خود به اطلاعات و تمایلشان برای به اشتراک گذاشتن آن را ارزیابی کنند. هدف این بود که مشخص شود آیا ارائه توضیحات مدل، تأثیری معنادار بر نگرش و رفتار کاربران دارد یا خیر.

نتایج این پژوهش هم از نظر فنی و هم از نظر علوم رفتاری بسیار قابل توجه است.

عملکرد فنی مدل:

مدل DistilBERT عملکردی فوق‌العاده در تشخیص اطلاعات نادرست از خود نشان داد و از مدل‌های سنتی یادگیری ماشین بهتر عمل کرد. معیارهای کلیدی عملکرد عبارت بودند از:

• روی مجموعه داده اختصاصی محققان: دقت (Accuracy) برابر با ۰.۹۷۲ و امتیاز AUC (سطح زیر نمودار ROC) برابر با ۰.۹۹۳.
• روی مجموعه داده بزرگ‌تر و استاندارد چالش AAAI2021: دقت برابر با ۰.۹۳۸ و امتیاز AUC برابر با ۰.۹۸۵.

این اعداد نشان‌دهنده توانایی بالای مدل در تفکیک صحیح و قابل اعتماد ادعاهای درست از نادرست است.

نتایج آزمایش اعتماد عمومی:

مهم‌ترین یافته این پژوهش، تأثیر شگرف تبیین‌پذیری بر کاربران بود. نتایج آزمایش انسانی نشان داد که شرکت‌کنندگان در دو گروهی که توضیحات SHAP را دریافت کرده بودند (گروه‌های TSE و TSESE)، به طور معناداری بیشتر از گروهی که فقط متن را دیده بودند، به صحت اطلاعات ارائه‌شده اعتماد کردند. همچنین، تمایل آن‌ها برای به اشتراک‌گذاری اطلاعات صحیح (و عدم اشتراک‌گذاری اطلاعات نادرست) به شکل چشمگیری افزایش یافت. این یافته ثابت می‌کند که شفاف‌سازی فرآیند تصمیم‌گیری هوش مصنوعی، یک عامل کلیدی در جلب اعتماد عمومی و افزایش تأثیرگذاری این سیستم‌ها در دنیای واقعی است.

این تحقیق دستاوردهای مهمی دارد و مسیر را برای کاربردهای عملی متعددی هموار می‌کند:

• ابزارهای خودکار برای شبکه‌های اجتماعی: پلتفرم‌های رسانه‌های اجتماعی می‌توانند از این مدل برای شناسایی و برچسب‌گذاری خودکار محتوای نادرست مرتبط با سلامت استفاده کنند. ویژگی تبیین‌پذیری به کاربران کمک می‌کند تا دلیل برچسب‌خوردن یک پست را بفهمند و صرفاً آن را یک سانسور الگوریتمی تلقی نکنند.
• توانمندسازی روزنامه‌نگاران و راستی‌آزمایان: این سیستم می‌تواند به عنوان یک دستیار هوشمند برای سازمان‌های حقیقت‌سنج عمل کند. با تحلیل سریع حجم زیادی از ادعاها و هایلایت کردن بخش‌های مشکوک، فرآیند راستی‌آزمایی را تسریع و تسهیل می‌کند.
• بهبود سواد رسانه‌ای عمومی: با ارائه توضیحات قابل فهم، این ابزارها می‌توانند به کاربران آموزش دهند که چگونه خودشان اطلاعات نادرست را تشخیص دهند. کاربران با دیدن الگوهای زبانی که مدل برای تشخیص دروغ استفاده می‌کند (مانند زبان هیجانی، ادعاهای بدون منبع، و …)، به مرور زمان در برابر اطلاعات غلط مقاوم‌تر می‌شوند.
• الگویی برای هوش مصنوعی قابل اعتماد: این پژوهش یک چارچوب موفق برای ترکیب دقت بالا و تبیین‌پذیری ارائه می‌دهد که می‌تواند در سایر حوزه‌های حساس مانند امور مالی، حقوقی و تشخیص پزشکی نیز به کار گرفته شود؛ حوزه‌هایی که اعتماد کاربر در آن‌ها حیاتی است.

مقاله «مقابله با اینفودمی کووید-۱۹ با مدل‌های پردازش زبان طبیعی تبیین‌پذیر» یک گام مهم و رو به جلو در مبارزه با یکی از بزرگ‌ترین چالش‌های عصر دیجیتال است. این پژوهش نشان می‌دهد که صرفاً ساختن یک الگوریتم دقیق کافی نیست؛ بلکه باید سیستمی طراحی کرد که انسان‌ها بتوانند به آن اعتماد کنند و با آن تعامل معناداری داشته باشند. ترکیب هوشمندانه قدرت مدل پیشرفته DistilBERT با شفافیت چارچوب SHAP، راهکاری جامع ارائه می‌دهد که هم به صورت خودکار اطلاعات نادرست را شناسایی می‌کند و هم با ارائه دلایل روشن، به کاربران در درک بهتر و تصمیم‌گیری آگاهانه کمک می‌کند. این رویکرد نه‌تنها ابزاری برای مقابله با اینفودمی فعلی است، بلکه نقشه راهی برای ساخت نسل آینده سیستم‌های هوش مصنوعی مسئولیت‌پذیر، شفاف و قابل اعتماد فراهم می‌آورد.