در دنیای امروز، گسترش سریع اطلاعات و اخبار در شبکه‌های اجتماعی، امکان انتشار اخبار جعلی و گمراه‌کننده را به شکل بی‌سابقه‌ای افزایش داده است. این اخبار می‌توانند تأثیرات مخربی بر افکار عمومی، تصمیم‌گیری‌ها و حتی ثبات اجتماعی داشته باشند. از این رو، شناسایی و افشاسازی اخبار جعلی به یک ضرورت اجتناب‌ناپذیر تبدیل شده است. مقاله حاضر به معرفی یک رویکرد نوین در این زمینه می‌پردازد که با استفاده از نظارت ضعیف و بهره‌گیری از خرد اجتماعی زمینه‌مند، به شناسایی جملات گمراه‌کننده در اخبار می‌پردازد و از این طریق، به افشاسازی اخبار جعلی کمک می‌کند.

این مقاله توسط Ruichao Yang، Wei Gao، Jing Ma، Hongzhan Lin و Zhiwei Yang به رشته تحریر درآمده است. نویسندگان این مقاله در زمینه پردازش زبان طبیعی (NLP) و یادگیری ماشین (Machine Learning) تخصص دارند و تحقیقات خود را بر روی چالش‌های مرتبط با اخبار جعلی و اطلاعات نادرست در شبکه‌های اجتماعی متمرکز کرده‌اند. زمینه تحقیقاتی آن‌ها در حوزه پردازش زبان و محاسبات قرار می‌گیرد.

مقاله “افشاسازی اخبار جعلی از طریق شناسایی جملات گمراه‌کننده با نظارت ضعیف و خرد اجتماعی زمینه‌مند” (WSDMS) به بررسی یک مسئله مهم در حوزه مبارزه با اخبار جعلی می‌پردازد: شناسایی جملات گمراه‌کننده در مقالات خبری. برخلاف رویکردهای سنتی که تمرکز خود را بر روی تعیین صحت یا کذب کل مقاله قرار می‌دهند، این مقاله بر شناسایی دقیق‌تر نقاطی از مقاله که حاوی اطلاعات نادرست هستند، تأکید دارد. چالش اصلی در این زمینه، فقدان داده‌های آموزشی برچسب‌گذاری شده در سطح جمله است. برای حل این مشکل، نویسندگان یک مدل جدید به نام WSDMS (Weakly Supervised Detection of Misinforming Sentences) را پیشنهاد می‌کنند که از روش یادگیری چند نمونه‌ای (Multiple Instance Learning – MIL) الهام گرفته است. این مدل فقط به برچسب‌های سطح مقاله نیاز دارد، اما قادر است هم اطلاعات نادرست سطح جمله و هم صحت سطح مقاله را استنتاج کند. برای این منظور، از مکالمات مرتبط در شبکه‌های اجتماعی استفاده می‌شود که با دقت و توجه بالا به جملات خبری مرتبط می‌شوند. نتایج ارزیابی این مدل بر روی سه مجموعه داده واقعی نشان می‌دهد که WSDMS عملکرد بهتری نسبت به روش‌های پیشین در افشاسازی اخبار جعلی در هر دو سطح جمله و مقاله دارد.

روش‌شناسی تحقیق این مقاله بر پایه یادگیری ماشین با نظارت ضعیف و بهره‌گیری از خرد اجتماعی استوار است. در ادامه به تشریح اجزای اصلی این روش‌شناسی می‌پردازیم:

• یادگیری با نظارت ضعیف (Weakly Supervised Learning): از آنجایی که برچسب‌گذاری داده‌ها در سطح جمله کاری زمان‌بر و پرهزینه است، از روش یادگیری با نظارت ضعیف استفاده شده است. در این روش، مدل تنها با استفاده از برچسب‌های سطح مقاله (جعلی یا واقعی) آموزش داده می‌شود و به طور خودکار جملات گمراه‌کننده را شناسایی می‌کند.
• یادگیری چند نمونه‌ای (Multiple Instance Learning – MIL): هر مقاله به عنوان یک “کیف” از جملات در نظر گرفته می‌شود. اگر یک مقاله به عنوان “جعلی” برچسب‌گذاری شده باشد، به این معنی است که حداقل یک جمله در آن مقاله گمراه‌کننده است، اما لزوماً همه جملات گمراه‌کننده نیستند. مدل MIL با هدف یادگیری از این نوع داده‌ها طراحی شده است.
• خرد اجتماعی زمینه‌مند (Contextualized Social Wisdom): برای بهبود عملکرد مدل، از اطلاعات موجود در شبکه‌های اجتماعی که مربوط به مقالات خبری هستند، استفاده می‌شود. این اطلاعات شامل نظرات، واکنش‌ها و بحث‌هایی است که در مورد خبرها شکل می‌گیرد. مدل WSDMS با استفاده از مکانیزم توجه (Attention Mechanism) تلاش می‌کند تا ارتباط بین جملات خبری و واکنش‌های اجتماعی را درک کند و از این طریق، اطلاعات بیشتری در مورد صحت یا کذب جملات به دست آورد. به عنوان مثال، اگر یک جمله خبری با واکنش‌های منفی و انتقادی گسترده‌ای در شبکه‌های اجتماعی روبرو شود، احتمال اینکه آن جمله گمراه‌کننده باشد، افزایش می‌یابد.
• معماری مدل WSDMS: مدل WSDMS از یک معماری شبکه‌ی عصبی عمیق (Deep Neural Network) تشکیل شده است که شامل لایه‌های مختلفی از جمله لایه‌های تعبیه کلمه (Word Embedding)، لایه‌های توجه (Attention Layers) و لایه‌های طبقه‌بندی (Classification Layers) است. لایه‌های تعبیه کلمه برای تبدیل کلمات به بردارهای عددی استفاده می‌شوند. لایه‌های توجه برای وزن‌دهی به کلمات و جملات مختلف بر اساس اهمیت آن‌ها در شناسایی اطلاعات نادرست استفاده می‌شوند. لایه‌های طبقه‌بندی برای تعیین صحت یا کذب جملات و مقالات استفاده می‌شوند.

نتایج ارزیابی مدل WSDMS بر روی سه مجموعه داده واقعی نشان می‌دهد که این مدل به طور قابل توجهی عملکرد بهتری نسبت به روش‌های پیشین دارد. یافته‌های کلیدی این تحقیق به شرح زیر است:

• بهبود عملکرد در شناسایی جملات گمراه‌کننده: مدل WSDMS قادر است جملات گمراه‌کننده را با دقت بالاتری نسبت به روش‌های پیشین شناسایی کند. این امر نشان می‌دهد که استفاده از یادگیری با نظارت ضعیف و خرد اجتماعی زمینه‌مند می‌تواند به بهبود عملکرد مدل در این زمینه کمک کند.
• بهبود عملکرد در طبقه‌بندی اخبار جعلی: مدل WSDMS همچنین قادر است اخبار جعلی را با دقت بالاتری نسبت به روش‌های پیشین طبقه‌بندی کند. این امر نشان می‌دهد که شناسایی دقیق‌تر جملات گمراه‌کننده می‌تواند به بهبود عملکرد مدل در طبقه‌بندی اخبار جعلی کمک کند.
• اثرگذاری خرد اجتماعی: استفاده از اطلاعات موجود در شبکه‌های اجتماعی به طور قابل توجهی به بهبود عملکرد مدل کمک می‌کند. این امر نشان می‌دهد که نظرات و واکنش‌های کاربران شبکه‌های اجتماعی می‌تواند اطلاعات ارزشمندی در مورد صحت یا کذب اخبار فراهم کند.
• قابلیت تعمیم‌پذیری: مدل WSDMS بر روی مجموعه‌های داده مختلف عملکرد خوبی از خود نشان می‌دهد که نشان‌دهنده‌ی قابلیت تعمیم‌پذیری بالای این مدل است.

این تحقیق دارای کاربردها و دستاوردهای متعددی است که در ادامه به برخی از آن‌ها اشاره می‌کنیم:

• ابزاری برای مبارزه با اخبار جعلی: مدل WSDMS می‌تواند به عنوان یک ابزار قدرتمند برای مبارزه با اخبار جعلی مورد استفاده قرار گیرد. این مدل می‌تواند به شناسایی و برچسب‌گذاری اخبار جعلی کمک کند و به کاربران کمک کند تا اطلاعات نادرست را تشخیص دهند.
• بهبود آگاهی عمومی: با استفاده از این مدل می‌توان آگاهی عمومی را در مورد اخبار جعلی و روش‌های انتشار آن‌ها افزایش داد. این امر می‌تواند به کاهش تأثیرات منفی اخبار جعلی بر افکار عمومی کمک کند.
• توسعه الگوریتم‌های بهتر: این تحقیق می‌تواند الهام‌بخش تحقیقات بیشتر در زمینه یادگیری ماشین و پردازش زبان طبیعی باشد و به توسعه الگوریتم‌های بهتری برای شناسایی و مقابله با اخبار جعلی منجر شود.
• ارتقای سلامت اطلاعات: با کاهش انتشار اخبار جعلی و اطلاعات نادرست، می‌توان به ارتقای سلامت اطلاعات در فضای مجازی کمک کرد.
• مثال عملی: فرض کنید یک مقاله خبری ادعا می‌کند که “یک واکسن جدید کرونا باعث ایجاد جهش‌های خطرناک در ویروس می‌شود.” مدل WSDMS می‌تواند این جمله را به عنوان یک جمله گمراه‌کننده شناسایی کند، به خصوص اگر واکنش‌های منفی و هشدارهای زیادی در شبکه‌های اجتماعی نسبت به این ادعا وجود داشته باشد. با شناسایی این جمله، کاربران می‌توانند با احتیاط بیشتری با این خبر برخورد کنند و از انتشار آن جلوگیری کنند.

مقاله “افشاسازی اخبار جعلی از طریق شناسایی جملات گمراه‌کننده با نظارت ضعیف و خرد اجتماعی زمینه‌مند” یک گام مهم در جهت مبارزه با اخبار جعلی و اطلاعات نادرست در شبکه‌های اجتماعی است. این مقاله با ارائه یک روش نوین برای شناسایی جملات گمراه‌کننده، به بهبود دقت و کارایی سیستم‌های تشخیص اخبار جعلی کمک می‌کند. استفاده از یادگیری با نظارت ضعیف و خرد اجتماعی زمینه‌مند، این امکان را فراهم می‌کند که با کمترین نیاز به داده‌های برچسب‌گذاری شده، عملکرد قابل قبولی در شناسایی اخبار جعلی به دست آید. نتایج این تحقیق می‌تواند در توسعه ابزارهای کاربردی برای مبارزه با اخبار جعلی و ارتقای سلامت اطلاعات در فضای مجازی مورد استفاده قرار گیرد. با توجه به اهمیت روزافزون مبارزه با اخبار جعلی، تحقیقات بیشتر در این زمینه ضروری به نظر می‌رسد.