در عصر دیجیتال، شبکه‌های اجتماعی و پلتفرم‌های میکروبلاگینگ به ابزاری قدرتمند برای آزادی بیان و ارتباطات جهانی تبدیل شده‌اند. با این حال، این فضا بستری برای بروز رفتارهای ضداجتماعی مانند آزار و اذیت آنلاین، قلدری سایبری و به‌ویژه «گفتار نفرت» (Hate Speech) نیز فراهم کرده است. گفتار نفرت، با هدف قرار دادن افراد یا گروه‌ها بر اساس نژاد، مذهب، ملیت، جنسیت و سایر ویژگی‌های هویتی، می‌تواند به خشونت در دنیای واقعی و افزایش تنش‌های اجتماعی دامن بزند.

تلاش‌های زیادی برای مقابله با این پدیده با استفاده از هوش مصنوعی و پردازش زبان طبیعی (NLP) صورت گرفته است. اما اکثر این راهکارها برای زبان‌های پرمخاطب و پرمنابعی مانند انگلیسی توسعه یافته‌اند. زبان‌هایی مانند بنگالی، که توسط صدها میلیون نفر در سراسر جهان صحبت می‌شود، در دسته زبان‌های «کم‌منابع» (Under-resourced) قرار می‌گیرند؛ به این معنی که داده‌های دیجیتال و ابزارهای محاسباتی لازم برای توسعه مدل‌های هوش مصنوعی پیشرفته برای آن‌ها محدود است.

مقاله DeepHateExplainer precisely addresses this gap. اهمیت این پژوهش تنها در ارائه یک مدل دقیق برای شناسایی گفتار نفرت در زبان بنگالی نیست، بلکه در ویژگی منحصربه‌فرد آن یعنی تبیین‌پذیری (Explainability) نهفته است. مدل‌های یادگیری عمیق اغلب مانند یک «جعبه سیاه» عمل می‌کنند؛ یعنی تصمیمات آن‌ها مشخص است، اما دلیل این تصمیمات پنهان می‌ماند. این مقاله با ارائه یک سیستم تبیین‌پذیر، نه‌تنها مشخص می‌کند که یک متن حاوی نفرت است، بلکه توضیح می‌دهد که «کدام کلمات» باعث این تشخیص شده‌اند. این ویژگی برای ایجاد اعتماد، افزایش شفافیت و توسعه سیستم‌های هوش مصنوعی منصفانه و مسئولانه حیاتی است.

این مقاله حاصل همکاری گروهی از پژوهشگران برجسته از مراکز علمی مختلف است:
Md. Rezaul Karim, Sumon Kanti Dey, Tanhim Islam, Sagor Sarker, Mehadi Hasan Menon, Kabir Hossain, Bharathi Raja Chakravarthi, Md. Azam Hossain و Stefan Decker.

این تیم تحقیقاتی با تخصص در حوزه‌های «محاسبات و زبان» (Computation and Language) و «یادگیری ماشین» (Machine Learning)، بر یکی از چالش‌برانگیزترین مسائل NLP، یعنی تحلیل محتوا در زبان‌های کم‌منابع تمرکز کرده‌اند. این پژوهش نمونه‌ای درخشان از تلاش‌های جامعه علمی برای گسترش دستاوردهای هوش مصنوعی به زبان‌ها و فرهنگ‌های مختلف و رفع نابرابری دیجیتال است.

مقاله DeepHateExplainer یک رویکرد جامع و تبیین‌پذیر برای شناسایی گفتار نفرت در زبان بنگالی ارائه می‌دهد. پژوهشگران با اذعان به رشد تصاعدی محتوای تولید شده توسط کاربران و خطرات ناشی از آن، بر شکاف موجود در ابزارهای نظارتی برای زبان‌های جنوب آسیا مانند بنگالی تأکید می‌کنند.

در این تحقیق، ابتدا متون بنگالی تحت یک فرآیند پیش‌پردازش جامع قرار می‌گیرند تا برای تحلیل توسط مدل آماده شوند. سپس، با استفاده از یک روش گروهی عصبی (Neural Ensemble Method) که از ترکیب چندین معماری پیشرفته مبتنی بر ترنسفورمر تشکیل شده است، متون به چهار دسته نفرت تقسیم‌بندی می‌شوند: سیاسی، شخصی، ژئوپلیتیکی و مذهبی. این مدل‌های ترنسفورمر شامل Bangla BERT-base (نسخه تک‌زبانه برای بنگالی)، mBERT-cased/uncased (نسخه چندزبانه) و XLM-RoBERTa هستند.

پس از طبقه‌بندی، بخش نوآورانه مقاله وارد عمل می‌شود. با استفاده از دو تکنیک هوش مصنوعی تبیین‌پذیر (XAI) به نام‌های «تحلیل حساسیت» (Sensitivity Analysis) و «انتشار ارتباط لایه‌به‌لایه» (Layer-wise Relevance Propagation – LRP)، مهم‌ترین و کم‌اهمیت‌ترین کلمات در تصمیم‌گیری مدل شناسایی می‌شوند. در نهایت، این تحلیل به صورت یک توضیح قابل فهم برای انسان ارائه می‌گردد. برای سنجش کیفیت این توضیحات، از معیارهایی مانند امتیاز جامعیت (Comprehensiveness) و کفایت (Sufficiency) استفاده می‌شود. نتایج نشان می‌دهد که این مدل با کسب امتیاز F1 برابر با ۷۸٪، ۹۱٪، ۸۹٪ و ۸۴٪ برای دسته‌های مختلف نفرت، عملکردی به مراتب بهتر از مدل‌های یادگیری ماشین کلاسیک و شبکه‌های عصبی عمیق دیگر دارد.

روش‌شناسی این پژوهش چندلایه و دقیق طراحی شده است تا هم به دقت بالا و هم به شفافیت در تصمیم‌گیری دست یابد.

• پیش‌پردازش داده‌ها: با توجه به ویژگی‌های منحصربه‌فرد زبان بنگالی، مراحل پیش‌پردازش شامل پاک‌سازی متن از کاراکترهای غیرضروری، نرمال‌سازی، توکنیزه کردن (تبدیل متن به واحدهای کوچک‌تر) و آماده‌سازی داده‌ها برای ورود به مدل‌های ترنسفورمر بود. این مرحله برای عملکرد صحیح مدل در یک زبان کم‌منابع بسیار حیاتی است.
• معماری مدل گروهی (Ensemble Architecture): به جای اتکا به یک مدل، محققان از قدرت ترکیبی چند مدل ترنسفورمر بهره بردند. مدل‌های ترنسفورمر، مانند BERT و XLM-RoBERTa، به دلیل توانایی بالا در درک زمینه (Context) کلمات در جملات، انقلابی در پردازش زبان طبیعی ایجاد کرده‌اند. استفاده از روش گروهی، مانند مشورت با هیئتی از متخصصان، باعث می‌شود که مدل نهایی قوی‌تر، پایدارتر و دقیق‌تر عمل کند و نقاط ضعف یک مدل توسط نقاط قوت مدل دیگر پوشش داده شود.
• طبقه‌بندی چندگانه نفرت: این تحقیق فراتر از یک طبقه‌بندی دوتایی (نفرت‌آمیز/غیرنفرت‌آمیز) رفته و گفتار نفرت را به چهار دسته مشخص تقسیم می‌کند:
  • نفرت سیاسی: حملات به ایدئولوژی‌ها، احزاب یا شخصیت‌های سیاسی.
  • نفرت شخصی: توهین مستقیم، آزار و اذیت یا تحقیر یک فرد.
  • نفرت ژئوپلیتیکی: هدف قرار دادن افراد بر اساس ملیت، قومیت یا منطقه جغرافیایی.
  • نفرت مذهبی: حمله به باورها، نمادها یا پیروان یک دین.
• تکنیک‌های تبیین‌پذیری (XAI): قلب نوآوری این مقاله در این بخش قرار دارد. برای باز کردن «جعبه سیاه» مدل، از دو روش استفاده شد:
  1. تحلیل حساسیت: این روش با تغییرات جزئی در ورودی (مثلاً حذف یک کلمه)، میزان تأثیر آن کلمه بر خروجی نهایی مدل را می‌سنجد. کلماتی که بیشترین تأثیر را دارند، مهم‌تر تلقی می‌شوند.
  2. انتشار ارتباط لایه‌به‌لایه (LRP): این تکنیک پیشرفته‌تر، تصمیم مدل را از لایه خروجی به سمت لایه ورودی «ردیابی» می‌کند و به هر کلمه ورودی یک «امتیاز ارتباط» (Relevance Score) اختصاص می‌دهد. این امتیاز نشان می‌دهد که هر کلمه چقدر در رسیدن به آن تصمیم خاص نقش داشته است. نتیجه LRP یک نقشه حرارتی (heatmap) روی متن ورودی است که کلمات کلیدی را برجسته می‌کند.

نتایج تجربی این پژوهش، موفقیت رویکرد پیشنهادی را به وضوح نشان می‌دهد.

• عملکرد فوق‌العاده در طبقه‌بندی: مدل DeepHateExplainer به امتیازات F1 بسیار بالایی دست یافت که نشان‌دهنده تعادل عالی بین دقت (Precision) و بازیابی (Recall) است:
  • نفرت سیاسی: ۷۸٪
  • نفرت شخصی: ۹۱٪
  • نفرت ژئوپلیتیکی: ۸۹٪
  • نفرت مذهبی: ۸۴٪

  این ارقام، به‌ویژه برای یک زبان کم‌منابع با پیچیدگی‌های معنایی و فرهنگی خاص خود، دستاوردی چشمگیر محسوب می‌شود.

• برتری نسبت به مدل‌های پایه: این مدل نه‌تنها دقیق بود، بلکه در مقایسه با طیف وسیعی از مدل‌های دیگر (Baselines) عملکرد بهتری داشت. این مدل‌ها شامل روش‌های یادگیری ماشین سنتی (مانند ماشین بردار پشتیبان و جنگل تصادفی) و معماری‌های شبکه عصبی دیگر (مانند CNN، Bi-LSTM و Conv-LSTM) بودند. این برتری، قدرت مدل‌های ترنسفورمر و رویکرد گروهی را اثبات می‌کند.
• تبیین‌های معنادار و قابل فهم: مهم‌ترین یافته، توانایی مدل در ارائه توضیحات شفاف بود. به عنوان مثال، در یک جمله که به عنوان «نفرت مذهبی» طبقه‌بندی شده بود، تحلیل LRP به درستی کلمات توهین‌آمیز و عبارات کفرآمیز را به عنوان دلایل اصلی تصمیم‌گیری مدل برجسته کرد. این قابلیت به کاربران اجازه می‌دهد تا منطق پشت تصمیمات هوش مصنوعی را درک کرده و به آن اعتماد کنند.

این پژوهش پیامدها و کاربردهای گسترده‌ای در هر دو حوزه عملی و علمی دارد.

در حوزه عملی:

• نظارت بر محتوا: پلتفرم‌های رسانه‌های اجتماعی می‌توانند از این مدل برای شناسایی و مدیریت خودکار محتوای نفرت‌آمیز به زبان بنگالی استفاده کنند. تبیین‌پذیری مدل به مدیران انسانی کمک می‌کند تا تصمیمات مدل را راستی‌آزمایی کرده و در موارد پیچیده قضاوت نهایی را انجام دهند.
• کاهش آسیب‌های آنلاین: با شناسایی سریع و دقیق گفتار نفرت، می‌توان از گسترش اطلاعات نادرست، افراط‌گرایی و خشونت آنلاین جلوگیری کرد و محیطی امن‌تر برای کاربران بنگالی‌زبان فراهم آورد.
• ابزار تحلیلی برای پژوهشگران علوم اجتماعی: این ابزار می‌تواند برای مطالعه روندهای نفرت‌پراکنی، شناسایی گروه‌های هدف و درک پویایی‌های اجتماعی در جوامع آنلاین بنگالی‌زبان مورد استفاده قرار گیرد.

در حوزه علمی:

• الگویی برای زبان‌های کم‌منابع: روش‌شناسی این مقاله می‌تواند به عنوان یک نقشه راه برای توسعه سیستم‌های مشابه برای سایر زبان‌های کم‌منابع در سراسر جهان عمل کند.
• پیشبرد حوزه هوش مصنوعی تبیین‌پذیر (XAI): این تحقیق نشان می‌دهد که چگونه می‌توان تکنیک‌های XAI را به طور مؤثر در وظایف پیچیده NLP مانند شناسایی گفتار نفرت به کار برد و از مدل‌های «جعبه سیاه» به سمت سیستم‌های شفاف و قابل اعتماد حرکت کرد.

مقاله DeepHateExplainer: Explainable Hate Speech Detection in Under-resourced Bengali Language یک گام بزرگ رو به جلو در زمینه مبارزه با گفتار نفرت آنلاین و توسعه هوش مصنوعی فراگیر و مسئولانه است. این پژوهش با موفقیت یک مدل یادگیری عمیق ارائه می‌دهد که نه‌تنها در شناسایی انواع مختلف گفتار نفرت در زبان بنگالی بسیار دقیق عمل می‌کند، بلکه قادر است دلایل تصمیمات خود را نیز به شکلی شفاف و قابل فهم توضیح دهد.

ترکیب هوشمندانه معماری‌های پیشرفته ترنسفورمر در یک مدل گروهی با تکنیک‌های پیشرفته تبیین‌پذیری مانند LRP، راهکاری قدرتمند برای مقابله با یکی از تاریک‌ترین جنبه‌های فضای دیجیتال فراهم کرده است. این دستاورد نه‌تنها برای جامعه بنگالی‌زبان اهمیت دارد، بلکه مسیری روشن برای محققان و توسعه‌دهندگانی که به دنبال ساخت ابزارهای هوش مصنوعی عادلانه، شفاف و کارآمد برای همه زبان‌ها و فرهنگ‌ها هستند، ترسیم می‌کند. در نهایت، این کار تأکیدی است بر این اصل که آینده هوش مصنوعی نه فقط در دقت آن، بلکه در شفافیت و قابلیت اعتماد آن نهفته است.