امروزه، با گسترش روزافزون شبکه‌های اجتماعی و فضاهای آنلاین، پدیده “سخنان نفرت‌پراکن” به یک چالش جدی تبدیل شده است. این نوع از سخنان، که شامل محتوای توهین‌آمیز، تحقیرآمیز و آسیب‌زا است، می‌تواند تاثیرات مخربی بر افراد و گروه‌های مختلف جامعه داشته باشد. از این رو، شناسایی و مقابله با سخنان نفرت‌پراکن در فضای مجازی، اهمیتی حیاتی دارد.

مقاله مورد بررسی، با عنوان انگلیسی “A Feature Extraction based Model for Hate Speech Identification” توسط آقای سالار محتاج، ورا اشمیت و سباستین مولر نگارش شده است. نویسندگان این مقاله، در زمینه پردازش زبان طبیعی، یادگیری ماشین و هوش مصنوعی فعالیت دارند و تمرکز آن‌ها بر روی شناسایی و دسته‌بندی متن‌های نفرت‌پراکن در فضای آنلاین است. این تحقیق، در راستای مقابله با گسترش محتوای نامناسب و حفظ سلامت فضای مجازی انجام شده است.

این مقاله، به ارائه نتایج تیم TU Berlin در بخش 1A و 1B از مسابقه بین‌المللی شناسایی سخنان نفرت‌پراکن و محتوای توهین‌آمیز در زبان‌های هندواروپایی در سال ۲۰۲۱ می‌پردازد. هدف اصلی این مسابقه، ارزیابی میزان موفقیت مدل‌های مختلف پردازش زبان طبیعی در شناسایی محتوای نفرت‌پراکن بود. نویسندگان، مدل‌های مختلفی را بر اساس شبکه‌های عصبی بازگشتی در سطوح کلمه و کاراکتر، و همچنین رویکردهای یادگیری انتقالی مبتنی بر مدل BERT، بر روی مجموعه داده ارائه شده توسط مسابقه آزمایش کردند. نتایج نشان داد که مدل‌های مبتنی بر یادگیری انتقالی، بهترین عملکرد را در هر دو زیرمسئله ارائه شده، داشته‌اند. به طور خلاصه، مقاله بر روی استفاده از ویژگی‌های استخراج شده از متن برای شناسایی سخنان نفرت‌پراکن تمرکز دارد و نشان می‌دهد که استفاده از مدل‌های یادگیری عمیق، به ویژه مدل‌های مبتنی بر BERT، می‌تواند دقت شناسایی را به طور قابل توجهی افزایش دهد.

روش‌شناسی مورد استفاده در این تحقیق، شامل مراحل زیر است:

• جمع‌آوری داده‌ها: استفاده از مجموعه داده ارائه شده توسط مسابقه بین‌المللی شناسایی سخنان نفرت‌پراکن. این مجموعه داده، شامل متن‌های مختلفی است که برچسب‌گذاری شده‌اند و مشخص شده است که آیا متن حاوی سخنان نفرت‌پراکن است یا خیر.
• پیش‌پردازش داده‌ها: انجام عملیات پیش‌پردازش بر روی متن‌ها، از جمله حذف علائم نگارشی، تبدیل حروف به حروف کوچک، و حذف کلمات توقف (stop words).
• استخراج ویژگی‌ها: استخراج ویژگی‌های مختلف از متن‌ها، از جمله ویژگی‌های مبتنی بر کلمات (word embeddings)، ویژگی‌های مبتنی بر کاراکترها (character embeddings) و ویژگی‌های مبتنی بر مدل‌های زبانی از پیش آموزش داده شده مانند BERT.
• آموزش مدل: آموزش مدل‌های مختلف یادگیری ماشین بر روی مجموعه داده پیش‌پردازش شده و با استفاده از ویژگی‌های استخراج شده. از جمله مدل‌های مورد استفاده می‌توان به شبکه‌های عصبی بازگشتی (RNNs) و مدل‌های مبتنی بر یادگیری انتقالی (transfer learning) مانند BERT اشاره کرد.
• ارزیابی مدل: ارزیابی عملکرد مدل‌های آموزش داده شده بر روی مجموعه داده آزمایشی (test set) و مقایسه نتایج با سایر مدل‌ها. معیارهای ارزیابی شامل دقت (accuracy)، بازخوانی (recall)، و F1-score است.

به عنوان مثال، در استفاده از مدل BERT، ابتدا مدل بر روی یک مجموعه داده بزرگ از متون عمومی (مانند ویکی‌پدیا) آموزش داده می‌شود. سپس، این مدل از پیش آموزش داده شده، بر روی مجموعه داده خاص سخنان نفرت‌پراکن،Fine-tune می‌شود تا بتواند الگوهای زبانی مرتبط با سخنان نفرت‌پراکن را شناسایی کند.

نتایج این تحقیق، نشان می‌دهد که:

• مدل‌های مبتنی بر یادگیری انتقالی، به ویژه مدل BERT، عملکرد بهتری نسبت به مدل‌های مبتنی بر شبکه‌های عصبی بازگشتی در شناسایی سخنان نفرت‌پراکن دارند.
• استفاده از ویژگی‌های مبتنی بر کلمات و کاراکترها، می‌تواند به بهبود عملکرد مدل‌ها کمک کند.
• پیش‌پردازش داده‌ها، نقش مهمی در افزایش دقت شناسایی دارد.
• مدل BERT قادر است الگوهای زبانی پیچیده مرتبط با سخنان نفرت‌پراکن را به خوبی شناسایی کند. برای مثال، مدل BERT می‌تواند تفاوت‌های ظریف بین یک جمله انتقادی و یک جمله توهین‌آمیز را تشخیص دهد.

به طور خاص، مقاله نشان داد که با استفاده از مدل BERT و Fine-tune کردن آن بر روی مجموعه داده سخنان نفرت‌پراکن، می‌توان به دقت بالایی در شناسایی این نوع محتوا دست یافت. این امر نشان می‌دهد که استفاده از دانش از پیش آموخته شده در زمینه زبان، می‌تواند به طور قابل توجهی عملکرد مدل‌های یادگیری ماشین را در این زمینه بهبود بخشد. به عنوان مثال، مدل BERT می‌تواند تشخیص دهد که جمله “این شخص لیاقت احترام ندارد” می‌تواند یک سخن نفرت‌پراکن باشد، حتی اگر به طور مستقیم از کلمات رکیک استفاده نشده باشد.

نتایج این تحقیق، می‌تواند در زمینه‌های مختلفی کاربرد داشته باشد، از جمله:

• شبکه‌های اجتماعی: استفاده از مدل‌های شناسایی سخنان نفرت‌پراکن برای شناسایی و حذف محتوای نامناسب در شبکه‌های اجتماعی و جلوگیری از گسترش آن.
• انجمن‌های آنلاین: استفاده از مدل‌ها برای نظارت بر انجمن‌های آنلاین و شناسایی کاربرانی که اقدام به انتشار سخنان نفرت‌پراکن می‌کنند.
• پلتفرم‌های تبادل نظر: استفاده از مدل‌ها برای فیلتر کردن نظرات توهین‌آمیز و تحقیرآمیز در پلتفرم‌های تبادل نظر.
• ابزارهای نظارت بر محتوا: توسعه ابزارهایی برای نظارت بر محتوای آنلاین و شناسایی سخنان نفرت‌پراکن در مقیاس بزرگ.

دستاورد اصلی این تحقیق، ارائه یک مدل کارآمد برای شناسایی سخنان نفرت‌پراکن است که می‌تواند به حفظ سلامت فضای مجازی و جلوگیری از آسیب رسیدن به افراد و گروه‌های مختلف جامعه کمک کند. علاوه بر این، این تحقیق نشان می‌دهد که استفاده از مدل‌های یادگیری عمیق و یادگیری انتقالی، می‌تواند به طور قابل توجهی عملکرد سیستم‌های شناسایی سخنان نفرت‌پراکن را بهبود بخشد. برای مثال، یک شرکت می‌تواند از این مدل برای نظارت بر کامنت‌های زیر پست‌های خود در شبکه‌های اجتماعی استفاده کند و کامنت‌های حاوی سخنان نفرت‌پراکن را به صورت خودکار حذف کند.

در مجموع، مقاله “مدلی مبتنی بر استخراج ویژگی برای شناسایی سخنان نفرت‌پراکن”، یک تحقیق ارزشمند در زمینه پردازش زبان طبیعی و یادگیری ماشین است. نویسندگان، با ارائه نتایج خود در مسابقه بین‌المللی شناسایی سخنان نفرت‌پراکن، نشان داده‌اند که استفاده از مدل‌های یادگیری عمیق و یادگیری انتقالی، می‌تواند به طور قابل توجهی عملکرد سیستم‌های شناسایی سخنان نفرت‌پراکن را بهبود بخشد. نتایج این تحقیق، می‌تواند در زمینه‌های مختلفی کاربرد داشته باشد و به حفظ سلامت فضای مجازی و جلوگیری از آسیب رسیدن به افراد و گروه‌های مختلف جامعه کمک کند. با توجه به اهمیت روزافزون این موضوع، تحقیقات بیشتر در این زمینه می‌تواند نقش مهمی در مقابله با پدیده سخنان نفرت‌پراکن در فضای آنلاین ایفا کند. در آینده، می‌توان این مدل‌ها را با استفاده از تکنیک‌های دیگر مانند تفسیرپذیری مدل‌ها (explainable AI) بهبود بخشید تا بتوان فهمید که مدل دقیقا بر اساس چه ویژگی‌هایی یک متن را به عنوان سخن نفرت‌پراکن شناسایی می‌کند.