سخن نفرت‌پراکن (Hate speech) به گفتاری اطلاق می‌شود که بر اساس ویژگی‌های هویتی افراد یا گروه‌ها (مانند نژاد، مذهب، جنسیت، گرایش جنسی و غیره) نفرت، تبعیض یا خشونت را ترویج می‌کند. تشخیص خودکار سخن نفرت‌پراکن در متون آنلاین به منظور حفظ امنیت و سلامت جوامع مجازی از اهمیت بالایی برخوردار است. با این حال، این کار چالش‌های متعددی را به همراه دارد.

تشخیص سخن نفرت‌پراکن یک وظیفه پیچیده است که نیازمند درک زمینه، استدلال عقل سلیم، دانش کلیشه‌ها و ظرافت‌های اجتماعی-فرهنگی است. علاوه بر این، جمع‌آوری مجموعه‌داده‌های بزرگ و برچسب‌گذاری‌شده برای آموزش مدل‌های یادگیری ماشین امری پرهزینه و زمان‌بر است. به همین دلیل، روش‌های یادگیری با نمونه‌های محدود (Few-shot learning) در این حوزه اهمیت ویژه‌ای پیدا می‌کنند.

مقاله حاضر با عنوان “توکِن: تجزیه وظیفه و تزریق دانش برای تشخیص چند نمونه‌ای سخن نفرت‌پراکن” به بررسی یک رویکرد نوین برای حل این چالش می‌پردازد. این رویکرد با تجزیه وظیفه تشخیص سخن نفرت‌پراکن به اجزای تشکیل‌دهنده آن و تزریق دانش از منابع بیرونی، عملکرد قابل توجهی را در شرایط کمبود داده به دست می‌آورد.

این مقاله توسط گروهی از محققان برجسته در زمینه پردازش زبان طبیعی و یادگیری ماشین از جمله:

• بدر الخمیسی
• فیصل لادهاک
• سرینی آیر
• وس استویانوف
• زورنیتسا کوزاروا
• ژیان لی
• پاسکال فانگ
• لامبرت ماتیاس
• اصلی چلیکیلماز
• مونا دیاب

به رشته تحریر درآمده است. این محققان دارای سوابق قوی در زمینه تشخیص سخن نفرت‌پراکن، یادگیری با نمونه‌های محدود و استدلال عقل سلیم هستند. زمینه تحقیقاتی این مقاله در حوزه پردازش زبان و محاسبات قرار می‌گیرد.

این مقاله با هدف بهبود عملکرد تشخیص سخن نفرت‌پراکن در شرایط کمبود داده، یک رویکرد جدید را ارائه می‌دهد. این رویکرد مبتنی بر دو اصل اساسی است:

• تجزیه وظیفه: وظیفه پیچیده تشخیص سخن نفرت‌پراکن به وظایف کوچکتر و قابل مدیریت‌تر تجزیه می‌شود. این وظایف می‌توانند شامل تشخیص کلیشه‌ها، شناسایی گروه‌های هدف و استدلال در مورد پیامدهای احتمالی یک متن باشند.
• تزریق دانش: دانش از منابع بیرونی مانند مجموعه‌داده‌های استدلال عقل سلیم (مانند Atomic2020) به مدل تزریق می‌شود. این دانش به مدل کمک می‌کند تا درک بهتری از زمینه و پیامدهای متن داشته باشد.

محققان نشان داده‌اند که این رویکرد در شرایط کمبود داده (Few-shot learning) به طور قابل توجهی بهتر از روش‌هایBaseline عمل می‌کند. همچنین، مدل‌های آموزش‌دیده با این روش، قابلیت تعمیم به مجموعه‌داده‌های خارج از توزیع (Out-of-distribution) را نیز نشان می‌دهند که نشان‌دهنده برتری رویکرد تجزیه وظیفه و تزریق دانش نسبت به روش‌های قبلی است.

به طور مشخص، این روش در حالت ۱۶-نمونه‌ای، ۱۷.۸۳٪ بهبود مطلق نسبت به Baseline را نشان می‌دهد.

روش‌شناسی تحقیق در این مقاله شامل مراحل زیر است:

1. تجزیه وظیفه: محققان وظیفه تشخیص سخن نفرت‌پراکن را به مجموعه ای از وظایف مرتبط تقسیم کردند. برای مثال، یک وظیفه می‌تواند شناسایی کلیشه‌های موجود در متن باشد. وظیفه دیگر می تواند شناسایی گروه‌های هدف قرار گرفته در متن باشد.
2. تزریق دانش: محققان از مجموعه‌داده‌های استدلال عقل سلیم (مانند Atomic2020) برای آموزش مدل‌ها استفاده کردند. این مجموعه‌داده‌ها شامل اطلاعاتی در مورد روابط علت و معلولی، نیات و احساسات هستند که می‌توانند به مدل در درک بهتر زمینه متن کمک کنند.
3. معماری مدل: محققان از یک معماری مدل مبتنی بر ترنسفورمرها (Transformers) استفاده کردند. مدل ترنسفورمر یک معماری قدرتمند است که به طور گسترده در پردازش زبان طبیعی استفاده می‌شود.
4. آموزش و ارزیابی: مدل‌ها بر روی مجموعه‌داده‌های مختلف آموزش داده شدند و عملکرد آنها بر روی مجموعه‌داده‌های تست ارزیابی شد. از معیارهای مختلفی مانند دقت (Accuracy)، F1-score و AUC برای ارزیابی عملکرد مدل‌ها استفاده شد.
5. مقایسه با Baseline: عملکرد مدل‌های پیشنهادی با روش‌های Baseline مقایسه شد تا نشان داده شود که رویکرد جدید بهبود قابل توجهی را ارائه می‌دهد.

برای مثال، در یکی از مراحل تجزیه وظیفه، مدل آموزش داده می‌شود تا تعیین کند آیا یک متن حاوی کلیشه‌های منفی درباره یک گروه خاص است یا خیر. سپس، در مرحله تزریق دانش، مدل از اطلاعات موجود در Atomic2020 برای درک بهتر پیامدهای این کلیشه‌ها استفاده می‌کند. به عنوان مثال، اگر متن حاوی کلیشه ای مبنی بر “همه اعضای گروه X تنبل هستند” باشد، مدل ممکن است با استفاده از دانش Atomic2020 به این نتیجه برسد که این کلیشه می‌تواند منجر به تبعیض و نابرابری شود.

یافته‌های کلیدی این تحقیق عبارتند از:

• بهبود عملکرد در شرایط کمبود داده: رویکرد تجزیه وظیفه و تزریق دانش به طور قابل توجهی عملکرد تشخیص سخن نفرت‌پراکن را در شرایط کمبود داده بهبود می‌بخشد.
• قابلیت تعمیم به داده‌های خارج از توزیع: مدل‌های آموزش‌دیده با این روش، قابلیت تعمیم به مجموعه‌داده‌هایی را دارند که با داده‌های آموزشی متفاوت هستند. این نشان می‌دهد که مدل‌ها قادر به یادگیری مفاهیم کلی هستند و نه فقط حفظ الگوهای خاص در داده‌های آموزشی.
• اهمیت دانش عقل سلیم: تزریق دانش از منابع بیرونی مانند Atomic2020 به طور قابل توجهی عملکرد مدل‌ها را بهبود می‌بخشد. این نشان می‌دهد که دانش عقل سلیم برای درک زمینه و پیامدهای متن ضروری است.
• برتری نسبت به روش‌های Baseline: رویکرد پیشنهادی در این مقاله به طور مداوم از روش‌های Baseline بهتر عمل می‌کند.

به عنوان مثال، نتایج نشان می‌دهد که در حالت ۱۶-نمونه‌ای، مدل پیشنهادی با استفاده از تجزیه وظیفه و تزریق دانش، ۱۷.۸۳٪ بهبود مطلق در F1-score نسبت به روش Baseline به دست می‌آورد. این بهبود قابل توجه نشان می‌دهد که رویکرد جدید می‌تواند به طور موثر در شرایطی که داده‌های برچسب‌گذاری‌شده محدود هستند، عمل کند.

این تحقیق دارای کاربردها و دستاوردهای متعددی است:

• بهبود تشخیص سخن نفرت‌پراکن: این تحقیق می‌تواند به بهبود سیستم‌های تشخیص سخن نفرت‌پراکن در شبکه‌های اجتماعی و سایر پلتفرم‌های آنلاین کمک کند.
• کمک به تعدیل محتوا: سیستم‌های بهبودیافته تشخیص سخن نفرت‌پراکن می‌توانند به تعدیل‌کنندگان محتوا در شناسایی و حذف محتوای نامناسب کمک کنند.
• کاهش تبعیض و خشونت: با شناسایی و حذف سخن نفرت‌پراکن، می‌توان به کاهش تبعیض و خشونت در جوامع آنلاین کمک کرد.
• ارائه یک چارچوب جدید: این تحقیق یک چارچوب جدید برای حل مشکلات پردازش زبان طبیعی در شرایط کمبود داده ارائه می‌دهد. این چارچوب می‌تواند در سایر زمینه‌ها نیز مورد استفاده قرار گیرد.

برای مثال، این تحقیق می‌تواند در توسعه ابزارهای خودکار برای شناسایی و حذف سخن نفرت‌پراکن در شبکه‌های اجتماعی مورد استفاده قرار گیرد. این ابزارها می‌توانند به طور خودکار متونی را که حاوی سخن نفرت‌پراکن هستند شناسایی کرده و به تعدیل‌کنندگان محتوا گزارش دهند. این امر می‌تواند به کاهش حجم محتوای نامناسب در شبکه‌های اجتماعی و ایجاد یک فضای امن‌تر برای کاربران کمک کند.

مقاله “توکِن: تجزیه وظیفه و تزریق دانش برای تشخیص چند نمونه‌ای سخن نفرت‌پراکن” یک گام مهم در جهت بهبود تشخیص سخن نفرت‌پراکن در شرایط کمبود داده است. رویکرد پیشنهادی در این مقاله با تجزیه وظیفه و تزریق دانش از منابع بیرونی، عملکرد قابل توجهی را در مقایسه با روش‌های Baseline به دست می‌آورد.

این تحقیق نشان می‌دهد که دانش عقل سلیم و درک زمینه برای تشخیص دقیق سخن نفرت‌پراکن ضروری است. همچنین، این تحقیق اهمیت یادگیری با نمونه‌های محدود در زمینه‌هایی که جمع‌آوری داده‌های برچسب‌گذاری‌شده دشوار است را برجسته می‌کند.

به طور کلی، این مقاله یک سهم ارزشمند در زمینه پردازش زبان طبیعی و تشخیص سخن نفرت‌پراکن است و می‌تواند به توسعه سیستم‌های موثرتر برای شناسایی و حذف محتوای نامناسب در فضای آنلاین کمک کند. تحقیقات آتی می‌توانند به بررسی روش‌های جدید برای تجزیه وظیفه، تزریق دانش و بهبود قابلیت تعمیم مدل‌ها بپردازند.