مقاله حاضر به بررسی چگونگی مقابله با نژادپرستی در فضای وب با استفاده از روش‌های پردازش زبان طبیعی (NLP) می‌پردازد. نژادپرستی، چه به صورت آشکار و چه پنهان، همچنان در جوامع فیزیکی و آنلاین وجود دارد و تاثیرات مخربی بر زندگی افراد مختلف گذاشته است. این تحقیق با ارائه یک مجموعه داده جدید و یک مدل یادگیری ماشین بهبود یافته، گامی مهم در راستای شناسایی و کاهش محتوای نژادپرستانه در اینترنت برمی‌دارد.

این مقاله توسط تیمی از محققان به رهبری Olawale Onabola، Zhuang Ma، Yang Xie و Yoshua Bengio و همکارانشان نوشته شده است. زمینه تخصصی این نویسندگان شامل پردازش زبان طبیعی، یادگیری ماشین و اخلاق در هوش مصنوعی است. Yoshua Bengio یکی از چهره‌های برجسته در زمینه یادگیری عمیق به شمار می‌رود و سابقه درخشانی در توسعه مدل‌های زبانی پیشرفته دارد. انگیزه اصلی این تحقیق، نگرانی فزاینده در مورد گسترش محتوای نژادپرستانه و نفرت‌پراکنی در فضای آنلاین و تلاش برای یافتن راهکارهای موثر برای مقابله با این پدیده مخرب است.

این مقاله دو دستاورد مهم را ارائه می‌دهد: 1) مجموعه داده جدیدی به نام BiasCorp که شامل 139,090 نظر و قطعه خبری از سه منبع خاص (فاکس نیوز، برایتبارت نیوز و یوتیوب) است. 2) مدل زبانی جدیدی به نام hBERT که بر اساس مدل BERT ساخته شده و با استفاده از لایه‌های Hopfield بهبود یافته است. هدف از ارائه این مدل، کاهش پیچیدگی مدل و بهبود تعمیم‌پذیری آن در توزیع‌های مختلف داده است. علاوه بر این، نویسندگان یک کتابخانه جاوا اسکریپت و یک افزونه مرورگر کروم را نیز منتشر کرده‌اند تا به توسعه‌دهندگان و کاربران کمک کنند تا از مدل hBERT برای شناسایی و گزارش محتوای نژادپرستانه در وب استفاده کنند.

به طور خلاصه، این تحقیق با جمع‌آوری داده‌های نژادپرستانه، توسعه یک مدل زبانی کارآمد و ارائه ابزارهای کاربردی، گامی مهم در جهت مبارزه با نژادپرستی در فضای آنلاین برداشته است.

روش‌شناسی این تحقیق شامل مراحل زیر است:

• جمع‌آوری داده: نظرات و قطعات خبری از سه منبع فاکس نیوز، برایتبارت نیوز و یوتیوب جمع‌آوری شده‌اند. انتخاب این منابع به دلیل گرایش‌های سیاسی و انتشار بالقوه محتوای نژادپرستانه در آن‌ها بوده است.
• برچسب‌زنی داده: 45,000 نمونه از داده‌ها به صورت دستی برچسب‌زنی شده‌اند. برای این کار از سرویس Amazon Mechanical Turk استفاده شده است. برچسب‌زنی دستی برای اطمینان از کیفیت و دقت داده‌ها بسیار مهم است.
• توسعه مدل hBERT: مدل hBERT بر اساس معماری BERT ساخته شده است. لایه‌های Hopfield به منظور بهبود تعمیم‌پذیری و کاهش پیچیدگی مدل به آن اضافه شده‌اند. لایه‌های Hopfield به مدل کمک می‌کنند تا الگوهای پیچیده‌تری را در داده‌ها شناسایی کند.
• ارزیابی مدل: مدل hBERT بر روی مجموعه داده BiasCorp ارزیابی شده است. عملکرد مدل با سایر مدل‌های زبانی موجود مقایسه شده است. معیارهای مختلفی مانند دقت (Accuracy)، صحت (Precision) و فراخوانی (Recall) برای ارزیابی عملکرد مدل استفاده شده‌اند.
• توسعه ابزارها: یک کتابخانه جاوا اسکریپت و یک افزونه مرورگر کروم برای تسهیل استفاده از مدل hBERT توسط توسعه‌دهندگان و کاربران عادی توسعه داده شده‌اند.

برای مثال، در مرحله برچسب‌زنی داده، ممکن است به برچسب‌زن‌ها دستورالعمل‌هایی داده شده باشد تا بر اساس آن‌ها نظراتی که حاوی توهین‌های قومیتی، کلیشه‌های نژادی یا هرگونه محتوای تحقیرآمیز نسبت به یک گروه نژادی خاص هستند را به عنوان نژادپرستانه علامت‌گذاری کنند.

یافته‌های کلیدی این تحقیق به شرح زیر است:

• مجموعه داده BiasCorp: این مجموعه داده، منبع ارزشمندی برای محققان در زمینه پردازش زبان طبیعی و اخلاق در هوش مصنوعی است. وجود این مجموعه داده به محققان کمک می‌کند تا مدل‌های بهتری برای شناسایی و مقابله با نژادپرستی در وب توسعه دهند.
• مدل hBERT: مدل hBERT عملکرد بهتری نسبت به مدل‌های مشابه در شناسایی محتوای نژادپرستانه از خود نشان داده است. این مدل قادر است الگوهای پیچیده‌تری را در داده‌ها شناسایی کند و به همین دلیل، دقت بالاتری دارد.
• ابزارهای کاربردی: کتابخانه جاوا اسکریپت و افزونه مرورگر کروم، استفاده از مدل hBERT را برای توسعه‌دهندگان و کاربران عادی آسان کرده‌اند. این ابزارها به کاربران کمک می‌کنند تا محتوای نژادپرستانه را شناسایی و گزارش کنند.

به عنوان مثال، نتایج نشان می‌دهد که مدل hBERT در شناسایی جملاتی که به طور غیرمستقیم حاوی اشارات نژادپرستانه هستند (مثلاً استفاده از اصطلاحات خاص با بار معنایی نژادی) نسبت به مدل‌های BERT استاندارد عملکرد بهتری دارد. این نشان می‌دهد که لایه‌های Hopfield به مدل کمک می‌کنند تا ظرافت‌های زبانی را بهتر درک کند.

این تحقیق کاربردهای متعددی دارد:

• توسعه ابزارهای خودکار برای شناسایی محتوای نژادپرستانه: مدل hBERT می‌تواند در شبکه‌های اجتماعی، فروم‌ها و وب‌سایت‌ها برای شناسایی خودکار محتوای نژادپرستانه استفاده شود.
• بهبود فیلترهای محتوا: از این مدل می‌توان برای بهبود فیلترهای محتوای موجود استفاده کرد تا محتوای نژادپرستانه را به طور موثرتری فیلتر کنند.
• آموزش کاربران: افزونه مرورگر کروم می‌تواند به کاربران کمک کند تا محتوای نژادپرستانه را شناسایی کنند و نسبت به آن آگاه‌تر شوند.
• تحقیقات بیشتر در زمینه اخلاق در هوش مصنوعی: مجموعه داده BiasCorp می‌تواند برای تحقیقات بیشتر در زمینه اخلاق در هوش مصنوعی و سوگیری‌های موجود در داده‌ها استفاده شود.

یکی از دستاوردهای مهم این تحقیق، ارائه یک چارچوب عملی برای مقابله با نژادپرستی در فضای آنلاین است. با استفاده از این چارچوب، می‌توان محتوای نژادپرستانه را به طور موثرتری شناسایی، فیلتر و گزارش کرد.

مقاله HBert و BiasCorp گامی مهم در جهت مقابله با نژادپرستی در وب برداشته است. با ارائه یک مجموعه داده جدید، یک مدل زبانی بهبود یافته و ابزارهای کاربردی، این تحقیق به محققان، توسعه‌دهندگان و کاربران کمک می‌کند تا محتوای نژادپرستانه را شناسایی و با آن مقابله کنند. با این حال، مبارزه با نژادپرستی یک چالش پیچیده و مداوم است و نیازمند تلاش‌های مستمر و رویکردهای نوآورانه است. تحقیقات آینده می‌توانند بر بهبود دقت مدل‌های زبانی، شناسایی انواع ظریف‌تر نژادپرستی و توسعه استراتژی‌های موثرتر برای آموزش کاربران تمرکز کنند. همچنین، توجه به جوانب اخلاقی استفاده از این ابزارها و جلوگیری از سوء استفاده از آن‌ها نیز بسیار مهم است.

به طور کلی، این مقاله نشان می‌دهد که پردازش زبان طبیعی می‌تواند ابزاری قدرتمند برای مقابله با نژادپرستی در فضای آنلاین باشد. با این حال، برای موفقیت در این زمینه، نیازمند همکاری بین محققان، توسعه‌دهندگان، سیاست‌گذاران و کاربران هستیم.