۱. معرفی مقاله و اهمیت آن

در دنیای دیجیتال امروز، شبکه‌های اجتماعی به یکی از اصلی‌ترین بسترهای تعاملات انسانی تبدیل شده‌اند. با گسترش این پلتفرم‌ها، متأسفانه شاهد افزایش انتشار محتوای مضر و تبعیض‌آمیز، از جمله جنسیت‌زدگی، نیز بوده‌ایم. جنسیت‌زدگی، که شامل نگرش‌ها، باورها و رفتارهایی است که بر اساس کلیشه‌های جنسیتی، تبعیض یا برتری یک جنس بر دیگری بنا شده، می‌تواند تأثیرات مخربی بر افراد و جامعه داشته باشد. مقابله با این پدیده نیازمند ابزارهایی کارآمد برای شناسایی و حذف محتوای تبعیض‌آمیز است. مقاله پیش رو با عنوان “Automatic Sexism Detection with Multilingual Transformer Models” (تشخیص خودکار جنسیت‌زدگی با مدل‌های ترنسفورمر چندزبانه)، پاسخی علمی به این چالش مهم محسوب می‌شود.

این پژوهش در چارچوب اولین کارگاه مشترک شناسایی جنسیت‌زدگی در شبکه‌های اجتماعی (EXIST) در سال ۲۰۲۱ ارائه شده است. EXIST یک رقابت بین‌المللی در حوزه پردازش زبان طبیعی (NLP) است که با هدف خودکارسازی فرایند شناسایی جنسیت‌زدگی در محتوای شبکه‌های اجتماعی از طریق روش‌های یادگیری ماشین برگزار شد. اهمیت این مقاله در ارائه یک رویکرد نوین و مبتنی بر فناوری‌های پیشرفته برای تشخیص خودکار و در مقیاس بزرگ جنسیت‌زدگی نهفته است. با توجه به ماهیت چندزبانه و فراگیر بودن این پدیده در فضای آنلاین، توسعه مدل‌هایی که بتوانند در زبان‌های مختلف به طور مؤثر عمل کنند، امری حیاتی است.

۲. نویسندگان و زمینه تحقیق

این مقاله حاصل تلاش گروهی از پژوهشگران برجسته است: Mina Schütz, Jaqueline Boeck, Daria Liakhovets, Djordje Slijepčević, Armin Kirchknopf, Manuel Hecht, Johannes Bogensperger, Sven Schlarb, Alexander Schindler, و Matthias Zeppelzauer. این تیم، با نام AIT_FHSTP، در رقابت EXIST2021 شرکت کرده و نتایج تحقیقات خود را در دو حوزه اصلی مرتبط با تشخیص جنسیت‌زدگی ارائه داده‌اند.

زمینه تحقیق این گروه به طور خاص در حوزه هوش مصنوعی (Artificial Intelligence) و محاسبات و زبان (Computation and Language) قرار می‌گیرد. تمرکز بر روی کاربرد مدل‌های پیشرفته یادگیری عمیق، به ویژه مدل‌های ترنسفورمر، برای حل مسائل پیچیده در حوزه پردازش زبان طبیعی، از ویژگی‌های اصلی این تحقیق است. کار بر روی تشخیص جنسیت‌زدگی، که خود یک مسئله اجتماعی مهم با پیامدهای زبانی و رفتاری است، نشان‌دهنده تلاش این گروه برای پل زدن میان فناوری و مسائل اجتماعی واقعی است.

۳. چکیده و خلاصه محتوا

چکیده مقاله به خوبی اهداف و دستاوردهای اصلی پژوهش را خلاصه می‌کند. طبق چکیده، جنسیت‌زدگی در سال‌های اخیر به مشکلی عمده در شبکه‌های اجتماعی تبدیل شده است. رقابت EXIST2021 با هدف شناسایی خودکار این پدیده از طریق روش‌های یادگیری ماشین شکل گرفته است. مسئله تشخیص جنسیت‌زدگی به دو شکل اصلی فرموله شده است:

• طبقه‌بندی درشت (باینری): تشخیص کلی وجود یا عدم وجود محتوای جنسیت‌زده.
• طبقه‌بندی ریزدانه (چندکلاسه): تمایز بین انواع مختلف محتوای جنسیت‌زده، مانند سلطه‌گری (dominance)، کلیشه‌سازی (stereotyping) و عینکی‌سازی (objectification).

تیم AIT_FHSTP با استفاده از دو مدل ترنسفورمر چندزبانه، یکی مبتنی بر BERT چندزبانه و دیگری مبتنی بر XLM-R، به این دو وظیفه پرداخته است. رویکرد آن‌ها شامل دو استراتژی کلیدی برای انطباق مدل‌های ترنسفورمر با تشخیص محتوای جنسیت‌زده بوده است:

1. پیش‌آموزش بدون نظارت (unsupervised pre-training): استفاده از داده‌های اضافی برای بهبود درک اولیه مدل از زبان.
2. تنظیم دقیق (fine-tuning) با نظارت: آموزش مدل با استفاده از داده‌های برچسب‌دار موجود و داده‌های افزوده شده (augmented data).

یافته کلیدی این پژوهش نشان می‌دهد که بهترین عملکرد برای هر دو وظیفه، توسط مدل XLM-R با ترکیب پیش‌آموزش بدون نظارت بر روی داده‌های EXIST و مجموعه‌داده‌های اضافی، و سپس تنظیم دقیق بر روی داده‌های ارائه شده، حاصل شده است. این مدل در وظیفه طبقه‌بندی باینری (وظیفه ۱) به امتیاز Macro F1-score 0.7752 دست یافته و رتبه پنجم را در بین شرکت‌کنندگان کسب کرده است. در وظیفه طبقه‌بندی چندکلاسه (وظیفه ۲)، بهترین زیرمجموعه این تیم با امتیاز Macro F1-score 0.5589، رتبه ششم را به خود اختصاص داده است.

۴. روش‌شناسی تحقیق

روش‌شناسی به کار گرفته شده توسط تیم AIT_FHSTP، ترکیبی هوشمندانه از تکنیک‌های پیشرفته پردازش زبان طبیعی و یادگیری عمیق است که بر پایه مدل‌های ترنسفورمر بنا شده است.

۴.۱. انتخاب مدل‌های پایه

انتخاب مدل‌های ترنسفورمر چندزبانه، تصمیمی استراتژیک بوده است. مدل‌های ترنسفورمر، به خصوص نسخه‌های پیش‌آموزش‌دیده مانند BERT و XLM-R، توانایی فوق‌العاده‌ای در درک روابط پیچیده در متن و استخراج معنای عمیق دارند. استفاده از نسخه‌های چندزبانه این مدل‌ها، قابلیت تعمیم‌پذیری به زبان‌های مختلف را فراهم می‌آورد، که برای پدیده‌ای جهانی مانند جنسیت‌زدگی در شبکه‌های اجتماعی، بسیار حائز اهمیت است.

• Multilingual BERT (mBERT): یکی از اولین مدل‌های ترنسفورمر است که بر روی حجم عظیمی از متن به زبان‌های مختلف آموزش دیده و توانایی درک زبان‌های گوناگون را دارد.
• XLM-R (Cross-lingual Language Model – RoBERTa): این مدل نسل بعدی mBERT محسوب می‌شود و با بهره‌گیری از معماری RoBERTa و آموزش بر روی داده‌های بسیار بیشتر و متنوع‌تر به زبان‌های مختلف، عملکرد بهتری در وظایف چندزبانه از خود نشان می‌دهد.

۴.۲. استراتژی‌های انطباق مدل

برای اینکه این مدل‌های عمومی بتوانند به طور مؤثر در وظیفه تخصصی تشخیص جنسیت‌زدگی عمل کنند، دو استراتژی اصلی به کار گرفته شده است:

1. پیش‌آموزش بدون نظارت (Unsupervised Pre-training): در این مرحله، مدل‌های پایه ترنسفورمر (mBERT و XLM-R) با استفاده از داده‌های متنی اضافی که لزوماً برچسب جنسیت‌زدگی ندارند، مجدداً آموزش داده می‌شوند. هدف از این کار، عمیق‌تر کردن درک مدل از مفاهیم، اصطلاحات و الگوهای زبانی مرتبط با حوزه شبکه‌های اجتماعی و همچنین جنسیت‌زدگی است، بدون اینکه نیاز به برچسب‌گذاری دستی این داده‌های اضافی باشد. این مرحله به مدل کمک می‌کند تا با لحن و سبک محاوره‌ای شبکه‌های اجتماعی بهتر آشنا شود.
2. تنظیم دقیق با نظارت (Supervised Fine-tuning): پس از مرحله پیش‌آموزش، مدل‌ها با استفاده از داده‌های برچسب‌دار وظیفه EXIST (که شامل متن‌هایی با برچسب‌های مربوط به جنسیت‌زدگی یا عدم آن است) تنظیم دقیق می‌شوند. این مرحله شامل استفاده از داده‌های اصلی موجود و همچنین داده‌های افزوده شده (augmented data) است. افزودن داده‌ها می‌تواند با روش‌هایی مانند ترجمه متون، ایجاد تغییرات جزئی در جملات، یا استفاده از تکنیک‌های دیگر برای افزایش تنوع نمونه‌های آموزشی انجام شود. هدف این است که مدل یاد بگیرد چگونه الگوهای شناسایی شده در مرحله پیش‌آموزش را به طور مشخص با وظیفه طبقه‌بندی جنسیت‌زدگی مرتبط کند.

۴.۳. ارزیابی عملکرد

عملکرد مدل‌ها بر اساس معیارهای استاندارد ارزیابی مدل‌های طبقه‌بندی، به خصوص Macro F1-score، سنجیده شده است. Macro F1-score میانگین هارمونیک F1-score برای هر کلاس است و در مواردی که تعداد نمونه‌ها در کلاس‌های مختلف نابرابر است (که در داده‌های تشخیص تبعیض معمول است)، معیار مناسب‌تری نسبت به Micro F1-score محسوب می‌شود. نتایج کسب شده نشان‌دهنده توانایی بالای مدل XLM-R در این وظیفه بوده است.

۵. یافته‌های کلیدی

یافته‌های این پژوهش، درک ما از قابلیت‌های مدل‌های ترنسفورمر در مواجهه با مسائل پیچیده اجتماعی-زبانی را ارتقا می‌دهد.

• برتری XLM-R: نتایج به وضوح نشان دادند که مدل XLM-R نسبت به Multilingual BERT در هر دو وظیفه (طبقه‌بندی باینری و چندکلاسه) عملکرد بهتری دارد. این امر با توجه به معماری پیشرفته‌تر و حجم داده‌های آموزشی بیشتر XLM-R، منطقی به نظر می‌رسد.
• اهمیت پیش‌آموزش بدون نظارت: استراتژی پیش‌آموزش بدون نظارت با داده‌های اضافی، نقش کلیدی در بهبود عملکرد مدل ایفا کرده است. این یافته تأکید می‌کند که غنی‌سازی اولیه مدل با دانش عمومی و تخصصی مرتبط، قبل از آموزش نهایی با داده‌های برچسب‌دار، می‌تواند نتایج چشمگیری به همراه داشته باشد.
• اثربخشی افزودن داده: استفاده از داده‌های افزوده شده (augmented data) در مرحله تنظیم دقیق، به ویژه در وظیفه طبقه‌بندی چندکلاسه که نیازمند تمایز ظریف بین انواع مختلف جنسیت‌زدگی است، به بهبود امتیاز Macro F1-score کمک شایانی کرده است.
• چالش طبقه‌بندی چندکلاسه: در حالی که مدل در طبقه‌بندی باینری به نتایج قابل قبولی دست یافته (رتبه ۵)، عملکرد در طبقه‌بندی چندکلاسه (رتبه ۶) نشان‌دهنده چالش‌های بیشتر در تمایز دقیق بین انواع مختلف تبعیض جنسیتی است. این موضوع ممکن است به دلیل ابهام در تعریف کلاس‌ها، پیچیدگی زبانی در بیان انواع مختلف جنسیت‌زدگی، یا عدم تعادل داده‌ها در کلاس‌های ریزدانه باشد.
• کارایی در زبان‌های مختلف: با توجه به استفاده از مدل‌های چندزبانه، این رویکرد پتانسیل بالایی برای تعمیم به زبان‌های دیگر دارد، اگرچه نتایج ذکر شده صرفاً بر اساس داده‌های مربوط به وظیفه EXIST (که احتمالاً عمدتاً به زبان انگلیسی بوده) ارائه شده است.

۶. کاربردها و دستاوردها

این پژوهش نه تنها یک دستاورد علمی در حوزه هوش مصنوعی و پردازش زبان طبیعی محسوب می‌شود، بلکه کاربردهای عملی فراوانی نیز دارد:

• پایش و تعدیل محتوای شبکه‌های اجتماعی: شرکت‌های فعال در حوزه شبکه‌های اجتماعی می‌توانند از این مدل‌ها برای شناسایی و حذف خودکار محتوای جنسیت‌زده، محافظت از کاربران و ایجاد محیطی امن‌تر استفاده کنند.
• کمک به پژوهشگران اجتماعی: محققان علوم اجتماعی می‌توانند از این ابزارها برای تحلیل حجم عظیمی از داده‌های متنی و شناسایی الگوهای جنسیت‌زدگی در ابعاد وسیع بهره ببرند.
• توسعه ابزارهای آموزشی و آگاهی‌بخشی: این مدل‌ها می‌توانند در ایجاد ابزارهایی برای آموزش کاربران در مورد شناسایی جنسیت‌زدگی و پیامدهای آن به کار روند.
• کمک به مبارزه با تبعیض: به طور کلی، این تحقیق گامی مهم در جهت مقابله خودکار و مؤثر با یکی از اشکال رایج تبعیض در جامعه امروزی است.

دستاورد اصلی این مقاله، اثبات قابلیت و کارایی مدل‌های ترنسفورمر چندزبانه در مواجهه با یک وظیفه پیچیده NLP با پیامدهای اجتماعی عمیق است. نتایج آن، پایه و اساس تحقیقات آینده در این زمینه را مستحکم‌تر می‌سازد و نشان می‌دهد که چگونه با ترکیب تکنیک‌های پیشرفته مدل‌سازی زبانی و استراتژی‌های هوشمندانه داده، می‌توان به حل چالش‌های واقعی پرداخت.

۷. نتیجه‌گیری

مقاله “Automatic Sexism Detection with Multilingual Transformer Models” توسط تیم AIT_FHSTP، یک تلاش موفقیت‌آمیز در راستای استفاده از قابلیت‌های پیشرفته مدل‌های ترنسفورمر برای مقابله با پدیده جنسیت‌زدگی در شبکه‌های اجتماعی است. این پژوهش با فرموله کردن مسئله در دو سطح باینری و چندکلاسه و به‌کارگیری استراتژی‌های نوآورانه پیش‌آموزش بدون نظارت و تنظیم دقیق با نظارت، توانسته است نتایج امیدوارکننده‌ای را کسب کند.

نتایج نشان می‌دهند که مدل XLM-R، با بهره‌گیری از تکنیک‌های بهینه‌سازی داده، بهترین عملکرد را از خود به نمایش گذاشته و در رقابت EXIST2021 جایگاه قابل قبولی را به دست آورده است. این تحقیق بر اهمیت رویکردهای مبتنی بر مدل‌های زبانی بزرگ چندزبانه برای وظایف حساس اجتماعی-زبانی تأکید دارد و دریچه‌ای نو به سوی توسعه سیستم‌های خودکار برای شناسایی و مقابله با تبعیض در فضای آنلاین می‌گشاید. با وجود چالش‌های باقی‌مانده، به ویژه در تمایز دقیق انواع مختلف جنسیت‌زدگی، این پژوهش گامی مهم و الهام‌بخش در جهت ایجاد فضایی دیجیتال پاک‌تر و برابرتر است.