گسترش روزافزون شبکه‌های اجتماعی و فضای دیجیتال، در کنار مزایای بی‌شمار، چالش‌های جدیدی را نیز به همراه داشته است. یکی از جدی‌ترین این چالش‌ها، پدیده گفتار نفرت (Hate Speech) است که به سرعت در حال تبدیل شدن به یک معضل جهانی است. رویکردهای سنتی برای مقابله با این پدیده، عمدتاً بر شناسایی و حذف خودکار محتوای نفرت‌پراکن متمرکز بوده‌اند. این روش‌ها، اگرچه تا حدی مؤثرند، اما با محدودیت‌هایی نظیر نگرانی‌های مربوط به سانسور و ناتوانی در تغییر نگرش‌های بنیادین کاربران مواجه هستند.

در سال‌های اخیر، راهبرد جدیدی تحت عنوان روایت متقابل (Counter Narrative) به عنوان یک ابزار سازنده و مؤثر، به ویژه توسط سازمان‌های غیردولتی (NGOs)، مورد توجه قرار گرفته است. روایت متقابل به جای حذف مستقیم محتوای نفرت، تلاش می‌کند با ارائه پاسخ‌های منطقی، همدلانه و مبتنی بر شواهد، دیدگاه‌های نفرت‌پراکن را به چالش بکشد و فضای گفتگو را به سمت سالم‌تری هدایت کند. با این حال، تولید روایت‌های متقابلِ باکیفیت، نیازمند زمان، مهارت و منابع انسانی قابل توجهی است.

اینجاست که اهمیت مقاله «رویکردهای همکاری انسان-ماشین برای ساخت دیتاست گفتگو جهت مقابله با گفتار نفرت» مشخص می‌شود. این پژوهش پیشگام، به دنبال خودکارسازی فرآیند تولید روایت‌های متقابل از طریق تولید زبان طبیعی (NLG) است. نوآوری اصلی این مقاله در این است که فراتر از مدل‌های پاسخ‌دهی تک‌مرحله‌ای (یک پیام نفرت و یک پاسخ متقابل) رفته و به سراغ تعاملات چندنوبتی (Multi-turn) رفته است که به واقعیت گفتگوهای آنلاین بسیار نزدیک‌تر است. این مقاله با معرفی یک روش ترکیبی برای جمع‌آوری داده و ارائه اولین مجموعه داده گفتگومحور در این حوزه، گامی بزرگ در جهت توسعه ابزارهای هوش مصنوعی برای ایجاد جوامع آنلاین امن‌تر و سازنده‌تر برمی‌دارد.

این مقاله حاصل تلاش تیمی از پژوهشگران برجسته در بنیاد برونو کسلر (Fondazione Bruno Kessler) در ترنتو، ایتالیا است. نویسندگان آن، هلنا بونالدی (Helena Bonaldi)، سارا دلانتونیو (Sara Dellantonio)، سرا سینم تکیرواغلو (Serra Sinem Tekiroglu) و مارکو گوئرینی (Marco Guerini)، همگی در زمینه پردازش زبان طبیعی و علوم اجتماعی محاسباتی دارای تخصص هستند.

این تحقیق در نقطه تلاقی چند حوزه علمی مهم قرار دارد:

• پردازش زبان طبیعی (NLP): به‌کارگیری مدل‌های زبانی پیشرفته برای درک و تولید متن.
• علوم اجتماعی محاسباتی (Computational Social Science): استفاده از روش‌های محاسباتی برای تحلیل و مدل‌سازی پدیده‌های اجتماعی مانند گفتار نفرت.
• تعامل انسان و کامپیوتر (HCI): طراحی سیستم‌هایی که در آن انسان و ماشین برای رسیدن به یک هدف مشترک با یکدیگر همکاری می‌کنند.
• اخلاق هوش مصنوعی (AI Ethics): توسعه ابزارهای هوشمند برای مقابله با چالش‌های اخلاقی و اجتماعی در دنیای دیجیتال.

این پژوهش در چارچوب یک نیاز روزافزون برای حرکت از سیستم‌های هوش مصنوعی که صرفاً محتوا را «شناسایی و حذف» می‌کنند، به سمت سیستم‌هایی که می‌توانند به طور فعال در «بهبود و سالم‌سازی» فضای گفتگو مشارکت کنند، تعریف می‌شود.

مقاله حاضر یک رویکرد ترکیبی و نوآورانه برای جمع‌آوری داده‌های گفتگومحور با هدف مقابله با گفتار نفرت ارائه می‌دهد. نویسندگان استدلال می‌کنند که اگرچه روایت‌های متقابل ابزاری قدرتمند برای مبارزه با نفرت آنلاین هستند، اما منابع موجود برای آموزش مدل‌های تولید زبان طبیعی (NLG) به شدت محدود بوده و عمدتاً شامل تعاملات دونوبتی (یک پیام نفرت و یک پاسخ) می‌شوند. این در حالی است که گفتگوهای واقعی در شبکه‌های اجتماعی اغلب ماهیتی چندنوبتی دارند و شامل چندین تبادل پیام بین طرفین هستند.

برای پر کردن این شکاف، پژوهشگران یک فرآیند همکاری انسان-ماشین را طراحی کرده‌اند. در این فرآیند، ابتدا با استفاده از ۱۹ پیکربندی مختلف از مدل‌های زبانی، تعداد زیادی گفتگوی ساختگی بین یک «فرد نفرت‌پراکن» و یک «اپراتور سازمان غیردولتی» تولید می‌شود. سپس، این گفتگوهای خام توسط متخصصان انسانی (حاشیه‌نویسان خبره) بازبینی، اصلاح و حاشیه‌نویسی می‌شوند تا از کیفیت، واقع‌گرایی و اثربخشی آن‌ها اطمینان حاصل شود.

خروجی نهایی این پژوهش، مجموعه داده‌ای به نام DIALOCONAN است. این دیتاست، اولین مجموعه داده در نوع خود است که شامل بیش از ۳۰۰۰ گفتگوی چندنوبتی برای مقابله با گفتار نفرت است. این گفتگوها شش گروه هدف مختلف از نفرت‌پراکنی را پوشش می‌دهند و منبعی ارزشمند برای آموزش و ارزیابی نسل جدیدی از سیستم‌های هوش مصنوعی فراهم می‌کنند که قادر به مدیریت گفتگوهای پیچیده و سازنده در مواجهه با نفرت هستند.

روش‌شناسی این تحقیق بر یک مدل همکاری انسان-در-حلقه (Human-in-the-Loop) استوار است که از نقاط قوت هر دو عامل انسانی و ماشینی بهره می‌برد. این فرآیند دومرحله‌ای به شرح زیر است:

مرحله اول: تولید ماشینی گفتگوها

در این مرحله، هدف تولید حجم بالایی از داده‌های خام با کمترین هزینه و زمان بود. پژوهشگران از مدل‌های زبانی بزرگ (LLMs) برای شبیه‌سازی گفتگو استفاده کردند. آن‌ها ۱۹ سناریو یا پیکربندی مختلف را برای تولید گفتگوها به کار بردند که احتمالاً شامل موارد زیر بوده است:

• مدل‌های زبانی متفاوت: استفاده از معماری‌های مختلف مدل‌های زبانی برای ایجاد تنوع در سبک و محتوای گفتگوها.
• شخصیت‌پردازی (Persona Prompting): ارائه دستورالعمل‌های دقیق به مدل برای ایفای دو نقش متضاد: یکی به عنوان فردی که گفتار نفرت را ترویج می‌دهد و دیگری به عنوان یک اپراتور آموزش‌دیده که سعی در مقابله سازنده با آن دارد.
• تنظیمات پارامترهای مدل: تغییر پارامترهایی مانند دما (temperature) برای کنترل میزان خلاقیت یا تصادفی بودن پاسخ‌های مدل.

این مرحله به تیم تحقیق اجازه داد تا به سرعت یک بدنه بزرگ از گفتگوهای اولیه را ایجاد کنند که به عنوان ماده خام برای مرحله بعد عمل می‌کرد.

مرحله دوم: بازبینی و غنی‌سازی توسط متخصصان انسانی

این مرحله، قلب تپنده این پژوهش و عامل اصلی تضمین کیفیت دیتاست نهایی است. گفتگوهای تولید شده توسط ماشین، هرچقدر هم که پیشرفته باشند، ممکن است حاوی خطا، ناسازگاری یا پاسخ‌های نامناسب باشند. به همین دلیل، گروهی از حاشیه‌نویسان خبره، که در زمینه شناسایی گفتار نفرت و استراتژی‌های مقابله با آن آموزش دیده‌اند، وظایف زیر را بر عهده گرفتند:

• ارزیابی کیفیت: بررسی هر گفتگو از نظر انسجام، طبیعی بودن و منطقی بودن جریان مکالمه.
• اصلاح و ویرایش: تصحیح اشتباهات گرامری، اطلاعات نادرست و پاسخ‌های نامناسب یا غیرمؤثر از سوی اپراتور شبیه‌سازی‌شده.
• تضمین اثربخشی: اطمینان از اینکه روایت‌های متقابل استفاده‌شده در گفتگوها با بهترین شیوه‌های شناخته‌شده در زمینه مقابله با نفرت (مانند همدلی، طرح سؤال، ارائه آمار و حقایق) مطابقت دارند.
• حاشیه‌نویسی (Annotation): افزودن برچسب‌های اطلاعاتی به گفتگوها، مانند نوع گفتار نفرت (مثلاً نژادپرستی، بیگانه‌هراسی) و استراتژی روایت متقابلی که به کار رفته است.

این رویکرد ترکیبی، مقیاس‌پذیری ماشین را با دقت، درک عمیق و قضاوت اخلاقی انسان ترکیب می‌کند و منجر به تولید یک مجموعه داده بسیار باکیفیت و کاربردی می‌شود.

مهم‌ترین دستاورد و یافته این پژوهش، خودِ مجموعه داده DIALOCONAN است. این دیتاست به عنوان یک منبع عمومی، شکافی حیاتی را در تحقیقات مربوط به مقابله با گفتار نفرت پر می‌کند. ویژگی‌های برجسته این مجموعه داده عبارتند از:

• اولین در نوع خود: این نخستین دیتاست عمومی است که بر روی گفتگوهای چندنوبتی برای مقابله با گفتار نفرت تمرکز دارد.
• مقیاس مناسب: با بیش از ۳۰۰۰ گفتگوی کامل، این دیتاست به اندازه کافی بزرگ است تا بتوان مدل‌های پیچیده یادگیری عمیق را بر روی آن آموزش داد.
• ساختار گفتگومحور: برخلاف دیتاست‌های قبلی، این مجموعه داده به مدل‌ها امکان می‌دهد تا پویایی یک مکالمه واقعی را بیاموزند؛ جایی که استراتژی‌ها ممکن است در طول زمان تغییر کنند.
• پوشش موضوعی گسترده: این دیتاست شش گروه هدف اصلی گفتار نفرت را پوشش می‌دهد که شامل نفرت علیه مهاجران، مسلمانان، یهودیان، جامعه LGBTQ+، زنان و رنگین‌پوستان می‌شود. این تنوع از سوگیری مدل به سمت یک نوع خاص از نفرت جلوگیری می‌کند.
• کیفیت تضمین‌شده: فرآیند بازبینی انسانی تضمین می‌کند که گفتگوها هم واقع‌گرایانه و هم از نظر استراتژی‌های مقابله‌ای، استاندارد و مؤثر هستند.

علاوه بر خود دیتاست، این مقاله اثبات می‌کند که مدل همکاری انسان-ماشین یک روش کارآمد و مؤثر برای ساخت مجموعه داده‌های تخصصی و باکیفیت در حوزه‌های پیچیده اجتماعی است.

ایجاد دیتاست DIALOCONAN پیامدها و کاربردهای عملی گسترده‌ای در مبارزه با فضای آنلاین سمی دارد:

• آموزش چت‌بات‌های پیشرفته: سازمان‌های غیردولتی و پلتفرم‌های آنلاین می‌توانند از این دیتاست برای ساخت و آموزش دستیاران هوشمندی استفاده کنند که به طور خودکار به پیام‌های نفرت‌پراکن با روایت‌های متقابل سازنده پاسخ می‌دهند. این امر به کاهش بار کاری مدیران محتوای انسانی کمک شایانی می‌کند.
• ابزاری برای تحقیقات آکادمیک: پژوهشگران می‌توانند از این دیتاست برای مطالعه اثربخشی استراتژی‌های مختلف مقابله در یک محیط کنترل‌شده استفاده کنند. به عنوان مثال، می‌توان تحلیل کرد که کدام نوع پاسخ‌ها در کاهش تنش یا تغییر دیدگاه موفق‌تر هستند.
• معیاری برای ارزیابی مدل‌ها (Benchmark): DIALOCONAN می‌تواند به عنوان یک استاندارد طلایی برای ارزیابی و مقایسه عملکرد مدل‌های جدید تولید زبان طبیعی که برای این منظور توسعه داده می‌شوند، عمل کند.
• منابع آموزشی برای انسان‌ها: این گفتگوها می‌توانند به عنوان موارد مطالعاتی برای آموزش داوطلبان و مدیران جوامع آنلاین استفاده شوند تا آن‌ها را با روش‌های مؤثر پاسخگویی به نفرت آشنا کنند.

در نهایت، این دستاورد مهم، هوش مصنوعی را از یک ابزار صرفاً واکنشی (حذف محتوا) به یک عامل فعال و سازنده در شکل‌دهی به فرهنگ گفتگوی آنلاین تبدیل می‌کند.

مقاله «رویکردهای همکاری انسان-ماشین برای ساخت دیتاست گفتگو جهت مقابله با گفتار نفرت» یک گام مهم و رو به جلو در استفاده مسئولانه از هوش مصنوعی برای حل یکی از پیچیده‌ترین مشکلات اجتماعی عصر دیجیتال است. نویسندگان با شناسایی دقیق محدودیت‌های ابزارهای موجود، یک راه حل خلاقانه ارائه می‌دهند که نه تنها یک محصول ارزشمند (دیتاست DIALOCONAN) را به جامعه علمی عرضه می‌کند، بلکه یک روش‌شناسی قدرتمند را نیز برای تولید داده‌های مشابه در آینده معرفی می‌نماید.

این پژوهش نشان می‌دهد که آینده مقابله با چالش‌های آنلاین در همکاری هوشمندانه بین انسان و ماشین نهفته است. ماشین‌ها می‌توانند فرآیندها را مقیاس‌پذیر کنند، اما این بینش، اخلاق و درک عمیق انسانی است که کیفیت و اثربخشی نهایی را تضمین می‌کند. DIALOCONAN مسیری جدید را برای توسعه سیستم‌های هوش مصنوعی باز می‌کند که هدفشان نه فقط پاکسازی اینترنت، بلکه تبدیل آن به فضایی برای گفتگوی محترمانه و سازنده است.