اینترنت، با تمام مزایایی که در زمینه ارتباطات، دسترسی به اطلاعات و تسهیل زندگی بشر به ارمغان آورده، متاسفانه به بستری برای انتشار گفتار آزاردهنده، نفرت‌پراکنی و رفتارهای غیراخلاقی نیز تبدیل شده است. گسترش این پدیده می‌تواند آسیب‌های روانی و جسمی جدی به افراد وارد کند و فضای آنلاین را برای بسیاری ناامن و ناخوشایند سازد. مقابله با این چالش، امری ضروری و نیازمند رویکردی جامع و چندجانبه است.

مقاله حاضر با عنوان “مقابله با گفتار آزاردهنده آنلاین: مروری از منظر اخلاق و حقوق بشر” به بررسی تلاش‌های صورت گرفته در زمینه شناسایی و مقابله با گفتار آزاردهنده آنلاین، با تاکید بر ملاحظات اخلاقی و حقوق بشری می‌پردازد. این مقاله، ضمن ارزیابی نقاط قوت و ضعف فناوری‌های موجود، به چالش‌های اخلاقی و حقوقی ناشی از استفاده از این فناوری‌ها، مانند سانسور و تبعیض، نیز توجه ویژه‌ای نشان می‌دهد.

این مقاله توسط سوتلانا کیریچنکو، ایثار نژادقلی و کاتلین سی. فریزر به نگارش درآمده است. این محققان در زمینه‌های پردازش زبان طبیعی (NLP)، هوش مصنوعی و اخلاق فناوری تخصص دارند.

زمینه تحقیقاتی این مقاله در حوزه‌های زیر قرار می‌گیرد:

• پردازش زبان طبیعی (NLP)
• هوش مصنوعی
• اخلاق محاسباتی
• حقوق بشر

مقاله حاضر، مروری جامع بر تحقیقات صورت گرفته در زمینه شناسایی خودکار گفتار آزاردهنده با استفاده از تکنیک‌های پردازش زبان طبیعی (NLP) ارائه می‌دهد. نویسندگان، با در نظر گرفتن هشت اصل اخلاقی کلیدی شامل حریم خصوصی، پاسخگویی، امنیت، شفافیت و توضیح‌پذیری، عدالت و عدم تبعیض، کنترل انسانی بر فناوری، مسئولیت حرفه‌ای و ترویج ارزش‌های انسانی، به بررسی چالش‌های اخلاقی و حقوقی مرتبط با این فناوری می‌پردازند.

آنها استدلال می‌کنند که این اصول، نه تنها به قوانین اخلاقی وابسته به موقعیت‌های خاص، بلکه به حقوق بشر جهان‌شمول مانند حق حریم خصوصی، آزادی از تبعیض و آزادی بیان نیز مرتبط هستند. مقاله بر نیاز به بررسی تاثیرات اجتماعی گسترده این فناوری و در نظر گرفتن ملاحظات اخلاقی و حقوق بشری در تمام مراحل چرخه عمر کاربرد آن، از تعریف وظایف و طراحی مجموعه داده‌ها، تا آموزش و ارزیابی مدل‌ها و استقرار برنامه‌ها، تاکید می‌کند.

در نهایت، نویسندگان با تکیه بر این اصول، فرصت‌هایی را برای راه‌حل‌های اجتماعی-فنی که به حقوق بشر احترام می‌گذارند، شناسایی می‌کنند. این راه حل‌ها شامل مواردی مانند “تلنگر” (Nudging)، “قرنطینه” (Quarantining) محتوای مشکل‌ساز، طراحی حساس به ارزش‌ها (Value Sensitive Design)، روایت‌های متقابل (Counter-Narratives)، انتقال سبک (Style Transfer) و برنامه‌های آموزش عمومی مبتنی بر هوش مصنوعی است.

روش‌شناسی این تحقیق، بر اساس بررسی نظام‌مند (Systematic Review) مقالات و پژوهش‌های مرتبط با موضوع شناسایی و مقابله با گفتار آزاردهنده آنلاین است. نویسندگان با جستجو در پایگاه‌های داده علمی و منابع معتبر، مجموعه‌ای گسترده از مقالات را جمع‌آوری و سپس با استفاده از یک چارچوب تحلیلی مشخص، به بررسی و ارزیابی این مقالات پرداخته‌اند.

این چارچوب تحلیلی، مبتنی بر هشت اصل اخلاقی ذکر شده است. نویسندگان، هر یک از مقالات را از منظر این اصول اخلاقی مورد بررسی قرار داده و نقاط قوت و ضعف آنها را در زمینه رعایت این اصول، شناسایی کرده‌اند.

علاوه بر بررسی مقالات علمی، نویسندگان به بررسی گزارش‌ها و مستندات منتشر شده توسط سازمان‌های مردم‌نهاد و نهادهای حقوق بشری نیز پرداخته‌اند تا دیدگاه‌های مختلف در مورد این موضوع را در نظر بگیرند.

برخی از یافته‌های کلیدی این مقاله عبارتند از:

• فناوری‌های موجود برای شناسایی گفتار آزاردهنده آنلاین، علی‌رغم پیشرفت‌های قابل توجه، هنوز با چالش‌هایی جدی روبرو هستند.
• استفاده از این فناوری‌ها می‌تواند منجر به عواقب ناخواسته مانند سانسور و تبعیض شود، به ویژه در مورد گروه‌های اقلیت و کم‌نماینده. به عنوان مثال، ممکن است الگوریتم‌ها، سخنان انتقادی این گروه‌ها را به اشتباه به عنوان گفتار آزاردهنده شناسایی کنند.
• ملاحظات اخلاقی و حقوق بشری باید در تمام مراحل طراحی، توسعه و استقرار این فناوری‌ها مورد توجه قرار گیرند.
• راه‌حل‌های موثر برای مقابله با گفتار آزاردهنده آنلاین، نیازمند رویکردی جامع و چندجانبه است که شامل آموزش عمومی، تغییر هنجارهای اجتماعی و استفاده از فناوری‌های مسئولانه است.
• تلنگر (Nudging) می‌تواند به عنوان یک ابزار موثر برای تشویق کاربران به رفتارهای مثبت و جلوگیری از انتشار گفتار آزاردهنده مورد استفاده قرار گیرد. به عنوان مثال، می‌توان قبل از ارسال یک پیام تند و زننده، به کاربر هشداری نمایش داد و او را به بازنگری در پیام خود تشویق کرد.
• روایت‌های متقابل (Counter-Narratives) می‌توانند برای مقابله با پیام‌های نفرت‌پراکنی و ترویج ارزش‌های مثبت مورد استفاده قرار گیرند. به عنوان مثال، می‌توان داستان‌هایی از همبستگی و همدلی را در پاسخ به پیام‌های نفرت‌پراکنی منتشر کرد.

این مقاله، کاربردهای متعددی در زمینه‌های مختلف دارد:

• سیاست‌گذاری: یافته‌های این مقاله می‌تواند به سیاست‌گذاران در تدوین قوانین و مقرراتی که به مقابله با گفتار آزاردهنده آنلاین می‌پردازند، کمک کند.
• توسعه فناوری: این مقاله می‌تواند به توسعه‌دهندگان فناوری در طراحی سیستم‌هایی که به طور مسئولانه و با رعایت حقوق بشر، گفتار آزاردهنده را شناسایی و مدیریت می‌کنند، کمک کند.
• آموزش عمومی: یافته‌های این مقاله می‌تواند در برنامه‌های آموزش عمومی برای افزایش آگاهی مردم در مورد گفتار آزاردهنده آنلاین و نحوه مقابله با آن، مورد استفاده قرار گیرد.
• حمایت از قربانیان: این مقاله می‌تواند به سازمان‌های حمایت از قربانیان گفتار آزاردهنده آنلاین در ارائه خدمات بهتر و موثرتر به این افراد، کمک کند.

یکی از مهم‌ترین دستاوردهای این مقاله، تاکید بر اهمیت در نظر گرفتن ملاحظات اخلاقی و حقوق بشری در تمام مراحل چرخه عمر کاربرد فناوری‌های مقابله با گفتار آزاردهنده آنلاین است. این امر، می‌تواند به جلوگیری از عواقب ناخواسته مانند سانسور و تبعیض، کمک کند.

مقاله “مقابله با گفتار آزاردهنده آنلاین: مروری از منظر اخلاق و حقوق بشر” به طور جامع به بررسی چالش‌های اخلاقی و حقوقی مرتبط با شناسایی و مقابله با گفتار آزاردهنده آنلاین می‌پردازد. این مقاله، ضمن ارائه یک چارچوب تحلیلی مبتنی بر اصول اخلاقی و حقوق بشری، راهکارهایی را برای توسعه و استقرار فناوری‌های مسئولانه در این زمینه، پیشنهاد می‌دهد.

نویسندگان تاکید می‌کنند که مقابله با گفتار آزاردهنده آنلاین، نیازمند رویکردی جامع و چندجانبه است که شامل همکاری بین دولت‌ها، شرکت‌های فناوری، سازمان‌های مردم‌نهاد و کاربران اینترنت است. با رعایت اصول اخلاقی و حقوق بشری، می‌توان فضایی امن‌تر و عادلانه‌تر را در دنیای آنلاین ایجاد کرد.

در نهایت، این مقاله، تلنگری است برای همه فعالان این حوزه تا با در نظر گرفتن ابعاد اخلاقی و اجتماعی، به دنبال راهکارهای پایدار و مسئولانه برای مقابله با این پدیده شوم باشند.