۱. معرفی مقاله و اهمیت آن

در عصر دیجیتال کنونی، رشد فزاینده محتوای آنلاین، چالش‌های بی‌سابقه‌ای را در زمینه حفظ فضایی امن و سازنده برای کاربران ایجاد کرده است. از سوی دیگر، با گسترش پلتفرم‌های شبکه‌های اجتماعی و فضاهای تعاملی، مسئله مدیریت محتوای مضر و آزاردهنده به یکی از دغدغه‌های اصلی شرکت‌های فناوری و پژوهشگران علوم کامپیوتر تبدیل شده است. مقاله‌ی “تأثیر تعریف ‘آسیب’ بر برچسب‌گذاری داده‌ها: تبیین چگونگی تمایز برچسب‌گذاران بین نظرات نفرت‌انگیز، توهین‌آمیز و سمی” به قلم آنجلا شوپکه-گونزالس و همکارانش، در همین راستا به بررسی دقیق و حیاتی یکی از چالش‌های اساسی در این حوزه می‌پردازد: ابهام و سردرگمی در تعریف و تمایز مفاهیم مختلف محتوای مضر.

این مقاله به طور خاص بر این نکته تاکید دارد که چگونه تعاریف مورد استفاده برای ‘آسیب’ – که شامل طیف وسیعی از اصطلاحات مانند ‘نفرت‌انگیز’، ‘توهین‌آمیز’، ‘سمی’، ‘نژادپرستانه’ و ‘جنسیت‌زده’ می‌شود – به طور مستقیم بر کیفیت و اعتبار مجموعه‌داده‌های آموزشی مورد استفاده برای الگوریتم‌های هوش مصنوعی تأثیر می‌گذارد. اهمیت این پژوهش در آن است که با ارائه شواهد تجربی، نشان می‌دهد که این اصطلاحات به هیچ وجه قابل جایگزینی نیستند و نادیده گرفتن تفاوت‌های ظریف میان آن‌ها می‌تواند منجر به ساخت مدل‌های هوش مصنوعی ناکارآمد و تصمیم‌گیری‌های نادرست در فرایند اعتدال‌بخشی محتوا (Content Moderation) شود.

با توجه به اتکای روزافزون به یادگیری ماشین و پردازش زبان طبیعی برای شناسایی و حذف محتوای مضر، فهم عمیق‌تر این تمایزات نه تنها برای بهبود دقت الگوریتم‌ها ضروری است، بلکه به پلتفرم‌ها کمک می‌کند تا سیاست‌های اعتدال‌بخشی خود را شفاف‌تر و عادلانه‌تر تدوین کنند. این پژوهش، گامی مهم در جهت روشن‌سازی پیچیدگی‌های تعاریف آسیب و ارائه راهکارهایی عملی برای پژوهشگران و توسعه‌دهندگان الگوریتم‌ها محسوب می‌شود.

۲. نویسندگان و زمینه تحقیق

این مقاله توسط تیمی از پژوهشگران برجسته شامل Angela Schöpke-Gonzalez, Siqi Wu, Sagar Kumar, Paul J. Resnick و Libby Hemphill به رشته تحریر درآمده است. این ترکیب از نویسندگان، نشان‌دهنده یک رویکرد میان‌رشته‌ای قوی است که اغلب در تحقیقات پیشرفته در حوزه علوم اجتماعی محاسباتی (Computational Social Science) دیده می‌شود. تخصص این افراد به احتمال زیاد شامل حوزه‌هایی نظیر پردازش زبان طبیعی، تعامل انسان و کامپیوتر، علم اطلاعات و مطالعات ارتباطات است که همگی برای درک پدیده‌های اجتماعی آنلاین و توسعه راه‌حل‌های فناورانه مرتبط با آن ضروری هستند.

زمینه تحقیق این مقاله، در تقاطع علوم اجتماعی محاسباتی و پردازش زبان طبیعی (NLP) قرار دارد. در سال‌های اخیر، تحقیقات گسترده‌ای در زمینه توسعه مدل‌های هوش مصنوعی برای کمک به ناظران محتوا در شناسایی و مدیریت محتوای مضر صورت گرفته است. این پیشرفت‌ها عمدتاً متکی بر داده‌های آموزشی هستند که توسط “کارگران جمع‌سپاری” (crowdworkers) برچسب‌گذاری شده‌اند. در این فرایند، افراد انسانی متون را مطالعه کرده و بر اساس دستورالعمل‌هایی خاص، برچسب‌های مربوط به ماهیت مضر آن‌ها را اختصاص می‌دهند.

مشکل اینجاست که در طراحی دستورالعمل‌ها برای این وظایف برچسب‌گذاری، اغلب مفاهیم مختلف آسیب‌رسان مانند ‘نفرت‌انگیز’، ‘توهین‌آمیز’، ‘سمی’، ‘نژادپرستانه’ و ‘جنسیت‌زده’ به عنوان مفاهیمی قابل جایگزینی و هم‌معنی در نظر گرفته می‌شوند. این فرض اشتباه می‌تواند منجر به عدم دقت و سازگاری در داده‌های آموزشی شود که به نوبه خود بر عملکرد مدل‌های هوش مصنوعی تأثیر منفی می‌گذارد. این پژوهش با هدف به چالش کشیدن این فرض رایج و ارائه شواهد تجربی برای روشن کردن تفاوت‌های ظریف در نحوه درک و برچسب‌گذاری این مفاهیم توسط انسان‌ها انجام شده است.

۳. چکیده و خلاصه محتوا

این مقاله به بررسی این مسئله محوری می‌پردازد که آیا نحوه تعریف ‘آسیب’ توسط پژوهشگران، بر نتایج برچسب‌گذاری داده‌ها توسط انسان‌ها تأثیر می‌گذارد یا خیر. خلاصه محتوای مقاله به شرح زیر است:

• پیش‌زمینه: تحقیقات اخیر در علوم اجتماعی محاسباتی، به پیشرفت‌هایی در زمینه یادگیری ماشین و پردازش زبان طبیعی دست یافته‌اند که ناظران محتوا را در شناسایی محتوای مضر یاری می‌دهند. این پیشرفت‌ها اغلب بر مجموعه‌داده‌های آموزشی متکی هستند که توسط کارگران جمع‌سپاری برای محتوای مضر برچسب‌گذاری شده‌اند.
• مشکل موجود: در طراحی دستورالعمل‌های وظایف برچسب‌گذاری، پژوهشگران معمولاً مفاهیم آسیب‌رسان مانند ‘نفرت‌انگیز’، ‘توهین‌آمیز’، ‘سمی’، ‘نژادپرستانه’ و ‘جنسیت‌زده’ را به عنوان مفاهیمی قابل جایگزینی در نظر می‌گیرند.
• هدف تحقیق: پژوهشگران در این مطالعه، به دنبال این بودند که دریابند آیا نحوه تعریف ‘آسیب’ بر نتایج برچسب‌گذاری تأثیرگذار است یا خیر.
• یافته‌های اصلی:
  • با استفاده از نمودارهای ون، مقایسات بهره اطلاعاتی و تحلیل محتوا، مقاله نشان می‌دهد که برچسب‌گذاران مفاهیم ‘نفرت‌انگیز’، ‘توهین‌آمیز’ و ‘سمی’ را به طور قابل جایگزینی استفاده نمی‌کنند. به عبارت دیگر، این مفاهیم در ذهن انسان‌ها دارای تمایزات معناداری هستند.
  • ویژگی‌های تعاریف آسیب و ویژگی‌های فردی برچسب‌گذاران، بخش عمده‌ای از نحوه استفاده متفاوت آن‌ها از این اصطلاحات را توضیح می‌دهد. به عنوان مثال، نحوه فرمول‌بندی دستورالعمل‌ها یا پیش‌زمینه‌های فرهنگی و شخصی برچسب‌گذاران می‌تواند بر قضاوت آن‌ها تأثیر بگذارد.
• پیامدهای عملی:
  • نتایج، شواهد تجربی محکمی ارائه می‌دهند که از عمل رایج استفاده قابل جایگزینی از مفاهیم آسیب در تحقیقات اعتدال‌بخشی محتوا جلوگیری می‌کند.
  • پژوهشگران باید انتخاب‌های خاصی در مورد اینکه کدام یک از مفاهیم آسیب را بر اساس اهداف تحقیقاتی خود تحلیل کنند، داشته باشند.
  • برای پژوهشگرانی که با محدودیت منابع مواجه هستند، توصیه می‌شود اطلاعاتی برای محدود کردن یافته‌های خود ارائه دهند، به خصوص زمانی که مفاهیم مورد علاقه آن‌ها با مفاهیمی که الگوریتم‌های آماده تشخیص محتوای مضر شناسایی می‌کنند، تفاوت دارد.
  • ارائه‌دهندگان الگوریتم‌ها نیز تشویق می‌شوند تا اطمینان حاصل کنند که ابزارهایشان می‌توانند با اهداف تشخیص محتوای خاص و زمینه‌ای (مثلاً با درخواست بازخورد از کاربران ابزار) سازگار شوند.

۴. روش‌شناسی تحقیق

برای بررسی تأثیر تعاریف آسیب بر برچسب‌گذاری داده‌ها، نویسندگان این مقاله از یک رویکرد روش‌شناختی جامع و چندوجهی بهره بردند. هسته اصلی این روش‌شناسی بر تحلیل پاسخ‌های برچسب‌گذاران انسانی (crowdworkers) به محتواهای مختلف متمرکز بود. این کارگران برچسب‌گذاری، وظیفه داشتند تا نظرات آنلاین را بر اساس معیارهای مشخص شده، تحت دسته‌های ‘نفرت‌انگیز’، ‘توهین‌آمیز’ و ‘سمی’ طبقه‌بندی کنند.

مراحل و ابزارهای کلیدی روش‌شناسی عبارتند از:

• طراحی آزمایش برچسب‌گذاری: پژوهشگران احتمالاً مجموعه‌ای از دستورالعمل‌های متفاوت را برای تعریف هر یک از مفاهیم ‘نفرت‌انگیز’، ‘توهین‌آمیز’ و ‘سمی’ طراحی کرده‌اند. این دستورالعمل‌ها به گروه‌های مختلفی از برچسب‌گذاران یا به صورت متوالی به همان گروه ارائه شده‌اند تا تأثیر تفاوت در تعاریف بر نتایج برچسب‌گذاری سنجیده شود. نظرات مورد استفاده برای برچسب‌گذاری نیز از پلتفرم‌های آنلاین جمع‌آوری شده‌اند که نمایانگر طیف وسیعی از محتوای بالقوه مضر هستند.

• استفاده از کارگران جمع‌سپاری (Crowdworkers): برای جمع‌آوری حجم وسیعی از داده‌های برچسب‌گذاری شده، از پلتفرم‌های جمع‌سپاری (مانند Amazon Mechanical Turk یا مشابه آن) استفاده شده است. این پلتفرم‌ها امکان دسترسی به تعداد زیادی از افراد را برای انجام وظایف تکراری و زمان‌بر فراهم می‌کنند. انتخاب این روش، اطمینان از تنوع در دیدگاه‌ها و قضاوت‌های انسانی را نیز به همراه دارد.

• تحلیل با استفاده از نمودارهای ون (Venn Diagrams): یکی از ابزارهای اصلی برای بصری‌سازی و تحلیل داده‌ها، استفاده از نمودارهای ون بود. این نمودارها به پژوهشگران اجازه دادند تا میزان همپوشانی (overlap) و تمایز (distinctness) بین برچسب‌های ‘نفرت‌انگیز’، ‘توهین‌آمیز’ و ‘سمی’ را نشان دهند. به عنوان مثال، اگر یک نظر همزمان به عنوان ‘توهین‌آمیز’ و ‘سمی’ برچسب‌گذاری شده باشد، این در ناحیه همپوشانی مربوطه در نمودار ون منعکس می‌شود. این تحلیل به وضوح نشان داد که این مفاهیم کاملاً مجزا نیستند اما به طور کامل همپوشانی نیز ندارند.

• مقایسات بهره اطلاعاتی (Information Gain Comparisons): برای کمی‌سازی میزان وابستگی و تمایز بین این مفاهیم، از معیارهای بهره اطلاعاتی استفاده شد. بهره اطلاعاتی یک مفهوم از نظریه اطلاعات است که نشان می‌دهد با دانستن یک متغیر، چقدر اطلاعات درباره متغیر دیگری به دست می‌آوریم. اگر بهره اطلاعاتی بالا باشد، به این معنی است که دانستن یک برچسب (مثلاً ‘نفرت‌انگیز’) اطلاعات زیادی در مورد برچسب دیگر (مثلاً ‘سمی’) به ما می‌دهد. نتایج پایین بهره اطلاعاتی نشان می‌دهد که این مفاهیم به طور مستقل توسط برچسب‌گذاران ارزیابی می‌شوند و نمی‌توان به راحتی یکی را با دیگری پیش‌بینی کرد.

• تحلیل محتوا (Content Analysis): علاوه بر تحلیل‌های کمی، پژوهشگران به تحلیل کیفی محتوا نیز پرداختند. در این بخش، آن‌ها به طور عمیق به بررسی نظراتی پرداختند که به طور متفاوت برچسب‌گذاری شده بودند یا در مناطق خاصی از نمودارهای ون قرار می‌گرفتند. این تحلیل به شناسایی ویژگی‌های زبانی، مضمونی و متنی کمک کرد که برچسب‌گذاران را به سمت انتخاب یک برچسب خاص هدایت می‌کردند. به عنوان مثال، آیا توهین مستقیم و شخصی بیشتر به سمت ‘توهین‌آمیز’ می‌رود، در حالی که حمله به گروه‌های هویتی ‘نفرت‌انگیز’ تلقی می‌شود و یا لحن منفی عمومی و آزاردهنده به سمت ‘سمی’ می‌رود؟ این تحلیل محتوایی، لایه‌های عمیق‌تری از درک را در مورد استدلال‌های برچسب‌گذاران فراهم آورد.

این رویکرد ترکیبی، امکان استخراج نتایج قوی و معتبری را فراهم آورد که هم از نظر کمی و هم کیفی، تفاوت‌های ظریف در ادراک و برچسب‌گذاری محتوای مضر را آشکار می‌سازد.

۵. یافته‌های کلیدی

نتایج این پژوهش، بینش‌های مهمی را در مورد نحوه درک و برچسب‌گذاری محتوای مضر توسط انسان‌ها ارائه می‌دهد و چالش‌های موجود در طراحی الگوریتم‌های اعتدال‌بخشی محتوا را برجسته می‌سازد. یافته‌های کلیدی مقاله به شرح زیر است:

• عدم قابلیت جایگزینی مفاهیم: اصلی‌ترین و مهم‌ترین یافته این تحقیق این است که برچسب‌گذاران انسانی، مفاهیم ‘نفرت‌انگیز’، ‘توهین‌آمیز’ و ‘سمی’ را به عنوان اصطلاحاتی قابل جایگزینی و هم‌معنی به کار نمی‌برند. این بدین معناست که هر یک از این واژه‌ها، بار معنایی و دلالت‌های خاص خود را دارند که برچسب‌گذاران در حین ارزیابی محتوا، آن‌ها را از هم تمیز می‌دهند. نمودارهای ون و محاسبات بهره اطلاعاتی به وضوح نشان دادند که در حالی که ممکن است همپوشانی‌هایی وجود داشته باشد (مثلاً یک محتوا همزمان توهین‌آمیز و سمی باشد)، اما بخش‌های قابل توجهی از هر دسته، منحصر به فرد هستند و نمی‌توانند صرفاً با یکی از دسته‌های دیگر تعریف شوند.

• تأثیر ویژگی‌های تعاریف آسیب: این پژوهش نشان داد که نحوه فرمول‌بندی و تعریف هر یک از مفاهیم ‘آسیب’ در دستورالعمل‌های برچسب‌گذاری، به شدت بر قضاوت برچسب‌گذاران تأثیر می‌گذارد. اگر یک تعریف به طور خاص بر ‘هدف قرار دادن گروهی خاص’ تمرکز کند، احتمال اینکه برچسب‌گذاران آن محتوا را ‘نفرت‌انگیز’ بدانند بیشتر است. در مقابل، اگر تعریف بر ‘استفاده از کلمات رکیک’ تأکید کند، محتوا به سمت ‘توهین‌آمیز’ سوق داده می‌شود. این یافته بر اهمیت دقت در تدوین دستورالعمل‌های برچسب‌گذاری تأکید دارد.

• نقش ویژگی‌های فردی برچسب‌گذاران: علاوه بر تعاریف، ویژگی‌های فردی برچسب‌گذاران نیز در تمایز این مفاهیم نقش دارند. این ویژگی‌ها می‌توانند شامل پیش‌زمینه‌های فرهنگی، تجربیات شخصی، حساسیت‌های فردی و حتی تفسیر آن‌ها از دستورالعمل‌ها باشند. به عنوان مثال، یک فرد با تجربه بیشتر در مواجهه با تبعیض، ممکن است محتوایی را سریع‌تر به عنوان ‘نفرت‌انگیز’ شناسایی کند، در حالی که فردی دیگر ممکن است همان محتوا را صرفاً ‘توهین‌آمیز’ تشخیص دهد. این یافته پیچیدگی‌های دخیل در فرایند برچسب‌گذاری انسانی را نشان می‌دهد و نیاز به توجه به تنوع برچسب‌گذاران را گوشزد می‌کند.

• مثال‌های عملی از تمایز:

  • یک نظر که به طور مستقیم یک گروه قومی یا نژادی را هدف قرار داده و از الفاظ تحقیرآمیز استفاده می‌کند، به احتمال زیاد توسط برچسب‌گذاران عمدتاً “نفرت‌انگیز” تلقی می‌شود.
  • نظری که شامل ناسزاگویی و الفاظ رکیک باشد اما هدف آن حمله به یک گروه خاص نباشد، ممکن است بیشتر “توهین‌آمیز” در نظر گرفته شود.
  • یک پیام که لحنی پرخاشگرانه، تحریک‌کننده یا آزاردهنده دارد و فضای مکالمه را مسموم می‌کند، حتی بدون استفاده از توهین مستقیم یا نفرت‌افکنی، می‌تواند به عنوان “سمی” طبقه‌بندی شود.

• این تمایزات نشان می‌دهد که اگرچه برخی محتواها ممکن است در بیش از یک دسته قرار گیرند، اما ماهیت اصلی و دلیل مضر بودن آن‌ها می‌تواند متفاوت باشد، و این تفاوت‌ها برای برچسب‌گذاران انسانی محسوس است.

۶. کاربردها و دستاوردها

یافته‌های این پژوهش پیامدهای عملی گسترده‌ای برای چندین گروه ذینفع دارد و می‌تواند به بهبود قابل توجهی در نحوه مدیریت محتوای آنلاین منجر شود:

• برای پژوهشگران اعتدال‌بخشی محتوا:

  • پرهیز از استفاده قابل جایگزینی: مهم‌ترین دستاورد، ارائه شواهد تجربی قوی برای خودداری از استفاده از مفاهیم آسیب به صورت قابل جایگزینی است. این به معنای آن است که در مطالعات آتی، پژوهشگران باید مفاهیم ‘نفرت‌انگیز’، ‘توهین‌آمیز’ و ‘سمی’ را به عنوان دسته‌های مجزا و با تعاریف دقیق تحلیل کنند.
  • اهمیت انتخاب دقیق: پژوهشگران تشویق می‌شوند تا بر اساس اهداف تحقیقاتی خود، انتخاب‌های مشخصی در مورد اینکه کدام یک از مفاهیم آسیب را تحلیل کنند، داشته باشند. به جای تلاش برای پوشش دادن همه چیز با یک برچسب کلی، تمرکز بر روی یک نوع خاص از آسیب می‌تواند نتایج دقیق‌تر و قابل‌کاربردتری را به همراه داشته باشد.
  • شفافیت در محدودیت‌ها: برای پژوهشگرانی که با محدودیت منابع مواجه هستند و نمی‌توانند برای هر نوع آسیب، داده‌های برچسب‌گذاری شده مجزا جمع‌آوری کنند، توصیه می‌شود که شفافیت لازم را در مورد محدودیت‌های کار خود و تفاوت مفاهیم مورد مطالعه با الگوریتم‌های آماده (off-the-shelf) موجود در بازار، ارائه دهند. این کار به جلوگیری از سوءتفاهم و کاربرد نادرست نتایج کمک می‌کند.

• برای توسعه‌دهندگان الگوریتم‌های هوش مصنوعی و ارائه‌دهندگان پلتفرم:

  • الگوریتم‌های قابل انطباق: این مطالعه، ارائه‌دهندگان الگوریتم‌ها را تشویق می‌کند تا ابزارهایی طراحی کنند که بتوانند با اهداف تشخیص محتوای خاص و زمینه‌ای سازگار شوند. به عنوان مثال، یک پلتفرم ممکن است نیازهای متفاوتی برای تشخیص محتوای ‘توهین‌آمیز’ در مقایسه با ‘نفرت‌انگیز’ داشته باشد، و الگوریتم باید قادر به تمایز این موارد باشد.
  • اهمیت بازخورد کاربر: توصیه می‌شود که در طراحی و بهبود ابزارهای تشخیص محتوا، بازخورد کاربران و ناظران انسانی به طور فعال جمع‌آوری و در نظر گرفته شود. این بازخوردها می‌توانند به تنظیم دقیق‌تر الگوریتم‌ها برای تطابق با تفاوت‌های ظریف در درک آسیب کمک کنند.

• برای سیاست‌گذاران و ناظران محتوا:

  • تدوین سیاست‌های دقیق‌تر: این یافته‌ها به ناظران محتوا و سیاست‌گذاران پلتفرم‌ها کمک می‌کند تا سیاست‌های اعتدال‌بخشی شفاف‌تر و دقیق‌تری را تدوین کنند. به جای استفاده از یک رویکرد یکسان برای همه انواع محتوای مضر، می‌توان دستورالعمل‌ها و اقدامات متفاوتی را برای محتوای نفرت‌انگیز، توهین‌آمیز یا سمی در نظر گرفت.
  • افزایش عدالت و سازگاری: با درک بهتر تمایزات، می‌توان به سمت تصمیم‌گیری‌های عادلانه‌تر و سازگارتر در فرایند اعتدال‌بخشی محتوا حرکت کرد، که در نهایت به افزایش اعتماد کاربران و بهبود فضای آنلاین کمک می‌کند.

در مجموع، این تحقیق به عنوان یک راهنما عمل می‌کند تا جامعه علمی و صنعتی از سادگی بیش از حد در برخورد با مفاهیم پیچیده آسیب در فضای آنلاین پرهیز کرده و به سمت رویکردهای دقیق‌تر، آگاهانه‌تر و مسئولانه‌تر حرکت کند.

۷. نتیجه‌گیری

مقاله “تأثیر تعریف ‘آسیب’ بر برچسب‌گذاری داده‌ها: تبیین چگونگی تمایز برچسب‌گذاران بین نظرات نفرت‌انگیز، توهین‌آمیز و سمی” یک سهم مهم و به موقع در حوزه اعتدال‌بخشی محتوای آنلاین و علوم اجتماعی محاسباتی محسوب می‌شود. این پژوهش به طور قانع‌کننده‌ای نشان می‌دهد که فرض رایج مبنی بر قابل جایگزینی بودن مفاهیمی نظیر ‘نفرت‌انگیز’، ‘توهین‌آمیز’ و ‘سمی’ در واقعیت درست نیست و برچسب‌گذاران انسانی این مفاهیم را به شیوه‌های متمایزی درک و اعمال می‌کنند.

با استفاده از روش‌های تحلیلی قوی مانند نمودارهای ون، مقایسات بهره اطلاعاتی و تحلیل محتوا، نویسندگان شواهد تجربی محکمی ارائه کرده‌اند که نه تنها بر وجود این تمایزات تأکید دارد، بلکه عواملی نظیر ویژگی‌های تعاریف آسیب و مشخصات فردی برچسب‌گذاران را به عنوان تبیین‌کننده‌های اصلی این تفاوت‌ها شناسایی می‌کند. این یافته‌ها چشمان ما را به روی پیچیدگی‌های زبانی و ادراکی موجود در طبقه‌بندی محتوای آنلاین باز می‌کند.

پیام اصلی مقاله روشن است: جامعه علمی و صنعتی باید از رویکردهای ساده‌انگارانه در تعریف و تشخیص محتوای مضر دست بردارد. در عوض، باید به سمت انتخاب‌های مشخص و آگاهانه در مورد مفاهیم آسیب حرکت کرد که بر اساس اهداف تحقیقاتی و سیاستی خاص، تعریف و تحلیل می‌شوند. این امر نه تنها به ساخت مجموعه‌داده‌های آموزشی با کیفیت بالاتر برای الگوریتم‌های هوش مصنوعی کمک می‌کند، بلکه منجر به توسعه مدل‌هایی می‌شود که قادر به تشخیص دقیق‌تر و ظریف‌تر انواع مختلف آسیب هستند.

در نهایت، این مقاله یک دعوت به عمل برای تمام ذینفعان است: از پژوهشگرانی که داده‌های آموزشی تولید می‌کنند تا توسعه‌دهندگان الگوریتم و ارائه‌دهندگان پلتفرم‌ها. با پذیرش پیچیدگی‌های تعاریف آسیب و گنجاندن آن‌ها در فرایندهای تحقیقاتی و عملیاتی خود، می‌توانیم به سمت ایجاد یک فضای آنلاین امن‌تر، فراگیرتر و عادلانه‌تر گام برداریم که در آن تفاوت‌های ظریف در گفتار انسانی به درستی درک و مدیریت می‌شوند. این پژوهش، مبنایی محکم برای تحقیقات آتی در زمینه اعتدال‌بخشی محتوا فراهم می‌آورد و اهمیت توجه به ابعاد انسانی در طراحی سیستم‌های هوش مصنوعی را برجسته می‌سازد.