مقاله حاضر به بررسی دقیق و جامع سوگیری‌های موجود در روش‌های تحلیل سمیت (Toxicity Analysis) و تحلیل احساسات (Sentiment Analysis) در قبال متون و گفته‌هایی می‌پردازد که از گویش انگلیسی آفریقایی-آمریکایی (African American English – AAE) استفاده می‌کنند. در دنیای امروز، با گسترش شبکه‌های اجتماعی و پلتفرم‌های آنلاین، گویش‌های مختلف زبانی از جمله AAE در این فضاها رواج بیشتری یافته‌اند. اما، الگوریتم‌ها و مدل‌های هوش مصنوعی که برای تحلیل محتوای این پلتفرم‌ها به کار می‌روند، اغلب در تشخیص دقیق و بدون سوگیری این گویش‌ها با مشکل مواجه هستند. این مقاله با تمرکز بر این چالش، به بررسی این سوگیری‌ها و ارائه راهکارهایی برای کاهش آنها می‌پردازد.

این تحقیق توسط Guilherme H. Resende، Luiz F. Nery، Fabrício Benevenuto، Savvas Zannettou، و Flavio Figueiredo انجام شده است. این محققان در زمینه‌های محاسبات زبانی و شبکه‌های اجتماعی و اطلاعاتی تخصص دارند و تجربه قابل توجهی در تحلیل داده‌های متنی و شبکه‌های اجتماعی دارند. زمینه تخصصی این محققان به آنها این امکان را داده است تا با دقت و ظرافت، جنبه‌های مختلف سوگیری در الگوریتم‌های تحلیل زبان را بررسی کنند.

این مقاله نشان می‌دهد که روش‌های رایج تحلیل سمیت و احساسات، اغلب سوگیری‌هایی نسبت به عبارات و اصطلاحات AAE دارند. برای مثال، ابزاری مانند Perspective گوگل، ممکن است عباراتی را که در AAE معنای مثبتی دارند، به اشتباه به عنوان سمی و توهین‌آمیز شناسایی کند. دلیل این امر، آموزش این مدل‌ها بر روی مجموعه‌داده‌هایی است که نمایندگی کافی از AAE ندارند و در نتیجه، بافت و کاربرد خاص این گویش را درک نمی‌کنند. مقاله با بررسی داده‌های جمع‌آوری شده از یوتیوب، توییتر، و مجموعه‌های داده‌های گفتاری، نشان می‌دهد که این سوگیری‌ها در اکثر موارد وجود دارند و می‌توانند منجر به ارزیابی‌های نادرست و ناعادلانه شوند.

• مثال: فرض کنید ابزار Perspective گوگل عبارتی مانند “All n*ggers deserve to die respectfully. The police murder us” را با امتیاز سمیت بالاتری نسبت به عبارت “African-Americans deserve to die respectfully. The police murder us” ارزیابی کند. این اختلاف امتیاز به دلیل عدم درک ابزار از کاربرد مجدد واژه “n*gger” در AAE است.

محققان برای بررسی سوگیری‌ها، از روش‌های مختلفی استفاده کرده‌اند. آنها ابتدا داده‌ها را از منابع مختلف جمع‌آوری کرده و سپس از ابزارهای تحلیل زبان (LIWC) برای استخراج ویژگی‌های زبانی استفاده کرده‌اند. همچنین، از برچسب‌گذاری دستوری (PoS tagging) برای تحلیل ساختار گرامری جملات استفاده شده است. برای ارزیابی معنای جملات، از مدل‌های زبانی پیشرفته (Sentence Embeddings) استفاده شده است تا تشابه معنایی بین جملات با و بدون عبارات AAE مقایسه شود. این روش‌ها به محققان کمک کرده‌اند تا تاثیر استفاده از عبارات AAE بر ارزیابی سمیت و احساسات را به طور دقیق بررسی کنند.

• ابزار تحلیل زبان (LIWC): برای استخراج ویژگی‌های زبانی متن، مانند تعداد کلمات عاطفی، کلمات مرتبط با موضوعات خاص، و غیره.
• برچسب‌گذاری دستوری (PoS tagging): برای تحلیل ساختار گرامری جملات و شناسایی نقش کلمات مختلف در جمله.
• مدل‌های زبانی پیشرفته (Sentence Embeddings): برای نمایش معنایی جملات به صورت برداری و مقایسه شباهت معنایی بین جملات.

با استفاده از این ابزارها و روش‌ها، محققان توانسته‌اند تاثیر استفاده از عبارات AAE را بر روی امتیاز سمیت و احساسات جملات، مستقل از موضوع و محتوای اصلی جملات، اندازه‌گیری کنند.

یافته‌های اصلی این تحقیق نشان می‌دهند که استفاده از عبارات AAE به طور قابل توجهی می‌تواند باعث شود که یک سخنران یا نویسنده به عنوان فردی سمی‌تر و توهین‌آمیزتر تلقی شود، حتی اگر در مورد موضوعی مشابه با دیگران صحبت کند. این سوگیری می‌تواند پیامدهای جدی برای جوامع AAE داشته باشد، زیرا ممکن است باعث سانسور، تبعیض، و نادیده گرفته شدن صدای آنها در فضای آنلاین شود.

• سوگیری در امتیاز سمیت: جملاتی که از عبارات AAE استفاده می‌کنند، به طور سیستماتیک امتیاز سمیت بالاتری دریافت می‌کنند، حتی زمانی که محتوای آنها مشابه جملات بدون این عبارات باشد.
• تاثیر بر تشخیص احساسات: استفاده از AAE می‌تواند بر تشخیص احساسات در متن تاثیر بگذارد و منجر به تفسیر نادرست احساسات گوینده یا نویسنده شود.
• تبعیض الگوریتمی: این سوگیری‌ها می‌توانند به تبعیض الگوریتمی منجر شوند، جایی که الگوریتم‌ها به طور ناعادلانه بر اساس گویش افراد قضاوت می‌کنند.

این یافته‌ها اهمیت توجه به تنوع زبانی و نیاز به توسعه مدل‌های هوش مصنوعی عادلانه‌تر و دقیق‌تر را برجسته می‌کنند.

این تحقیق دارای کاربردهای عملی متعددی است. نتایج آن می‌تواند به توسعه‌دهندگان الگوریتم‌های تحلیل زبان کمک کند تا مدل‌های خود را بهبود بخشند و سوگیری‌ها را کاهش دهند. همچنین، این تحقیق می‌تواند به فعالان حقوق اجتماعی و مدافعان عدالت زبانی کمک کند تا آگاهی عمومی را در مورد این سوگیری‌ها افزایش دهند و برای رفع آنها تلاش کنند. دستاوردهای اصلی این تحقیق عبارتند از:

• افزایش آگاهی: این تحقیق توجه‌ها را به سوگیری‌های پنهان در الگوریتم‌های تحلیل زبان جلب می‌کند.
• ارائه راهکارها: این تحقیق می‌تواند الهام‌بخش توسعه راهکارهایی برای کاهش سوگیری‌ها و بهبود عملکرد الگوریتم‌ها در قبال گویش‌های مختلف زبانی باشد.
• توسعه مدل‌های عادلانه‌تر: نتایج این تحقیق می‌تواند به توسعه مدل‌های هوش مصنوعی عادلانه‌تر و دقیق‌تر منجر شود که به تنوع زبانی احترام می‌گذارند.

با توجه به گسترش روزافزون استفاده از هوش مصنوعی در تحلیل زبان، این دستاوردها اهمیت ویژه‌ای دارند.

این مقاله با ارائه شواهد قانع‌کننده نشان می‌دهد که روش‌های فعلی تحلیل سمیت و احساسات دارای سوگیری‌های قابل توجهی نسبت به عبارات و اصطلاحات AAE هستند. این سوگیری‌ها می‌توانند پیامدهای منفی برای جوامع AAE داشته باشند و منجر به تبعیض و نادیده گرفته شدن صدای آنها در فضای آنلاین شوند. برای رفع این مشکل، نیاز است که توسعه‌دهندگان الگوریتم‌ها و محققان هوش مصنوعی به تنوع زبانی توجه بیشتری داشته باشند و تلاش کنند تا مدل‌های عادلانه‌تر و دقیق‌تری را توسعه دهند. این تحقیق گامی مهم در جهت تحقق عدالت زبانی در عصر هوش مصنوعی است و می‌تواند الهام‌بخش تحقیقات و اقدامات بیشتری در این زمینه باشد.

به طور خلاصه، این تحقیق نشان می‌دهد که:

• سوگیری‌های زبانی در الگوریتم‌های هوش مصنوعی یک مشکل جدی است.
• توجه به تنوع زبانی برای توسعه الگوریتم‌های عادلانه‌تر ضروری است.
• اقدامات عملی برای کاهش سوگیری‌ها و بهبود عملکرد الگوریتم‌ها در قبال گویش‌های مختلف زبانی امکان‌پذیر است.