مقاله پیش رو، به بررسی انتقادی ابزارهای تحلیل احساسات (Sentiment Analysis) در زبان بنگالی و سوگیری‌های هویتی نهفته در آن‌ها می‌پردازد. این تحقیق نشان می‌دهد که چگونه تاریخ استعمار، تاثیرات عمیقی بر جوامع بنگالی گذاشته و این تاثیرات به شکل ناخودآگاه در سیستم‌های فناورانه، به ویژه در حوزه پردازش زبان طبیعی (NLP)، بازتولید می‌شوند.

در این مقاله، نویسندگان به این سوال مهم پاسخ می‌دهند که آیا ابزارهای تحلیل احساسات که برای زبان بنگالی طراحی شده‌اند، به طور ناخواسته ارزش‌ها و سوگیری‌های استعماری را تداوم می‌بخشند؟ و اگر چنین است، این سوگیری‌ها چه پیامدهایی برای جوامع بنگالی دارند؟

این تحقیق توسط دیپتو داس، شیون گوها، جد بروبیکر و برایان سیمان انجام شده است. زمینه تخصصی این نویسندگان شامل محاسبات و زبان، رایانه و جامعه، تعامل انسان و رایانه و یادگیری ماشین است. تخصص‌های متنوع این گروه، رویکردی جامع و چند وجهی را برای بررسی این موضوع فراهم آورده است.

تمرکز این محققان بر زبان بنگالی به دلیل اهمیت تاریخی و فرهنگی این زبان و همچنین تجربیات استعماری قابل توجه جوامع بنگالی است.

چکیده این مقاله به این موضوع اشاره دارد که چگونه استعمار، به طور تاریخی بر هویت افراد در ابعاد مختلف تاثیر گذاشته است و ارزش‌ها و سوگیری‌های استعماری همچنان توسط سیستم‌های فنی-اجتماعی بازتولید می‌شوند. ابزارهای تحلیل احساسات، به عنوان یکی از این سیستم‌ها، می‌توانند به تداوم این ارزش‌ها و سوگیری‌ها کمک کنند. با این حال، توجه کمتری به این موضوع شده است که چگونه این ابزارها ممکن است در تداوم استعمار نقش داشته باشند، در حالی که اغلب برای هدایت رویه‌های مختلف (مانند تعدیل محتوا) استفاده می‌شوند.

در این مقاله، نویسندگان سوگیری‌های احتمالی در ابزارهای تحلیل احساسات را در زمینه جوامع بنگالی که تاثیرات استعمار را تجربه کرده‌اند و همچنان تجربه می‌کنند، بررسی می‌کنند. با تکیه بر مقوله‌های هویتی که بیشتر تحت تاثیر استعمار در میان جوامع محلی بنگالی قرار گرفته‌اند، تمرکز تحلیلی خود را بر جنسیت، مذهب و ملیت قرار داده‌اند. آن‌ها یک ممیزی الگوریتمی از تمام ابزارهای تحلیل احساسات برای زبان بنگالی، موجود در فهرست بسته‌های پایتون (PyPI) و گیت‌هاب، انجام دادند. علیرغم محتوای معنایی و ساختار مشابه، تجزیه و تحلیل آن‌ها نشان داد که علاوه بر ناسازگاری در خروجی ابزارهای مختلف، ابزارهای تحلیل احساسات بنگالی بین مقوله‌های هویتی مختلف سوگیری دارند و به روش‌های مختلف بیان هویت پاسخ متفاوتی می‌دهند. نویسندگان یافته‌های خود را با ساختارهای فرهنگی-اجتماعی شکل گرفته توسط استعمار جوامع بنگالی مرتبط می‌کنند و پیامدهای سوگیری پایین دستی ابزارهای تحلیل احساسات را مورد بحث قرار می‌دهند.

روش‌شناسی این تحقیق مبتنی بر یک ممیزی الگوریتمی است. نویسندگان ابتدا تمام ابزارهای تحلیل احساسات موجود برای زبان بنگالی را در PyPI (فهرست بسته‌های پایتون) و GitHub شناسایی کردند. سپس، مجموعه‌ای از داده‌های ورودی را طراحی کردند که به طور خاص برای بررسی سوگیری‌های هویتی در زمینه‌های جنسیت، مذهب و ملیت ایجاد شده بودند.

برای مثال، جملاتی با مفاهیم یکسان اما با اشارات مختلف به هویت‌های جنسیتی (مانند استفاده از اسم‌ها یا ضمایر زنانه و مردانه) به ابزارها داده شد و خروجی آن‌ها مقایسه شد. به همین ترتیب، جملاتی مرتبط با ادیان مختلف و ملیت‌های مختلف نیز برای آزمایش سوگیری‌های مذهبی و ملیتی مورد استفاده قرار گرفتند.

داده‌ها و نتایج به دست آمده به دقت تحلیل شدند تا الگوهای سوگیری آشکار شوند. نویسندگان همچنین تلاش کردند تا این سوگیری‌ها را با زمینه‌های تاریخی و اجتماعی استعمار در جوامع بنگالی مرتبط کنند.

یافته‌های کلیدی این تحقیق نشان می‌دهند که ابزارهای تحلیل احساسات بنگالی، دارای سوگیری‌های قابل توجهی در قبال هویت‌های مختلف هستند. برخی از مهم‌ترین یافته‌ها عبارتند از:

• ناهمگونی در خروجی: ابزارهای مختلف تحلیل احساسات، حتی در مواجهه با جملات مشابه، خروجی‌های متفاوتی ارائه می‌دهند که نشان‌دهنده عدم ثبات و قابلیت اعتماد پایین آن‌ها است.
• سوگیری جنسیتی: جملاتی که به طور ضمنی یا آشکارا به زنان اشاره دارند، اغلب با بار احساسی منفی‌تری نسبت به جملات مشابه درباره مردان ارزیابی می‌شوند. این امر نشان‌دهنده بازتولید کلیشه‌های جنسیتی در این ابزارها است. به عنوان مثال، ممکن است جمله “او یک مادر فداکار است” با احساس مثبت کمتری نسبت به جمله “او یک پدر فداکار است” ارزیابی شود.
• سوگیری مذهبی: جملاتی مرتبط با ادیان اقلیت در بنگلادش، ممکن است با احساس منفی‌تری نسبت به جملات مرتبط با دین اکثریت ارزیابی شوند. این نشان‌دهنده وجود سوگیری در برابر گروه‌های مذهبی به حاشیه رانده شده است.
• سوگیری ملیتی: ابزارها ممکن است به عبارات مرتبط با ملیت‌های مختلف واکنش‌های متفاوتی نشان دهند، که می‌تواند به تبعیض و نابرابری دامن بزند.

به طور کلی نتایج نشان می دهد که ابزارهای به ظاهر بی طرف تحلیل احساسات، می‌توانند به طور ناخواسته ارزش‌ها و سوگیری‌های استعماری را تداوم بخشند و حتی تقویت کنند.

این تحقیق دارای کاربردهای عملی و دستاوردهای مهمی است:

• آگاهی‌بخشی: این مقاله توجه جامعه علمی و توسعه‌دهندگان نرم‌افزار را به وجود سوگیری‌های هویتی در ابزارهای پردازش زبان طبیعی جلب می‌کند.
• توسعه ابزارهای منصفانه‌تر: یافته‌های این تحقیق می‌تواند به توسعه‌دهندگان کمک کند تا ابزارهای تحلیل احساسات منصفانه‌تری طراحی کنند که کمتر تحت تاثیر سوگیری‌های هویتی قرار گیرند.
• تعدیل محتوا: در زمینه تعدیل محتوا در شبکه‌های اجتماعی، این تحقیق هشدار می‌دهد که استفاده از ابزارهای تحلیل احساسات سوگیرانه می‌تواند منجر به سانسور و محدودیت‌های ناعادلانه برای گروه‌های خاص شود.
• توسعه سیاست‌گذاری: این تحقیق می‌تواند به سیاست‌گذاران کمک کند تا سیاست‌هایی را تدوین کنند که از حقوق و آزادی‌های همه افراد در فضای مجازی محافظت کند.

مقاله “میل استعماری پردازش زبان طبیعی: واکاوی ابزارهای تحلیل احساسات بنگالی و سوگیری‌های هویتی آن‌ها” نشان می‌دهد که ابزارهای فناوری، حتی آن‌هایی که به ظاهر بی‌طرف و عینی به نظر می‌رسند، می‌توانند تحت تاثیر ارزش‌ها و سوگیری‌های فرهنگی و تاریخی قرار گیرند. این تحقیق اهمیت آگاهی انتقادی در توسعه و استفاده از فناوری‌های پردازش زبان طبیعی را برجسته می‌کند.

برای جلوگیری از تداوم سوگیری‌های هویتی در این ابزارها، لازم است که توسعه‌دهندگان رویکردی مسئولانه‌تر و آگاهانه‌تر در طراحی و ارزیابی آن‌ها اتخاذ کنند. همچنین، جوامع و افراد باید نسبت به وجود این سوگیری‌ها آگاه باشند و از ابزارهای فناوری به طور انتقادی استفاده کنند. در نهایت، این تحقیق فراخوانی است برای ایجاد فناوری‌هایی که نه تنها کارآمد و موثر باشند، بلکه عادلانه و منصفانه نیز عمل کنند و به حقوق و آزادی‌های همه افراد احترام بگذارند.

این مقاله یک گام مهم در جهت درک و رفع سوگیری‌های پنهان در سیستم‌های هوش مصنوعی و یادگیری ماشین است و نشان می‌دهد که چگونه تاریخ استعمار می‌تواند همچنان بر زندگی ما در عصر دیجیتال تاثیر بگذارد.