در دنیای امروز، هوش مصنوعی (AI) و به ویژه پردازش زبان طبیعی (NLP)، به بخشی جدایی‌ناپذیر از فناوری‌های روزمره تبدیل شده‌اند. از دستیارهای صوتی هوشمند گرفته تا سیستم‌های ترجمه ماشینی و تحلیل احساسات، همگی بر پایه‌ی مدل‌هایی بنا شده‌اند که زبان انسان را درک و پردازش می‌کنند. هسته‌ی اصلی بسیاری از این مدل‌ها، مفهومی به نام تعبیه‌های کلمه (Word Embeddings) است. تعبیه‌ها، نمایش‌های عددی (برداری) از کلمات هستند که به ماشین اجازه می‌دهند روابط معنایی بین کلمات را درک کند. برای مثال، در یک فضای برداری آموزش‌دیده، بردار کلمه‌ی «شاه» به بردار «مرد» نزدیک‌تر است تا به «زن»، و رابطه‌ی بین «شاه» و «ملکه» مشابه رابطه‌ی بین «مرد» و «زن» است.

با این حال، این مدل‌ها یک شمشیر دولبه هستند. آن‌ها دانش خود را از طریق تحلیل حجم عظیمی از متون موجود در اینترنت (مانند ویکی‌پدیا، اخبار و کتاب‌ها) کسب می‌کنند. این متون، آینه‌ای از فرهنگ، دانش و متأسفانه، سوگیری‌ها و کلیشه‌های انسانی هستند. در نتیجه، مدل‌های زبانی این سوگیری‌ها را نه تنها یاد می‌گیرند، بلکه گاهی تقویت نیز می‌کنند. یکی از شایع‌ترین و زیان‌بارترین این سوگیری‌ها، سوگیری جنسیتی است. برای مثال، مدل ممکن است یاد بگیرد که کلمه‌ی «برنامه‌نویس» ارتباط معنایی قوی‌تری با «مرد» دارد، در حالی که «خانه‌دار» یا «پرستار» به «زن» نزدیک‌تر است. این کلیشه‌های مضر، وقتی در سیستم‌های کاربردی مانند ابزارهای غربالگری رزومه یا موتورهای جستجو به کار گرفته شوند، می‌توانند به تبعیض سیستماتیک و نابرابری اجتماعی دامن بزنند.

مقاله «[RE] Double-Hard Debias: Tailoring Word Embeddings for Gender Bias Mitigation» به عنوان یک تلاش علمی برای مقابله با این چالش حیاتی ارائه شده است. این مقاله یک مطالعه‌ی بازتولید (Reproduction) است که هدف آن، ارزیابی و صحه‌گذاری بر روشی پیشرفته برای کاهش سوگیری جنسیتی در تعبیه‌های کلمه به نام «Double-Hard Debias» است. اهمیت این پژوهش در دو جنبه نهفته است: اول، به توسعه‌ی هوش مصنوعی عادلانه‌تر و مسئولانه‌تر کمک می‌کند و دوم، با بازتولید نتایج یک تحقیق دیگر، به استحکام و شفافیت علمی در این حوزه می‌افزاید.

این مقاله توسط Haswanth Aekula، Sugam Garg و Animesh Gupta به نگارش درآمده است. این پژوهشگران در حوزه‌ی هوش مصنوعی (Artificial Intelligence) و محاسبات و زبان (Computation and Language) فعالیت می‌کنند؛ زمینه‌ای میان‌رشته‌ای که به درک و تولید زبان انسانی توسط کامپیوترها می‌پردازد.

این تحقیق در بطن یک جنبش رو به رشد در دنیای هوش مصنوعی به نام عدالت، پاسخگویی و شفافیت (Fairness, Accountability, and Transparency – FAT) قرار می‌گیرد. با افزایش نفوذ سیستم‌های هوشمند در تصمیم‌گیری‌های حساس اجتماعی، اطمینان از عملکرد عادلانه و غیرتبعیض‌آمیز آن‌ها به یک اولویت اصلی برای جامعه‌ی علمی و صنعتی تبدیل شده است. این مقاله با تمرکز بر سوگیری‌زدایی (Debiasing)، مستقیماً به یکی از ستون‌های اصلی این جنبش، یعنی «عدالت»، می‌پردازد و راهکارهای عملی برای ساختن مدل‌هایی ارائه می‌دهد که کلیشه‌های مضر اجتماعی را تکرار و تقویت نکنند.

هدف اصلی این مقاله، بازتولید و تحلیل دقیق روشی به نام Double-Hard Debias است که برای کاهش سوگیری جنسیتی در تعبیه‌های کلمه‌ی از پیش آموزش‌دیده (مانند GloVe و Word2Vec) طراحی شده است. نویسندگان بیان می‌کنند که با وجود کاربرد گسترده‌ی این تعبیه‌ها، آن‌ها به طور ناخواسته سوگیری‌های جنسیتی موجود در داده‌های آموزشی را به ارث می‌برند. این سوگیری‌ها خود را در تداعی‌های کلیشه‌ای نشان می‌دهند؛ مثلاً ارتباط نزدیک‌تر مشاغلی مانند «پزشک» و «مهندس» با مردان و مشاغلی مانند «منشی» و «پرستار» با زنان.

پژوهش نشان می‌دهد که این سوگیری‌ها صرفاً در سطح نمایش کلمات باقی نمی‌مانند، بلکه به وظایف پایین‌دستی (Downstream Tasks) مانند طبقه‌بندی متن، تحلیل احساسات و سیستم‌های پرسش و پاسخ نیز نفوذ کرده و عملکرد آن‌ها را تحت تأثیر قرار می‌دهند. روش Double-Hard Debias با هدف اصلاح این مشکل، رویکردی دومرحله‌ای را برای پاک‌سازی تعبیه‌ها از ارتباطات جنسیتی نامطلوب ارائه می‌دهد، در حالی که تلاش می‌کند اطلاعات معنایی مفید و روابط غیرکلیشه‌ای کلمات را حفظ کند. این مقاله با اجرای مجدد آزمایش‌های مقاله اصلی، به دنبال تأیید کارایی و استحکام این روش است.

روش Double-Hard Debias یک الگوریتم پیچیده‌ی هندسی و آماری است که در فضای برداری تعبیه‌ها عمل می‌کند. برای درک آن، ابتدا باید مفهوم «زیرفضای جنسیتی» را بشناسیم.

• شناسایی زیرفضای جنسیتی (Gender Subspace): در فضای برداری، جهت‌گیری‌های خاصی می‌توانند مفاهیم معینی را نشان دهند. برای شناسایی جهت یا «زیرفضای» مرتبط با جنسیت، از زوج‌کلمات مشخصاً جنسیتی مانند (مرد، زن)، (پدر، مادر)، (پسر، دختر) و (شاه، ملکه) استفاده می‌شود. تفاوت برداری بین هر زوج (مثلاً بردار «مرد» منهای بردار «زن») یک بردار جهت‌دار ایجاد می‌کند که به سمت «مردانگی» اشاره دارد. با استفاده از روش آماری تحلیل مؤلفه‌های اصلی (PCA) بر روی مجموعه‌ای از این بردارهای تفاوت، می‌توان یک یا چند جهت اصلی را که بیشترین واریانس مرتبط با جنسیت را در خود دارند، استخراج کرد. این جهت‌ها «زیرفضای جنسیتی» را تشکیل می‌دهند.

پس از شناسایی این زیرفضا، الگوریتم Double-Hard Debias در دو مرحله‌ی اصلی عمل می‌کند:

1. خنثی‌سازی (Neutralization): این مرحله که اولین گام «سخت» (Hard) است، مشابه روش‌های ساده‌تر سوگیری‌زدایی عمل می‌کند. در این گام، کلماتی که باید از نظر جنسیتی خنثی باشند (مانند مشاغل، صفات و فعالیت‌ها) شناسایی می‌شوند. سپس، مؤلفه‌ی برداری این کلمات که در راستای زیرفضای جنسیتی قرار دارد، حذف می‌شود. این کار از نظر هندسی معادل تصویر کردن (Projecting) بردار کلمه بر روی فضایی است که بر زیرفضای جنسیتی عمود است. در نتیجه، کلماتی مانند «برنامه‌نویس» یا «علم» دیگر هیچ‌گونه تمایل ذاتی به سمت قطب «مردانه» یا «زنانه» نخواهند داشت.
2. یکسان‌سازی (Equalization): این مرحله، نوآوری اصلی و دومین گام «سخت» این روش است. مشکل روش خنثی‌سازی به‌تنهایی این است که ممکن است سوگیری‌های غیرمستقیم را از بین نبرد. مرحله یکسان‌سازی با یک فرآیند بهینه‌سازی این مشکل را حل می‌کند. هدف این است که هر کلمه‌ی خنثی‌شده (مثلاً «آشپزی»)، از تمام زوج‌کلمات جنسیتی (مانند «مرد» و «زن») به یک فاصله قرار گیرد. به عبارت دیگر، الگوریتم تلاش می‌کند تا فاصله‌ی برداری بین «آشپزی» و «مرد» با فاصله‌ی برداری بین «آشپزی» و «زن» برابر شود. این کار تضمین می‌کند که کلمات خنثی نه تنها در راستای محور جنسیت قرار ندارند، بلکه در یک موقعیت کاملاً میانی و بی‌طرف نسبت به هر دو جنسیت قرار می‌گیرند و ارتباطات کلیشه‌ای غیرمستقیم نیز از بین می‌روند.

این رویکرد دومرحله‌ای تضمین می‌کند که هم سوگیری مستقیم (ارتباط یک کلمه با یک جنسیت) و هم سوگیری غیرمستقیم (نزدیکی یک کلمه به مفاهیمی که خودشان سوگیری دارند) به طور مؤثری کاهش یابند.

نویسندگان این مقاله بازتولید، با دقت الگوریتم Double-Hard Debias را پیاده‌سازی کرده و آن را بر روی مجموعه‌داده‌ها و تعبیه‌های استاندارد (مانند GloVe آموزش‌دیده بر روی متون خبری) اعمال کردند. یافته‌های اصلی آن‌ها به شرح زیر است:

• موفقیت در بازتولید: پژوهشگران توانستند نتایج گزارش‌شده در مقاله‌ی اصلی را با موفقیت بازتولید کنند. این یافته به خودی خود بسیار ارزشمند است، زیرا اعتبار و قابلیت اطمینان روش Double-Hard Debias را در جامعه‌ی علمی تقویت می‌کند.
• کاهش چشمگیر سوگیری: برای ارزیابی میزان سوگیری، از معیاری استاندارد به نام آزمون تداعی کلمه-تعبیه (Word Embedding Association Test – WEAT) استفاده شد. این آزمون، قدرت تداعی بین دو مجموعه از کلمات هدف (مثلاً مشاغل در مقابل نام‌های خانوادگی) و دو مجموعه از کلمات مشخصه (مثلاً اسامی مردانه در مقابل اسامی زنانه) را می‌سنجد. نتایج نشان داد که تعبیه‌های اصلاح‌شده با روش Double-Hard Debias، امتیاز WEAT بسیار پایین‌تری کسب کردند که به معنای کاهش قابل توجه سوگیری جنسیتی است.
• حفظ کیفیت معنایی: یکی از نگرانی‌های اصلی در فرآیندهای سوگیری‌زدایی، از دست رفتن اطلاعات مفید معنایی است. اگر الگوریتم بیش از حد تهاجمی عمل کند، ممکن است روابط معنایی صحیح بین کلمات را نیز مخدوش سازد. این مقاله نشان داد که روش Double-Hard Debias در عین کاهش سوگیری، کیفیت معنایی تعبیه‌ها را به خوبی حفظ می‌کند. این امر با ارزیابی عملکرد تعبیه‌های اصلاح‌شده در وظایف استاندارد سنجش شباهت کلمات (مانند SimLex-999) تأیید شد.
• شناسایی چالش‌ها: در طول فرآیند بازتولید، نویسندگان به برخی جزئیات پیاده‌سازی و تنظیمات هایپرپارامترها اشاره کردند که در مقاله‌ی اصلی به طور کامل شفاف‌سازی نشده بود. مستندسازی این چالش‌ها به دیگر محققان کمک می‌کند تا این روش را با سهولت و دقت بیشتری پیاده‌سازی کنند.

تأیید کارایی روشی مانند Double-Hard Debias دستاوردهای مهمی برای حوزه‌ی هوش مصنوعی و جامعه به همراه دارد. کاربردهای عملی این پژوهش گسترده و تأثیرگذار هستند:

• سیستم‌های استخدام منصفانه: ابزارهای مبتنی بر هوش مصنوعی که برای غربالگری رزومه‌ها استفاده می‌شوند، با استفاده از تعبیه‌های سوگیری‌زدا شده، دیگر نامزدها را بر اساس کلیشه‌های جنسیتی مرتبط با مشاغل قضاوت نخواهند کرد.
• ترجمه ماشینی بی‌طرف: سیستم‌های ترجمه کمتر به ترجمه‌های کلیشه‌ای تمایل پیدا می‌کنند. برای مثال، جمله “The doctor arrived” را به جای ترجمه‌ی پیش‌فرض به صورت مذکر، می‌تواند به شکلی خنثی یا بر اساس قرائن متنی ترجمه کند.
• نتایج جستجوی عادلانه‌تر: موتورهای جستجو در پاسخ به عباراتی مانند «تصاویر مهندس»، نتایج متنوع‌تری از نظر جنسیتی نمایش خواهند داد و کلیشه‌ها را تقویت نخواهند کرد.
• سیستم‌های توصیه‌گر غیرکلیشه‌ای: پلتفرم‌های محتوا می‌توانند از ترویج محتوا بر اساس стереотип‌های جنسیتی (مثلاً توصیه مقالات فنی به مردان و مقالات مد و آشپزی به زنان) خودداری کنند.

دستاورد اصلی این مقاله، فراتر از یک تأیید فنی صرف است. این پژوهش به نهادینه شدن فرهنگ هوش مصنوعی مسئولانه (Responsible AI) کمک می‌کند و ابزاری قدرتمند در اختیار توسعه‌دهندگان قرار می‌دهد تا محصولاتی عادلانه‌تر و اخلاقی‌تر بسازند.

مقاله «[RE] Double-Hard Debias» با موفقیت نشان می‌دهد که روش‌های هدفمند و پیچیده می‌توانند به طور مؤثری با سوگیری‌های نهادینه‌شده در مدل‌های زبانی مقابله کنند. این مطالعه‌ی بازتولید، با تأیید یافته‌های پژوهش اصلی، به جامعه‌ی علمی اطمینان می‌دهد که Double-Hard Debias یک رویکرد معتبر و کارآمد برای کاهش سوگیری جنسیتی است.

این پژوهش یادآوری می‌کند که ساختن هوش مصنوعی یک فرآیند صرفاً فنی نیست، بلکه یک مسئولیت اجتماعی است. در حالی که الگوریتم‌هایی مانند Double-Hard Debias گام‌های مهمی رو به جلو هستند، مبارزه با سوگیری یک چالش مستمر است. تحقیقات آینده باید بر روی انواع دیگر سوگیری‌ها (مانند نژادی، فرهنگی و مذهبی)، مدل‌های زبانی پیچیده‌تر مانند ترنسفورمرها (Transformer) و همچنین توسعه‌ی روش‌هایی برای نظارت و ارزیابی مداوم عدالت در سیستم‌های هوش مصنوعی متمرکز شود. در نهایت، هدف نهایی، ساختن فناوری‌هایی است که به جای تکرار خطاهای گذشته، به ایجاد آینده‌ای عادلانه‌تر برای همگان کمک کنند.