معرفی مقاله و اهمیت آن

در دهه‌های اخیر، با گسترش روزافزون کاربرد فناوری‌های پردازش زبان طبیعی (NLP) در جنبه‌های مختلف زندگی روزمره، نگرانی‌ها در مورد بازتولید و حتی تقویت سوگیری‌های اجتماعی موجود در داده‌های آموزشی این سیستم‌ها به شدت افزایش یافته است. این سوگیری‌ها می‌توانند از تبعیض در استخدام و ارزیابی اعتبار بانکی گرفته تا توصیه‌های پزشکی و سیستم‌های جستجو، تأثیرات مخربی بر افراد و جوامع داشته باشند. در میان انواع مختلف سوگیری‌ها، سوگیری جنسیتی به عنوان یکی از محوری‌ترین و پیچیده‌ترین مسائل مورد بررسی در حوزه NLP شناخته شده است.

با وجود حجم وسیع پژوهش‌های انجام شده در زمینه سوگیری جنسیتی در NLP، تا به امروز یک تحلیل جامع و سیستماتیک در مورد اینکه «جنسیت» چگونه در این رشته نظریه‌پردازی و مفهوم‌سازی می‌شود، وجود نداشته است. مقاله “Theories of ‘Gender’ in NLP Bias Research”، با پر کردن این خلاء، گامی اساسی در جهت درک عمیق‌تر این پدیده برمی‌دارد. اهمیت این پژوهش در آن است که با روشن ساختن ابهامات نظری موجود حول مفهوم جنسیت، راه را برای توسعه روش‌ها و مدل‌های NLP فراگیرتر، عادلانه‌تر و کمتر تبعیض‌آمیز هموار می‌کند. بدون درک دقیق از نحوه تعریف و عملیاتی شدن جنسیت در پژوهش‌ها، تلاش‌ها برای کاهش سوگیری‌ها ممکن است ناکارآمد و حتی گمراه‌کننده باشند و به جای حل مشکل، به پنهان‌سازی یا تغییر شکل آن منجر شوند. این مقاله بنیانی برای توسعه سیستم‌های هوش مصنوعی مسئولیت‌پذیرتر ارائه می‌دهد.

نویسندگان و زمینه تحقیق

این مقاله توسط هانا دوینی (Hannah Devinney)، جنی بیورکلوند (Jenny Björklund) و هنریک بیورکلوند (Henrik Björklund) به رشته تحریر درآمده است. این تیم پژوهشی با بهره‌گیری از تخصص‌های میان‌رشته‌ای خود در حوزه‌های پردازش زبان طبیعی، زبان‌شناسی محاسباتی و مطالعات جنسیتی، توانسته‌اند رویکردی جامع به این موضوع پیچیده اتخاذ کنند. زمینه اصلی تحقیق آن‌ها در تلاقی علوم کامپیوتر و علوم اجتماعی قرار دارد، جایی که دقت و کارایی مدل‌های هوش مصنوعی با ملاحظات اخلاقی و اجتماعی مربوط به عدالت و برابری سنجیده می‌شود.

پژوهش‌های پیشین در حوزه NLP غالباً بر جنبه‌های فنی و مهندسی مدل‌ها تمرکز داشته‌اند، اما نیاز به درک عمیق‌تر ابعاد اجتماعی و فرهنگی تأثیرگذار بر این مدل‌ها، به خصوص در زمینه سوگیری، به طور فزاینده‌ای احساس می‌شود. این مقاله نمونه‌ای بارز از تلاش برای پیوند دادن چارچوب‌های نظری علوم انسانی، به ویژه مطالعات جنسیتی، با تحقیقات کاربردی در علوم کامپیوتر است. چنین همکاری‌های بین‌رشته‌ای برای مقابله مؤثر با چالش‌های اخلاقی و اجتماعی فناوری‌های هوش مصنوعی، که به سرعت در حال تکامل هستند، ضروری است. نویسندگان با ترکیب این دیدگاه‌ها، نقدی سازنده بر وضعیت موجود ارائه داده و مسیری برای پژوهش‌های آینده را ترسیم کرده‌اند که از نظر اجتماعی حساس‌تر و از نظر علمی دقیق‌تر باشد.

چکیده و خلاصه محتوا

مقاله حاضر به بررسی چگونگی مفهوم‌سازی و نظریه‌پردازی «جنسیت» در پژوهش‌های مربوط به سوگیری در پردازش زبان طبیعی می‌پردازد. نویسندگان با انجام یک بررسی جامع بر روی نزدیک به ۲۰۰ مقاله منتشر شده در زمینه سوگیری جنسیتی در NLP، به تجزیه و تحلیل رویکردهای صریح و ضمنی محققان نسبت به جنسیت پرداخته‌اند. هدف اصلی، درک این است که چگونه این حوزه علمی جنسیت را هم از طریق تعاریف صریح (مثلاً در بخش تعاریف مقاله) و هم از طریق عملیاتی‌سازی آن در عمل (نحوه جمع‌آوری داده‌ها یا برچسب‌گذاری جنسیت) درک می‌کند.

برای شناسایی روندهای فکری نوظهور و تغییرات احتمالی در رویکردها، مقالات مورد مطالعه به دو بخش زمانی تقسیم شده‌اند. یافته‌های کلیدی پژوهش نشان می‌دهد که اکثریت قریب به اتفاق مقالات (بیش از ۷۰ درصد)، نظریه‌پردازی خود را درباره جنسیت به صراحت بیان نمی‌کنند، حتی اگر تعریفی واضح از «سوگیری» ارائه دهند. این عدم وضوح نظری، یک چالش اساسی است. نکته حائز اهمیت دیگر این است که تقریباً هیچ‌یک از این مقالات از مدل جنسیتی بین‌بخشی (intersectional) یا شامل جنسیت‌های غیردوگانه (nonbinary) استفاده نمی‌کنند؛ به عبارت دیگر، نگاه غالب به جنسیت همچنان محدود به رویکرد دوگانه (مرد/زن) است. علاوه بر این، بسیاری از پژوهش‌ها ویژگی‌های جنسی زیستی (sex characteristics)، جنسیت اجتماعی (social gender) و جنسیت زبانی (linguistic gender) را با یکدیگر خلط می‌کنند، به گونه‌ای که وجود و تجربیات افراد ترنس‌جندر، غیردوگانه و اینترسکس را به طور کامل نادیده می‌گیرند و منجر به نتایج سوگیرانه برای این گروه‌ها می‌شوند. اگرچه در بخش‌های زمانی متاخرتر شاهد افزایشی در اذعان به پیچیدگی واقعیت جنسیت هستیم، اما تعداد بسیار کمی از مقالات موفق به پیاده‌سازی عملی این شناخت در روش‌شناسی و تحلیل خود شده‌اند.

در نهایت، علاوه بر تحلیل این یافته‌ها، مقاله توصیه‌های مشخصی را برای تسهیل کارهای بین‌رشته‌ای و نیز گنجاندن نظریه‌ها و روش‌شناسی‌های برگرفته از مطالعات جنسیتی ارائه می‌دهد. امید می‌رود که این توصیه‌ها به تولید پژوهش‌های سوگیری جنسیتی فراگیرتر، دقیق‌تر و مسئولانه‌تر در حوزه NLP منجر شود و راه را برای توسعه سیستم‌های هوش مصنوعی عادلانه‌تر هموار سازد.

روش‌شناسی تحقیق

روش‌شناسی این پژوهش بر پایه یک مطالعه مروری جامع و سیستماتیک استوار است که رویکردی هم کمی و هم کیفی را در بر می‌گیرد. تیم تحقیقاتی ابتدا یک مجموعه داده گسترده از نزدیک به ۲۰۰ مقاله علمی مرتبط با سوگیری جنسیتی در پردازش زبان طبیعی را جمع‌آوری کرده است. این مقالات از پایگاه‌های داده معتبر و کنفرانس‌های اصلی NLP (نظیر ACL, EMNLP, NAACL) استخراج شده‌اند تا پوششی وسیع و نماینده از ادبیات موجود را فراهم آورند و تحلیلی جامع از روندها و رویکردها ارائه دهند.

پس از جمع‌آوری مقالات، محققان به تجزیه و تحلیل دقیق محتوای آن‌ها پرداختند و دو جنبه اصلی را بررسی کردند:

• مفهوم‌سازی صریح جنسیت: در این بخش، نویسندگان به دنبال یافتن عبارات یا پاراگراف‌هایی بودند که به طور مستقیم «جنسیت» یا اصطلاحات مرتبط با آن (مانند زن، مرد، هویت جنسیتی، gender identity و غیره) را تعریف یا توضیح می‌دهند. هدف، شناسایی چارچوب‌های نظری آشکاری بود که محققان از آن برای توضیح جنسیت استفاده می‌کنند. به عنوان مثال، آیا نویسندگان به جنسیت به عنوان یک ساختار اجتماعی نگاه می‌کنند یا یک واقعیت بیولوژیکی صرف؟
• مفهوم‌سازی ضمنی جنسیت (عملیاتی‌سازی): حتی اگر تعاریف صریحی وجود نداشته باشد، نحوه عملیاتی‌سازی جنسیت در بخش‌های عملیاتی پژوهش (مانند انتخاب و جمع‌آوری داده‌ها، برچسب‌گذاری نمونه‌ها، طراحی مدل‌های یادگیری ماشین و ارزیابی نتایج) نشان‌دهنده درک ضمنی محققان از جنسیت است. برای مثال، اگر یک مدل NLP صرفاً از برچسب‌های «مرد» و «زن» در دیتاست خود استفاده کند، این نشان‌دهنده یک درک ضمنی دوگانه از جنسیت است، حتی اگر این مسئله به صراحت در متن مقاله ذکر نشده باشد. تحلیل ضمایر مورد استفاده در داده‌ها و نحوه تخصیص آن‌ها به افراد، یا نحوه دسته‌بندی مشاغل بر اساس جنسیت، نمونه‌های دیگری از عملیاتی‌سازی ضمنی هستند.

علاوه بر این، برای شناسایی تغییرات و روندهای فکری در طول زمان، مجموعه مقالات به دو بخش زمانی تقسیم شد. این تقسیم‌بندی (مثلاً مقالات قبل از سال ۲۰۱۹ و بعد از آن) به محققان اجازه داد تا بررسی کنند که آیا با گذشت زمان، رویکردها و نظریه‌پردازی‌ها نسبت به جنسیت در حوزه NLP تکامل یافته‌اند یا خیر. این رویکرد دوگانه (تحلیل صریح و ضمنی، و تحلیل زمانی) امکان ارائه تحلیلی عمیق و چندبعدی از وضعیت فعلی مفهوم‌سازی جنسیت در پژوهش‌های NLP را فراهم آورده است و نقاط ضعف و قوت موجود را به وضوح نشان می‌دهد.

یافته‌های کلیدی

پژوهش حاضر به نتایج مهم و قابل تأملی دست یافته است که چالش‌های عمده‌ای را در نحوه درک و پرداختن به «جنسیت» در تحقیقات سوگیری NLP آشکار می‌سازد. این یافته‌ها مسیرهای آینده برای پژوهش‌های فراگیرتر و عادلانه‌تر را روشن می‌کنند:

• عدم نظریه‌پردازی صریح جنسیت: یکی از برجسته‌ترین یافته‌ها این است که اکثریت قاطع مقالات (نزدیک به ۷۰٪) به صراحت نظریه‌پردازی خود را درباره جنسیت بیان نمی‌کنند. این در حالی است که بسیاری از آن‌ها تعاریف روشنی از «سوگیری» ارائه می‌دهند. این عدم شفافیت نظری، نه تنها درک دقیق از ریشه‌های سوگیری را دشوار می‌کند، بلکه ارزیابی و مقایسه روش‌های کاهش سوگیری را نیز پیچیده می‌سازد. به عنوان مثال، اگر یک پژوهشگر بدون تعریف دقیق جنسیت، به دنبال “خنثی‌سازی” سوگیری‌های جنسیتی باشد، ممکن است ناخواسته به کلیشه‌های موجود دامن بزند یا گروه‌های خاصی (مانند افراد غیردوگانه) را نادیده بگیرد. این مسئله نشان‌دهنده شکافی عمیق میان کاربرد فنی و فهم نظری است.

• فقدان مدل‌های بین‌بخشی و فراگیر: تقریباً هیچ‌یک از مقالات مورد بررسی از مدل جنسیتی استفاده نمی‌کنند که بین‌بخشی (intersectional) باشد یا شامل جنسیت‌های غیردوگانه (nonbinary genders) شود. این بدان معناست که اکثر پژوهش‌ها به طور ضمنی یا صریح، تنها جنسیت را در قالب دوگانه “مرد/زن” مفهوم‌سازی می‌کنند. این نادیده‌گرفتن تنوع هویت‌های جنسیتی، به طور بالقوه منجر به طراحی سیستم‌های NLP می‌شود که تبعیض‌آمیز بوده و تجربیات افراد ترنس‌جندر، غیردوگانه و اینترسکس را به طور کامل نادیده می‌گیرند. مثلاً، یک سیستم تولید متن که فقط بر اساس ضمایر “او مرد است” یا “او زن است” آموزش دیده، در هنگام ارجاع به افراد غیردوگانه یا کسانی که از ضمایر “آنها” استفاده می‌کنند، دچار اشتباه یا سوگیری می‌شود، که این خود می‌تواند حس طردشدگی را القا کند.

• خلط مفاهیم مرتبط با جنسیت: بسیاری از مقالات ویژگی‌های جنسی زیستی (sex characteristics)، جنسیت اجتماعی (social gender) و جنسیت زبانی (linguistic gender) را با یکدیگر خلط می‌کنند. این خلط مفهومی پیامدهای جدی دارد. به عنوان مثال، جنس زیستی معمولاً به ویژگی‌های بیولوژیکی اشاره دارد، در حالی که جنسیت اجتماعی به نقش‌ها، رفتارها و انتظارات فرهنگی مرتبط با جنسیت می‌پردازد. جنسیت زبانی نیز به نحوه بازنمایی جنسیت در زبان (مانند استفاده از ضمایر یا پایان فعل‌ها در زبان‌های دارای جنسیت دستوری) مربوط می‌شود. نادیده گرفتن این تمایزات می‌تواند منجر به این شود که سیستم‌های NLP تعمیم‌های نادرستی از یک بُعد جنسیت به ابعاد دیگر انجام دهند. برای مثال، یک مدل ممکن است با دیدن اسامی زنانه، به طور خودکار نقش‌های اجتماعی زنانه یا ویژگی‌های شخصیتی خاصی را به فرد نسبت دهد، حتی اگر هویت جنسیتی یا نقش اجتماعی او در واقعیت متفاوت باشد. این مسئله به ویژه برای افراد ترنس‌جندر که جنسیت زیستی آن‌ها ممکن است با جنسیت اجتماعی‌شان متفاوت باشد، مشکل‌ساز است.

• افزایش آگاهی، عدم پیاده‌سازی عملی: با بررسی مقالات در دو بازه زمانی (مثلاً مقالات قبل از ۲۰۱۹ و بعد از آن)، مشخص شد که در سال‌های اخیر افزایشی در اذعان به پیچیدگی واقعیت جنسیت وجود دارد. محققان بیشتری در مقدمه یا بخش بحث خود اشاره می‌کنند که جنسیت یک مفهوم چندوجهی و ساختاریافته اجتماعی است. با این حال، تنها تعداد بسیار کمی از مقالات موفق به تبدیل این شناخت نظری به روش‌شناسی عملیاتی و طراحی مدل‌های فراگیرتر شده‌اند. این نشان می‌دهد که شکاف قابل توجهی بین درک نظری و کاربرد عملی در این حوزه وجود دارد که باید با آموزش، ارائه ابزارهای مناسب و توسعه چارچوب‌های عملیاتی‌تر پر شود. اذعان به پیچیدگی بدون اقدام عملی، تأثیر محدودی بر کاهش سوگیری‌های واقعی خواهد داشت.

این یافته‌ها تأکید می‌کنند که برای پیشبرد پژوهش‌های سوگیری در NLP و ساخت سیستم‌های هوش مصنوعی عادلانه‌تر، نیاز مبرمی به رویکردهای دقیق‌تر، نظریه‌محور و از نظر اجتماعی حساس‌تر به مفهوم جنسیت وجود دارد.

کاربردها و دستاوردها

دستاورد اصلی این پژوهش نه تنها در آشکار ساختن چالش‌ها، بلکه در ارائه راهکارهای عملی و توصیه‌های مشخص برای بهبود وضعیت موجود است. کاربردهای این توصیه‌ها می‌تواند تأثیر چشمگیری بر آینده پژوهش‌ها و توسعه سیستم‌های NLP داشته باشد:

• تسهیل همکاری‌های بین‌رشته‌ای: مقاله قویاً بر نیاز به تسهیل و ترویج همکاری‌های نزدیک بین متخصصان NLP و محققان برجسته مطالعات جنسیتی، جامعه‌شناسی، و علوم انسانی تأکید می‌کند. این همکاری می‌تواند به مهندسان و دانشمندان کامپیوتر کمک کند تا درک عمیق‌تری از پیچیدگی‌های جنسیت، هویت جنسیتی، و تأثیرات اجتماعی آن پیدا کنند. به عنوان مثال، یک جامعه‌شناس متخصص در حوزه جنسیت می‌تواند در طراحی دیتاست‌ها، برچسب‌گذاری دقیق‌تر، و تحلیل نتایج به گونه‌ای که ابعاد مختلف جنسیت را در نظر بگیرد، مشارکت کند. این رویکرد بین‌رشته‌ای می‌تواند از تعمیم‌های ساده‌انگارانه و آسیب‌زا جلوگیری کرده و به توسعه مدل‌هایی با حساسیت فرهنگی و اجتماعی بالاتر منجر شود.

• گنجاندن نظریه‌ها و روش‌شناسی‌های مطالعات جنسیتی: توصیه‌های مقاله شامل ادغام چارچوب‌های نظری دقیق و روش‌شناسی‌های غنی برگرفته از مطالعات جنسیتی در طراحی و ارزیابی سیستم‌های NLP است. این امر می‌تواند شامل استفاده از رویکردهای کیفی، تحلیل گفتمان، و مدل‌های جنسیتی فراتر از دوگانه سنتی (مانند مدل‌های طیفی یا چندبعدی) باشد. به عنوان مثال، به جای صرفاً اندازه‌گیری تفاوت در عملکرد سیستم برای “مردان” و “زنان”، محققان می‌توانند به بررسی چگونگی تأثیر متغیرهای جنسیتی متنوع (مانند هویت جنسیتی، بیان جنسیتی و نقش‌های جنسیتی) بر نتایج سیستم بپردازند. این امر به طراحی ابزارهای ارزیابی سوگیری پیچیده‌تر و جامع‌تر منجر خواهد شد که قادر به شناسایی ظرایف تبعیض و طردشدگی هستند.

• توسعه سیستم‌های NLP فراگیرتر و عادلانه‌تر: هدف نهایی این توصیه‌ها، تولید پژوهش‌های سوگیری جنسیتی در NLP است که به مراتب فراگیرتر، اخلاقی‌تر و مسئولانه‌تر باشند. با پیاده‌سازی این رویکردها، می‌توان سیستم‌های هوش مصنوعی را توسعه داد که نه تنها از بازتولید کلیشه‌ها و تبعیضات جنسیتی موجود جلوگیری می‌کنند، بلکه فعالانه به ترویج برابری و احترام به تنوع هویت‌های جنسیتی می‌پردازند. این دستاوردها می‌تواند در زمینه‌هایی مانند استخدام خودکار (که سوگیری جنسیتی زیادی در آن مشاهده می‌شود)، سیستم‌های توصیه‌گر (که ممکن است پیشنهادهای شغلی یا محتوایی را بر اساس کلیشه‌های جنسیتی ارائه دهند)، موتورهای جستجو (که می‌توانند نتایج را بر اساس جنسیت فیلتر کنند) و حتی ابزارهای تشخیص پزشکی (که ممکن است سوگیری‌های جنسیتی در تشخیص و درمان داشته باشند) تأثیرات مثبت و ملموسی داشته باشد و به ایجاد جامعه‌ای عادلانه‌تر کمک کند.

به طور خلاصه، این مقاله نه تنها وضعیت موجود را نقد می‌کند، بلکه یک نقشه راه عملی برای حرکت به سمت یک آینده‌ای ارائه می‌دهد که در آن فناوری‌های NLP با درک عمیق‌تر از پیچیدگی‌های اجتماعی انسانی طراحی و توسعه یابند و به عنوان ابزاری برای توانمندسازی همه افراد عمل کنند.

نتیجه‌گیری

پژوهش “نظریه‌های «جنسیت» در پژوهش‌های سوگیری در پردازش زبان طبیعی” نقطه عطفی مهم در حوزه مطالعات سوگیری در NLP محسوب می‌شود. این مقاله با ارائه اولین بررسی جامع از چگونگی مفهوم‌سازی «جنسیت» در ادبیات علمی مربوطه، به وضوح نشان داده است که رویکرد کنونی در بسیاری از موارد سطحی، دوگانه محور و فاقد پشتوانه نظری قوی از علوم اجتماعی است. این کاستی‌ها به طور مستقیم بر کیفیت و عدالت سیستم‌های NLP تأثیر می‌گذارند و می‌توانند به تقویت تبعیض‌ها و نابرابری‌های موجود در جامعه منجر شوند.

یافته‌های کلیدی پژوهش، زنگ خطری جدی را به صدا درمی‌آورند: عدم تعریف صریح جنسیت، نادیده‌گرفتن هویت‌های جنسیتی غیردوگانه و بین‌بخشی، و خلط مفاهیم جنس زیستی، جنسیت اجتماعی و جنسیت زبانی. این موارد منجر به توسعه سیستم‌های NLP می‌شود که ممکن است ناخواسته به تبعیض و بازتولید کلیشه‌های مضر دامن بزنند و نتایج ناعادلانه‌ای برای گروه‌های مختلف جمعیتی به بار آورند. اگرچه در سال‌های اخیر شاهد افزایش آگاهی نسبت به پیچیدگی جنسیت هستیم، اما این شناخت به ندرت به تغییرات عملی و عمیق در روش‌شناسی پژوهش‌ها منجر شده است که نشان‌دهنده لزوم اقدامات فوری و هدفمند است.

با این حال، این مقاله تنها به شناسایی مشکلات بسنده نمی‌کند، بلکه توصیه‌های عملی و سازنده‌ای را نیز ارائه می‌دهد. تأکید بر همکاری‌های بین‌رشته‌ای با متخصصان مطالعات جنسیتی و ادغام چارچوب‌های نظری پیشرفته از این حوزه، مسیر روشنی را برای آینده نشان می‌دهد. هدف نهایی، فراتر از صرفاً “کاهش سوگیری” است؛ بلکه خلق سیستم‌های NLP است که به طور فعالانه فراگیر، عادلانه و احترام‌گذار به تمامی هویت‌ها و تجربیات انسانی باشند. این دیدگاه جامع، نه تنها به بهبود فنی مدل‌ها کمک می‌کند، بلکه به آن‌ها معنای اجتماعی عمیق‌تری می‌بخشد.

در نهایت، این پژوهش یادآوری مهمی است که فناوری‌های پیشرفته‌ای مانند NLP، نه تنها مسائل فنی، بلکه پیامدهای عمیق اجتماعی و اخلاقی نیز دارند. با اتخاذ یک رویکرد مسئولانه‌تر و نظریه‌محور به «جنسیت»، می‌توانیم به سوی توسعه هوش مصنوعی حرکت کنیم که واقعاً به نفع تمام بشریت باشد و دنیایی عادلانه‌تر و برابرتر را بازتاب دهد، نه اینکه صرفاً کلیشه‌های موجود را بازتولید کند.