۱. معرفی مقاله و اهمیت آن

در دنیای امروز، مدل‌های زبانی بزرگ (LLMs) مانند GPT-3 به سرعت در حال پیشرفت و دسترسی‌پذیر شدن هستند و کاربردهای متنوعی در حوزه‌های مختلف پیدا کرده‌اند. این مدل‌ها قادرند متونی را تولید کنند که اغلب از نظر کیفیت و خلاقیت، با متون انسانی قابل رقابت است. با این حال، همانطور که تحقیقات علمی نشان داده‌اند، این مدل‌ها نیز همانند بسیاری از ابزارهای هوش مصنوعی، ممکن است سوگیری‌های ناخواسته و تبعیض‌آمیزی را در خود داشته باشند که ریشه در داده‌های آموزشی آن‌ها دارد. این سوگیری‌ها می‌توانند تأثیرات عمیقی بر افراد و جامعه داشته باشند، به‌ویژه در کاربردهایی که مستقیماً با زندگی روزمره و فرصت‌های شغلی افراد در ارتباط هستند.

مقاله “Looking for a Handsome Carpenter! Debiasing GPT-3 Job Advertisements” به بررسی یکی از جنبه‌های مهم این سوگیری‌ها در آگهی‌های استخدام می‌پردازد. هدف اصلی این پژوهش، ارزیابی و تلاش برای کاهش سوگیری‌های جنسیتی و سایر تبعیض‌ها در آگهی‌های شغلی است که توسط GPT-3 تولید می‌شوند. اهمیت این تحقیق در آن است که به جای تمرکز صرف بر سوگیری‌های کلی مدل‌های زبانی، بر یک کاربرد مشخص و پرتاثیرگذار تمرکز دارد: انتشار فرصت‌های شغلی. آگهی‌های شغلی که سوگیرانه باشند، می‌توانند به طور ناخودآگاه استعدادهای بالقوه را از دست بدهند، کلیشه‌های مضر را تقویت کنند و به نابرابری در بازار کار دامن بزنند. بنابراین، تلاش برای تولید آگهی‌های استخدام واقع‌بینانه و عاری از سوگیری، گامی اساسی در جهت ایجاد یک بازار کار منصفانه‌تر و دسترسی برابر به فرصت‌هاست.

۲. نویسندگان و زمینه تحقیق

این مقاله توسط گروهی از پژوهشگران برجسته در حوزه هوش مصنوعی و زبان طبیعی به نام‌های Conrad Borchers, Dalia Sara Gala, Benjamin Gilburt, Eduard Oravkin, Wilfried Bounsi, Yuki M. Asano, و Hannah Rose Kirk نگاشته شده است. این تیم پژوهشی از تخصص‌های متنوعی در زمینه‌های مختلف هوش مصنوعی، پردازش زبان طبیعی، و تحلیل داده بهره می‌برد که نشان‌دهنده رویکرد چندوجهی آن‌ها به مسئله سوگیری در مدل‌های زبانی است.

زمینه اصلی تحقیق این مقاله در حوزه «محاسبات و زبان» (Computation and Language) و «هوش مصنوعی» (Artificial Intelligence) قرار می‌گیرد. این پژوهش به طور خاص به بخش «مدل‌های زبانی بزرگ» (Large Language Models – LLMs) و چالش‌های اخلاقی و کاربردی مرتبط با آن‌ها می‌پردازد. تمرکز بر GPT-3، یکی از قدرتمندترین و پرکاربردترین مدل‌های زبانی حال حاضر، به تحقیق ارزش و اعتبار بیشتری می‌بخشد. هدف این پژوهش، شکاف بین قابلیت‌های فنی مدل‌های پیشرفته زبانی و نیازهای واقعی جامعه در ایجاد محتوای عادلانه و بدون تبعیض را پر کند. با توجه به استفاده فزاینده از این مدل‌ها در تولید محتوای روزمره، درک و رفع سوگیری‌های آن‌ها امری ضروری است.

۳. چکیده و خلاصه محتوا

چکیده مقاله به طور خلاصه، مسئله اصلی، روش تحقیق و نتایج کلیدی را بیان می‌کند. در چکیده آمده است:

«توانایی و دسترسی فزاینده مدل‌های زبانی مولد، امکان طیف گسترده‌ای از وظایف پایین‌دستی (downstream tasks) را فراهم کرده است. تحقیقات دانشگاهی، سوگیری‌های موجود در مدل‌های زبانی را شناسایی، کمی‌سازی و کاهش داده‌اند، اما این تلاش‌ها به ندرت برای وظایف پایین‌دستی که تأثیر گسترده‌تری بر افراد و جامعه دارند، سفارشی‌سازی شده‌اند. در این کار، ما از یکی از محبوب‌ترین مدل‌های زبانی مولد، GPT-3، با هدف نوشتن آگهی‌های استخدام بدون سوگیری و واقع‌بینانه استفاده می‌کنیم. ما ابتدا سوگیری و واقع‌گرایی آگهی‌های تولید شده در حالت “صفر-شات” (zero-shot) را ارزیابی کرده و آن‌ها را با آگهی‌های واقعی مقایسه می‌کنیم. سپس، مهندسی پرامپت (prompt engineering) و تنظیم دقیق (fine-tuning) را به عنوان روش‌های کاهش سوگیری ارزیابی می‌کنیم. ما دریافتیم که مهندسی پرامپت با پرامپت‌های تشویق‌کننده تنوع، بهبود قابل توجهی در سوگیری یا واقع‌گرایی ایجاد نمی‌کند. در مقابل، تنظیم دقیق، به‌ویژه بر روی آگهی‌های واقعی بدون سوگیری، می‌تواند واقع‌گرایی را بهبود بخشیده و سوگیری را کاهش دهد.»

به طور خلاصه، این مقاله ابتدا نشان می‌دهد که GPT-3 به طور پیش‌فرض، آگهی‌های استخدامی تولید می‌کند که دارای سوگیری و گاهی غیرواقعی هستند. سپس، دو روش رایج برای بهبود خروجی مدل‌های زبانی را مورد آزمایش قرار می‌دهد: مهندسی پرامپت (تغییر نحوه پرسیدن سوال یا ارائه دستور به مدل) و تنظیم دقیق (آموزش مجدد مدل بر روی داده‌های جدید). یافته اصلی این است که صرفاً تغییر نحوه پرسش (مهندسی پرامپت) کمکی به رفع سوگیری نمی‌کند، اما آموزش مجدد مدل با استفاده از آگهی‌های استخدامی واقعی و عاری از تبعیض، می‌تواند به طور مؤثری واقع‌گرایی و انصاف این آگهی‌ها را افزایش دهد.

۴. روش‌شناسی تحقیق

برای رسیدن به اهداف خود، تیم پژوهشی از یک رویکرد مرحله‌ای و تجربی استفاده کرده است:

• ارزیابی اولیه سوگیری و واقع‌گرایی:

  ابتدا، محققان با استفاده از GPT-3 در حالت “صفر-شات” (یعنی بدون هیچ‌گونه آموزش قبلی یا ارائه مثال‌های خاص برای وظیفه مورد نظر)، آگهی‌های استخدامی برای مشاغل مختلف تولید کردند. سپس، این آگهی‌های تولید شده را از نظر میزان سوگیری (به ویژه سوگیری جنسیتی) و واقع‌گرایی (از نظر شرح وظایف، شرایط و میزان حقوق) مورد تحلیل و مقایسه با آگهی‌های استخدامی واقعی موجود در اینترنت قرار دادند.

• ارزیابی روش‌های کاهش سوگیری:

  دو روش اصلی برای کاهش سوگیری مورد بررسی قرار گرفتند:

  • مهندسی پرامپت (Prompt Engineering):

    در این روش، محققان سعی کردند با تغییر نحوه درخواست از GPT-3، آگهی‌های عادلانه‌تری تولید کنند. این تغییرات شامل افزودن دستوراتی برای تشویق تنوع (diversity-encouraging prompts) بود؛ برای مثال، تأکید بر جذب افراد از پیشینه‌های مختلف یا استفاده از زبان خنثی جنسیتی.

  • تنظیم دقیق (Fine-tuning):

    در این روش، مدل GPT-3 بر روی مجموعه‌ای از آگهی‌های استخدامی واقعی که قبلاً توسط انسان‌ها بررسی و از نظر سوگیری پاکسازی شده بودند، مجدداً آموزش داده شد. هدف این بود که مدل، الگوهای زبانی مرتبط با آگهی‌های عادلانه و واقع‌بینانه را بیاموزد.

• معیارهای ارزیابی:

  واقع‌گرایی آگهی‌ها از طریق معیارهایی مانند تناسب شرح شغل با عنوان، منطقی بودن شرایط مورد نیاز و وجود اطلاعات کافی ارزیابی شد. سوگیری عمدتاً از طریق تشخیص کلماتی که به طور نامتناسبی برای جنسیت خاصی به کار رفته‌اند یا کلیشه‌های جنسیتی را تقویت می‌کنند، مورد سنجش قرار گرفت.

۵. یافته‌های کلیدی

نتایج این تحقیق نکات مهمی را در مورد قابلیت‌های GPT-3 و اثربخشی روش‌های کاهش سوگیری آشکار می‌سازد:

• سوگیری ذاتی در خروجی صفر-شات:

  GPT-3 در حالت پیش‌فرض (بدون تنظیمات خاص)، تمایل به تولید آگهی‌هایی دارد که یا دارای سوگیری‌های جنسیتی آشکار یا پنهان هستند (مثلاً استفاده از صفاتی که سنتاً به یک جنس نسبت داده می‌شوند) یا از نظر شرح شغل و الزامات، غیرواقعی و نامناسب هستند. به عنوان مثال، ممکن است برای شغل «نجار» از کلماتی مانند «قوی هیکل» یا «بتواند بار سنگین بلند کند» استفاده کند که ممکن است کلیشه‌های جنسیتی را تقویت کند، در حالی که این مهارت‌ها ممکن است برای هر فردی فارغ از جنسیت، قابل دستیابی باشد.

• عدم اثربخشی مهندسی پرامپت:

  یکی از یافته‌های قابل توجه این است که صرفاً با تغییر نحوه پرسش یا افزودن دستوراتی برای تشویق تنوع (مانند «آگهی استخدامی بدون سوگیری بنویس» یا «برای شغل X، آگهی استخدام با تأکید بر تنوع بنویس») بهبود قابل ملاحظه‌ای در کاهش سوگیری یا افزایش واقع‌گرایی آگهی‌ها حاصل نشد. این بدان معناست که این مدل‌ها ممکن است به سختی بتوانند مفاهیم انتزاعی مانند «بی‌طرفی» یا «تنوع» را تنها از طریق دستورالعمل‌های متنی درک کنند.

• اثربخشی تنظیم دقیق:

  در مقابل، روش تنظیم دقیق (fine-tuning) نتایج بسیار امیدوارکننده‌تری به همراه داشت. آموزش مجدد GPT-3 بر روی مجموعه‌ای از آگهی‌های استخدامی واقعی و پاکسازی شده، به طور مؤثری توانست واقع‌گرایی آگهی‌های تولید شده را افزایش دهد و سوگیری‌های موجود را به شکل چشمگیری کاهش دهد. این روش به مدل کمک می‌کند تا الگوهای زبانی صحیح و عادلانه را به طور عمیق‌تری بیاموزد.

• اهمیت داده‌های آموزشی:

  این یافته‌ها بر اهمیت کیفیت و ماهیت داده‌هایی که مدل‌های زبانی با آن‌ها آموزش می‌بینند، تأکید می‌کنند. اگر داده‌های آموزشی حاوی سوگیری باشند، مدل نیز این سوگیری‌ها را بازتولید خواهد کرد. بنابراین، استفاده از داده‌های پاکسازی شده و عادلانه برای آموزش یا تنظیم دقیق مدل‌ها، کلیدی برای دستیابی به خروجی‌های مطلوب است.

۶. کاربردها و دستاوردها

این تحقیق دارای پیامدهای عملی و دستاوردهای مهمی برای جامعه و صنعت است:

• بهبود فرآیندهای استخدام:

  شرکت‌ها و سازمان‌ها می‌توانند از مدل‌های تنظیم شده GPT-3 برای تولید خودکار آگهی‌های استخدامی استفاده کنند. این آگهی‌ها نه تنها در زمان صرفه‌جویی می‌کنند، بلکه به طور قابل توجهی منصفانه‌تر، کمتر سوگیرانه و واقع‌بینانه‌تر خواهند بود. این امر می‌تواند به جذب طیف وسیع‌تری از استعدادها، از جمله گروه‌های کمتر نمایندگی شده، کمک کند.

• مقابله با تبعیض شغلی:

  با کاهش سوگیری در زبان مورد استفاده در آگهی‌ها، این تحقیق به طور مستقیم در جهت مبارزه با تبعیض شغلی گام برمی‌دارد. آگهی‌های عادلانه، شانس برابری را برای همه افراد، فارغ از جنسیت، نژاد، سن یا سایر مشخصات هویتی، فراهم می‌کنند.

• درک عمیق‌تر از محدودیت‌های LLMs:

  این پژوهش نشان می‌دهد که مدل‌های زبانی پیشرفته نیز بدون هدایت صحیح، محدودیت‌هایی دارند. درک این محدودیت‌ها به محققان و توسعه‌دهندگان کمک می‌کند تا روش‌های مؤثرتری برای کنترل و هدایت این مدل‌ها در وظایف حساس و تاثیرگذار بیابند.

• الگویی برای سایر کاربردها:

  رویکرد این مقاله – یعنی تمرکز بر یک وظیفه خاص (آگهی استخدام) و ارزیابی روش‌های مختلف کاهش سوگیری – می‌تواند الگویی برای تحقیقات آینده در سایر حوزه‌هایی باشد که مدل‌های زبانی در آن‌ها کاربرد دارند، مانند تولید محتوای آموزشی، متون حقوقی، یا حتی داستان‌سرایی.

مثال ملموس: فرض کنید یک شرکت فناوری قصد استخدام یک «مهندس نرم‌افزار» را دارد. GPT-3 بدون تنظیم دقیق ممکن است آگهی‌ای بنویسد که بر «مهارت‌های فنی پیشرفته» تأکید کند و از زبانی استفاده کند که ناخودآگاه مردان را هدف قرار دهد. اما پس از تنظیم دقیق بر روی آگهی‌های عادلانه، همین مدل می‌تواند آگهی‌ای تولید کند که بر «توانایی حل مسئله»، «کار تیمی» و «یادگیری مستمر» تأکید دارد و زبان آن برای همه، صرف نظر از جنسیت یا پیشینه، دعوت‌کننده و مناسب باشد.

۷. نتیجه‌گیری

مقاله “Looking for a Handsome Carpenter! Debiasing GPT-3 Job Advertisements” نشان می‌دهد که با وجود قابلیت‌های چشمگیر مدل‌های زبانی مانند GPT-3، چالش مهمی در زمینه سوگیری و واقع‌گرایی خروجی‌های آن‌ها، به خصوص در کاربردهای حساس اجتماعی مانند آگهی‌های استخدام، وجود دارد. نتایج تحقیق به صراحت نشان می‌دهد که رویکردهای ساده‌انگارانه مانند مهندسی پرامپت، در مقابله با این سوگیری‌ها کافی نیستند.

در مقابل، روش‌های مبتنی بر آموزش مجدد مدل (تنظیم دقیق) بر روی داده‌های با کیفیت، پاکسازی شده و عاری از تبعیض، کلید موفقیت در ایجاد خروجی‌های عادلانه و واقع‌بینانه است. این دستاورد، اهمیت حیاتی انتخاب داده‌های آموزشی مناسب و همچنین توسعه راهکارهایی برای پالایش و بهبود مداوم مدل‌های هوش مصنوعی را برجسته می‌کند.

در نهایت، این پژوهش راه را برای توسعه ابزارهایی هموار می‌سازد که نه تنها کارآمد، بلکه اخلاقی و منصفانه نیز باشند. با به‌کارگیری این یافته‌ها، می‌توانیم اطمینان حاصل کنیم که فناوری‌های نوظهور، از جمله مدل‌های زبانی بزرگ، در خدمت ایجاد جامعه‌ای برابرتر و عادلانه‌تر قرار می‌گیرند و از تداوم و تشدید نابرابری‌ها جلوگیری می‌کنند.