ترجمه فارسی مقاله جنسیت، نژاد و سوگیری مقطعی در غربالگری رزومه از طریق بازیابی مدل زبانی

چکیده

Artificial intelligence (AI) hiring tools have revolutionized resume screening, and large language models (LLMs) have the potential to do the same. However, given the biases which are embedded within LLMs, it is unclear whether they can be used in this scenario without disadvantaging groups based on their protected attributes. In this work, we investigate the possibilities of using LLMs in a resume screening setting via a document retrieval framework that simulates job candidate selection. Using that framework, we then perform a resume audit study to determine whether a selection of Massive Text Embedding (MTE) models are biased in resume screening scenarios. We simulate this for nine occupations, using a collection of over 500 publicly available resumes and 500 job descriptions. We find that the MTEs are biased, significantly favoring White-associated names in 85.1% of cases and female-associated names in only 11.1% of cases, with a minority of cases showing no statistically significant differences. Further analyses show that Black males are disadvantaged in up to 100% of cases, replicating real-world patterns of bias in employment settings, and validate three hypotheses of intersectionality. We also find an impact of document length as well as the corpus frequency of names in the selection of resumes. These findings have implications for widely used AI tools that are automating employment, fairness, and tech policy.

چکیده به فارسی (ترجمه ماشینی)

ابزارهای استخدام هوش مصنوعی (AI) باعث انقلابی در غربالگری رزومه شده اند ، و مدل های بزرگ زبان (LLM) پتانسیل انجام همین کار را دارند.با این حال ، با توجه به تعصباتی که در LLMS تعبیه شده اند ، مشخص نیست که آیا می توان آنها را در این سناریو بدون گروه های مضراتی بر اساس ویژگی های محافظت شده خود استفاده کرد.در این کار ، ما در مورد امکان استفاده از LLMS در یک تنظیم رزومه از طریق یک چارچوب بازیابی سند که انتخاب نامزد شغلی را شبیه سازی می کند ، بررسی می کنیم.با استفاده از این چارچوب ، ما یک مطالعه حسابرسی رزومه را انجام می دهیم تا مشخص کنیم آیا انتخابی از مدل های تعبیه شده متن (MTE) در سناریوهای غربالگری رزومه مغرضانه است.ما این کار را برای نه شغل شبیه سازی می کنیم ، با استفاده از مجموعه ای از بیش از 500 رزومه در دسترس عمومی و 500 توضیحات شغلی.ما می دانیم که MTE ها مغرضانه هستند ، به طور قابل توجهی نام های مرتبط با سفید را در 85.1 ٪ موارد و نام های مربوط به زن تنها در 11.1 ٪ موارد ، با اقلیت مواردی که از نظر آماری تفاوت معنی داری نشان نمی دهند ، دارند.تجزیه و تحلیل های بیشتر نشان می دهد که مردان سیاه پوست در حداکثر 100 ٪ موارد محروم هستند ، و الگوهای تعصب در دنیای واقعی در تنظیمات اشتغال را تکرار می کنند و سه فرضیه تقاطع را تأیید می کنند.ما همچنین در انتخاب رزومه ها تأثیر طول اسناد و همچنین فرکانس بدنه نامه ها را می یابیم.این یافته ها پیامدهایی برای ابزارهای AI گسترده استفاده می کند که به صورت خودکار در حال انجام اشتغال ، انصاف و سیاست های فنی هستند.