مقاله حاضر به بررسی یک موضوع حیاتی و رو به رشد در حوزه پردازش زبان طبیعی (NLP) و هوش مصنوعی می‌پردازد: وجود کلیشه‌های جنسیتی و نژادی پنهان در بازنمایی‌های کلمه‌ای (Word Embeddings) که از آرای قضایی ایالات متحده آمریکا استخراج شده‌اند. اهمیت این تحقیق از آنجا ناشی می‌شود که سیستم‌های NLP به طور فزاینده‌ای در حوزه‌های مختلف از جمله ابزارهای حقوقی مورد استفاده قرار می‌گیرند، و وجود هرگونه سوگیری در این سیستم‌ها می‌تواند منجر به نتایج ناعادلانه و تبعیض‌آمیز شود.

این مقاله توسط شان متیوز، جان هودزینا و دان سپهر نگارش شده است. نویسندگان با تخصص در زمینه‌های محاسبات و زبان، و همچنین هوش مصنوعی، به دنبال درک و شناسایی تاثیرات ناخواسته سوگیری‌های اجتماعی بر سیستم‌های هوش مصنوعی هستند. زمینه تحقیقاتی آن‌ها در تقاطع حقوق، هوش مصنوعی و اخلاق قرار دارد، و هدفشان توسعه ابزارهایی برای اطمینان از عادلانه و بدون سوگیری بودن سیستم‌های حقوقی مبتنی بر هوش مصنوعی است.

چکیده مقاله به این نکته اشاره دارد که سیستم‌های پردازش زبان طبیعی (NLP) ممکن است کلیشه‌های مضر را رمزگذاری و تکثیر کنند، که این امر می‌تواند اثرات اخلاقی نامطلوبی در جامعه داشته باشد. این مقاله روشی را برای شناسایی کلیشه‌های جنسیتی و نژادی در بازنمایی‌های کلمه‌ای که بر اساس آرای قضایی ایالات متحده آموزش داده شده‌اند، ارائه می‌دهد. بازنمایی‌های کلمه‌ای که حاوی اطلاعات کلیشه‌ای هستند، می‌توانند در سیستم‌های پایین‌دستی برای طبقه‌بندی، استخراج اطلاعات، پاسخ به سوالات یا سایر سیستم‌های یادگیری ماشین مورد استفاده در ساخت ابزارهای تحقیقات حقوقی، آسیب ایجاد کنند. نویسندگان ابتدا توضیح می‌دهند که چرا روش‌های پیشنهادی قبلی برای شناسایی این سوگیری‌ها برای استفاده با بازنمایی‌های کلمه‌ای که بر روی متن رای‌های قضایی آموزش داده شده‌اند، مناسب نیستند. سپس یک روش متناسب با دامنه حقوقی برای شناسایی سوگیری‌های جنسیتی و نژادی در این حوزه پیشنهاد می‌کنند. تجزیه و تحلیل آن‌ها با استفاده از این روش‌ها نشان می‌دهد که سوگیری‌های نژادی و جنسیتی در بازنمایی‌های کلمه‌ای که بر اساس رای‌های قضایی آموزش داده شده‌اند، رمزگذاری شده‌اند. این سوگیری‌ها با حذف داده‌های تاریخی کاهش نمی‌یابند و در چندین حوزه موضوعی بزرگ حقوقی ظاهر می‌شوند. مفاهیم مربوط به سیستم‌های پایین‌دستی که از بازنمایی‌های کلمه‌ای رای‌های قضایی استفاده می‌کنند و پیشنهادهایی برای راهبردهای بالقوه کاهش این سوگیری‌ها بر اساس مشاهدات ارائه شده است.

به عبارت دیگر، این پژوهش نشان می‌دهد که سوگیری‌های موجود در متون حقوقی (مانند آرای قضایی) می‌توانند به مدل‌های زبانی منتقل شوند و در نتیجه، این مدل‌ها نیز به صورت ناخواسته این سوگیری‌ها را بازتولید کنند. این امر نگرانی‌های جدی در مورد استفاده از این مدل‌ها در ابزارهای حقوقی ایجاد می‌کند.

روش‌شناسی این تحقیق شامل چندین مرحله کلیدی است:

• جمع‌آوری داده‌ها: جمع‌آوری مجموعه بزرگی از آرای قضایی ایالات متحده آمریکا. این مجموعه داده شامل متون مختلفی از پرونده‌های حقوقی در حوزه‌های مختلف است.
• آماده‌سازی داده‌ها: پیش‌پردازش داده‌ها شامل حذف کلمات توقف (Stop words)، نشانه‌گذاری (Tokenization) و سایر مراحل استاندارد در پردازش متن.
• آموزش مدل‌های بازنمایی کلمه‌ای: آموزش مدل‌های مختلف بازنمایی کلمه‌ای (مانند Word2Vec, GloVe, FastText) بر روی مجموعه داده‌ی آماده شده. هدف، ایجاد بازنمایی‌های عددی برای کلمات است که روابط معنایی بین آن‌ها را حفظ کند.
• توسعه روش‌های شناسایی سوگیری: نویسندگان روش‌های موجود برای شناسایی سوگیری در بازنمایی‌های کلمه‌ای را بررسی کرده و یک روش جدید و متناسب با دامنه حقوقی پیشنهاد می‌کنند. این روش به احتمال زیاد از معیارها و تکنیک‌هایی استفاده می‌کند که به طور خاص برای تشخیص سوگیری‌های جنسیتی و نژادی در متون حقوقی طراحی شده‌اند. به عنوان مثال، ممکن است از لیستی از کلمات کلیدی مرتبط با هر گروه (مثلاً کلمات مرتبط با زنان و مردان، یا گروه‌های نژادی مختلف) استفاده شود و سپس بررسی شود که آیا این کلمات در فضای بازنمایی کلمه‌ای به گروه‌های خاصی نزدیک‌تر هستند یا خیر.
• تجزیه و تحلیل و ارزیابی: ارزیابی میزان سوگیری موجود در بازنمایی‌های کلمه‌ای با استفاده از روش‌های توسعه‌یافته. این مرحله شامل اندازه‌گیری میزان ارتباط بین کلمات و گروه‌های خاص و تعیین اینکه آیا این ارتباطات نشان‌دهنده سوگیری هستند یا خیر.

به طور خاص، مقاله به این نکته اشاره می‌کند که روش‌های قبلی برای شناسایی سوگیری در بازنمایی‌های کلمه‌ای به خوبی برای متون حقوقی مناسب نیستند. دلیل این امر می‌تواند این باشد که زبان حقوقی تخصصی است و حاوی اصطلاحات و عباراتی است که در سایر حوزه‌ها رایج نیستند. بنابراین، نویسندگان یک روش جدید را توسعه می‌دهند که به طور خاص برای این دامنه طراحی شده است.

یافته‌های اصلی این تحقیق به شرح زیر است:

• وجود سوگیری در بازنمایی‌های کلمه‌ای: بازنمایی‌های کلمه‌ای که بر اساس آرای قضایی آموزش داده شده‌اند، حاوی سوگیری‌های جنسیتی و نژادی هستند. این بدان معناست که کلمات مرتبط با گروه‌های خاص ممکن است به طور غیرمنصفانه‌ای با مفاهیم یا صفات منفی مرتبط شوند.
• عدم تاثیر حذف داده‌های تاریخی: حذف داده‌های تاریخی (یعنی آرای قضایی قدیمی‌تر) تاثیر قابل توجهی بر کاهش سوگیری‌ها ندارد. این نشان می‌دهد که سوگیری‌ها نه تنها در گذشته وجود داشته‌اند، بلکه در آرای قضایی معاصر نیز همچنان وجود دارند.
• سوگیری در حوزه‌های مختلف حقوقی: سوگیری‌ها در حوزه‌های مختلف حقوقی (مانند حقوق مدنی، حقوق کیفری و غیره) مشاهده می‌شوند. این نشان می‌دهد که مشکل سوگیری یک مسئله گسترده و فراگیر است و محدود به یک حوزه خاص نیست.

به عنوان مثال، ممکن است کلماتی مانند “پرستار” یا “معلم” در فضای بازنمایی کلمه‌ای به زنان نزدیک‌تر باشند، در حالی که کلماتی مانند “مدیرعامل” یا “مهندس” به مردان نزدیک‌تر باشند. این نشان‌دهنده یک سوگیری جنسیتی در بازنمایی‌های کلمه‌ای است.

این تحقیق دارای کاربردهای مهمی در حوزه‌های مختلف است:

• آگاهی‌بخشی: این تحقیق به محققان، وکلا و قضات کمک می‌کند تا از وجود سوگیری‌های پنهان در سیستم‌های حقوقی مبتنی بر هوش مصنوعی آگاه شوند.
• توسعه ابزارهای عادلانه‌تر: یافته‌های این تحقیق می‌تواند در توسعه ابزارهای حقوقی مبتنی بر هوش مصنوعی که عادلانه‌تر و بدون سوگیری هستند، مورد استفاده قرار گیرد.
• بهبود الگوریتم‌ها: این تحقیق می‌تواند به توسعه الگوریتم‌های جدید برای کاهش سوگیری در بازنمایی‌های کلمه‌ای و سایر مدل‌های زبانی کمک کند.

دستاورد اصلی این پژوهش، ارائه یک روش عملی برای شناسایی و اندازه‌گیری سوگیری در بازنمایی‌های کلمه‌ای متون حقوقی است. این روش می‌تواند به عنوان مبنایی برای تحقیقات آینده در این زمینه مورد استفاده قرار گیرد و به توسعه ابزارهای حقوقی عادلانه‌تر و شفاف‌تر کمک کند.

این مقاله یک گام مهم در جهت درک و مقابله با سوگیری‌های موجود در سیستم‌های حقوقی مبتنی بر هوش مصنوعی است. یافته‌های این تحقیق نشان می‌دهد که بازنمایی‌های کلمه‌ای که بر اساس آرای قضایی آموزش داده شده‌اند، می‌توانند حاوی سوگیری‌های جنسیتی و نژادی باشند. این سوگیری‌ها می‌توانند منجر به نتایج ناعادلانه و تبعیض‌آمیز شوند. نویسندگان پیشنهاد می‌کنند که محققان و توسعه‌دهندگان باید به این مسئله توجه داشته باشند و برای کاهش سوگیری‌ها در سیستم‌های خود تلاش کنند. همچنین، ارائه یک روش جدید برای شناسایی سوگیری در متون حقوقی، از جمله دستاوردهای مهم این مقاله است که می‌تواند به توسعه ابزارهای حقوقی عادلانه‌تر کمک کند. در نهایت، این مقاله بر اهمیت توجه به جنبه‌های اخلاقی و اجتماعی هوش مصنوعی تاکید می‌کند و نشان می‌دهد که توسعه فناوری باید با در نظر گرفتن تاثیرات آن بر جامعه انجام شود.