در سال‌های اخیر، مدل‌های یادگیری ماشین در حوزه‌های گوناگون از بینایی کامپیوتر تا پردازش زبان طبیعی، به موفقیت‌های چشمگیری دست یافته‌اند. با این حال، یکی از چالش‌های اساسی و نگران‌کننده‌ای که همواره این پیشرفت‌ها را تحت‌الشعاع قرار داده، مسئله سوگیری و عدم عدالت الگوریتمی است. مطالعات متعدد نشان داده‌اند که این مدل‌ها اغلب برای گروه‌های اقلیت یا به‌طور سنتی محروم، عملکرد ضعیف‌تری از خود به نمایش می‌گذارند. این نابرابری در عملکرد، ریشه در عوامل مختلفی دارد، اما یکی از اصلی‌ترین دلایل آن، عدم نمایندگی کافی این گروه‌ها در مجموعه‌داده‌های آموزشی است.

مقاله «راهبردهای نمونه‌برداری تطبیقی جهت ایجاد مجموعه‌داده‌های آموزشی عادلانه» به طور مستقیم به قلب این مشکل می‌پردازد. اهمیت این مقاله در آن است که از رویکردهای ساده و شهودی فراتر رفته و یک چارچوب آماری و ریاضیاتی دقیق برای حل مسئله ارائه می‌دهد. به جای طرح سوال «چگونه داده‌های بیشتری جمع کنیم؟»، این مقاله سوال هوشمندانه‌تری را مطرح می‌کند: «چگونه با یک بودجه مشخص، داده‌ها را به شیوه‌ای بهینه از زیرگروه‌های مختلف جمع‌آوری کنیم تا عادلانه‌ترین مدل ممکن را بسازیم؟» این تغییر نگرش از جمع‌آوری صرف به طراحی استراتژیک مجموعه‌داده، یک گام بزرگ در جهت ساخت سیستم‌های هوش مصنوعی مسئولانه و منصفانه محسوب می‌شود.

این مقاله حاصل همکاری گروهی از پژوهشگران برجسته در حوزه هوش مصنوعی و علوم داده است: ویلیام کای، رو انکارناسیون، بابی چرن، سام کوربت-دیویس، میراندا بوگن، استیوی برگمن و شاراد گوئل. این نویسندگان دارای سوابق درخشانی در موسسات آکادمیک و صنعتی پیشرو مانند دانشگاه استنفورد و گوگل هستند و تحقیقات آن‌ها عمدتاً بر جنبه‌های عدالت، شفافیت و پاسخگویی در یادگیری ماشین متمرکز است.

زمینه این تحقیق در تقاطع سه حوزه اصلی قرار دارد: یادگیری ماشین (Machine Learning)، عدالت الگوریتمی (Algorithmic Fairness) و بهینه‌سازی (Optimization). این مقاله تلاش می‌کند تا ابزارهای نظری بهینه‌سازی را برای حل یک مشکل عملی و اجتماعی در حوزه هوش مصنوعی به کار گیرد و راهکاری ارائه دهد که هم از نظر ریاضیاتی مستحکم و هم در عمل قابل پیاده‌سازی باشد.

این مقاله به بررسی شکاف عملکرد مدل‌های یادگیری ماشین برای گروه‌های مختلف اجتماعی می‌پردازد و استدلال می‌کند که یکی از دلایل اصلی این شکاف، عدم توازن و نمایندگی در داده‌های آموزشی است. نویسندگان مسئله ساخت یک مجموعه‌داده آموزشی عادلانه را به صورت یک مسئله بهینه‌سازی مقید (Constrained Optimization) فرمول‌بندی می‌کنند. در این چارچوب، یک سازنده مدل با بودجه‌ای محدود برای جمع‌آوری داده مواجه است و باید تصمیم بگیرد که این بودجه را چگونه بین زیرگروه‌های مختلف (مانند نژادها، جنسیت‌ها یا گروه‌های سنی مختلف) تخصیص دهد.

هدف این بهینه‌سازی، حداکثر کردن یک تابع از معیارهای عملکرد مختص هر گروه است. این تابع می‌تواند منعکس‌کننده اهداف مختلفی باشد؛ برای مثال، به حداقل رساندن خطای بدترین گروه (minimax) یا به حداکثر رساندن میانگین عملکرد. نکته کلیدی این است که این مدل، ویژگی‌های آماری مسئله یادگیری مانند نرخ یادگیری (learning rate) مختص هر گروه (یعنی سرعت بهبود عملکرد با افزودن داده) و هزینه نمونه‌برداری از هر گروه را در نظر می‌گیرد.

یکی از نوآوری‌های اصلی مقاله این است که نشان می‌دهد حتی بدون دانش قبلی از نرخ‌های یادگیری، می‌توان این مسئله را به صورت متوالی و تطبیقی حل کرد. در نهایت، برای نمایش کارایی این رویکرد، یک مطالعه شبیه‌سازی بر روی داده‌های ژنومی مصنوعی برای پیش‌بینی امتیازهای ریسک پلی‌ژنیک انجام شده است؛ حوزه‌ای که به شدت از عدم توازن داده رنج می‌برد. نتایج نشان می‌دهد که راهبرد نمونه‌برداری تطبیقی پیشنهادی، عملکرد بهتری نسبت به روش‌های رایج مانند نمونه‌برداری برابر یا متناسب دارد.

قلب این مقاله، ارائه یک چارچوب روش‌مند برای تخصیص بودجه جمع‌آوری داده است. این روش‌شناسی بر پایه‌های زیر استوار است:

• فرمول‌بندی به عنوان مسئله بهینه‌سازی: محققان مشکل را به صورت ریاضی تعریف می‌کنند. هدف، یافتن توزیع بهینه‌ای از نمونه‌ها بین گروه‌های مختلف است که یک تابع هدف (مرتبط با عدالت) را حداکثر کند، در حالی که هزینه کل از بودجه تعیین‌شده تجاوز نکند.
• تابع هدف انعطاف‌پذیر: چارچوب اجازه می‌دهد تا ذی‌نفعان مختلف، تعریف خود از “عدالت” را در مدل وارد کنند. برای مثال، یک هدف می‌تواند افزایش عملکرد گروهی با کمترین کارایی باشد تا شکاف عملکرد کاهش یابد. هدف دیگر می‌تواند حداکثر کردن میانگین وزنی عملکرد همه گروه‌ها باشد.
• در نظر گرفتن پارامترهای کلیدی: مدل دو پارامتر حیاتی را برای هر زیرگروه در نظر می‌گیرد:
  • نرخ یادگیری گروهی (Group-specific learning rate): این پارامتر تخمین می‌زند که به ازای هر نمونه داده جدید از یک گروه خاص، عملکرد مدل برای آن گروه چقدر بهبود می‌یابد. گروه‌هایی با داده‌های کمتر معمولاً نرخ یادگیری بالاتری دارند.
  • هزینه به ازای هر نمونه (Cost per sample): جمع‌آوری داده از برخی گروه‌ها ممکن است دشوارتر و پرهزینه‌تر باشد. این مدل این هزینه‌های متفاوت را لحاظ می‌کند.
• نمونه‌برداری تطبیقی و متوالی (Adaptive and Sequential Sampling): مهم‌ترین جنبه روش‌شناسی این است که نیازی به دانستن نرخ‌های یادگیری از قبل نیست. فرآیند جمع‌آوری داده به صورت مرحله‌ای انجام می‌شود. در هر مرحله:
  1. مدل بر اساس داده‌های موجود، نرخ یادگیری هر گروه را تخمین می‌زند.
  2. با استفاده از این تخمین‌ها، مسئله بهینه‌سازی را حل کرده و تصمیم می‌گیرد که بخش بعدی بودجه را به کدام گروه(ها) تخصیص دهد.
  3. داده‌های جدید جمع‌آوری شده و فرآیند تکرار می‌شود.

  این ماهیت تطبیقی به سیستم اجازه می‌دهد تا به صورت هوشمند منابع را به جایی هدایت کند که بیشترین تأثیر را در جهت بهبود عدالت و عملکرد کلی دارد.

نویسندگان برای ارزیابی رویکرد خود، یک مطالعه شبیه‌سازی دقیق در زمینه امتیازهای ریسک پلی‌ژنیک (Polygenic Risk Scores) انجام دادند. این امتیازها برای پیش‌بینی ریسک بیماری‌های ژنتیکی استفاده می‌شوند و به دلیل اتکای شدید به داده‌های ژنومی جمعیت‌های اروپایی، برای سایر نژادها دقت بسیار پایین‌تری دارند. نتایج این شبیه‌سازی بسیار گویا بود:

• برتری بر روش‌های رایج: راهبرد نمونه‌برداری تطبیقی (adaptive sampling) به طور قابل توجهی از دو روش رایج دیگر بهتر عمل کرد:
  • نمونه‌برداری برابر (Equal Sampling): که در آن از هر گروه تعداد نمونه یکسانی جمع‌آوری می‌شود.
  • نمونه‌برداری متناسب (Proportional Sampling): که در آن نمونه‌ها متناسب با اندازه جمعیت هر گروه جمع‌آوری می‌شوند.
• تخصیص هوشمند منابع: استراتژی تطبیقی نشان داد که به طور هوشمند منابع را به گروه‌هایی تخصیص می‌دهد که داده‌های اولیه کمتری داشتند و در نتیجه نرخ یادگیری بالاتری از خود نشان می‌دادند. این رویکرد تضمین می‌کند که بودجه در جایی صرف می‌شود که بیشترین بازده را برای بهبود عدالت دارد.
• کارایی در شرایط عدم قطعیت: این روش حتی زمانی که تخمین‌های اولیه از نرخ یادگیری دقیق نبودند، به دلیل ماهیت تطبیقی خود، به سرعت خود را اصلاح کرده و به سمت تخصیص بهینه منابع حرکت می‌کرد. این یافته نشان‌دهنده استحکام (robustness) این چارچوب در دنیای واقعی است.

این یافته‌ها به وضوح نشان می‌دهند که طراحی استراتژیک و مبتنی بر بهینه‌سازی مجموعه‌داده، بسیار مؤثرتر از راهکارهای ساده و اکتشافی برای دستیابی به مدل‌های عادلانه است.

دستاورد اصلی این مقاله، ارائه یک چارچوب عملی و قابل تعمیم برای ساخت مجموعه‌داده‌های عادلانه است. این چارچوب صرفاً یک مفهوم نظری نیست، بلکه می‌تواند به طور مستقیم در فرآیندهای جمع‌آوری داده در دنیای واقعی به کار گرفته شود. برخی از کاربردها و دستاوردهای کلیدی آن عبارتند از:

• پزشکی و ژنتیک: همانطور که در مثال امتیازهای ریسک پلی‌ژنیک نشان داده شد، این رویکرد می‌تواند به ساخت ابزارهای تشخیصی و پیش‌بینی‌کننده‌ای منجر شود که برای تمام نژادها و قومیت‌ها به یک اندازه دقیق عمل کنند.
• اعتبارسنجی مالی: در سیستم‌های ارزیابی اعتبار وام، مدل‌ها اغلب برای اقلیت‌های اقتصادی سوگیری دارند. با استفاده از این چارچوب، می‌توان داده‌ها را به گونه‌ای جمع‌آوری کرد که مدل‌های اعتبارسنجی منصفانه‌تری ایجاد شوند.
• سیستم‌های تشخیص چهره و بینایی کامپیوتر: این سیستم‌ها به دلیل کمبود داده از نژادهای غیرسفیدپوست و زنان، عملکرد ضعیف‌تری برای این گروه‌ها دارند. نمونه‌برداری تطبیقی می‌تواند به طور هدفمند این شکاف داده را پر کند.
• پردازش زبان طبیعی: مدل‌های زبانی بزرگ ممکن است برای گویش‌های غیر استاندارد یا زبان‌های با منابع کم، عملکرد ضعیفی داشته باشند. این استراتژی می‌تواند برای جمع‌آوری داده‌های هدفمند جهت بهبود عملکرد برای این جوامع زبانی به کار رود.

مهم‌ترین دستاورد این مقاله، تبدیل مفهوم انتزاعی “نمایندگی داده” به یک فرآیند مهندسی دقیق و بهینه‌سازی شده است. این مقاله به سازندگان مدل ابزاری می‌دهد تا به جای امید به داده‌های بهتر، فعالانه برای طراحی و ساخت داده‌های عادلانه‌تر اقدام کنند.

مقاله «راهبردهای نمونه‌برداری تطبیقی جهت ایجاد مجموعه‌داده‌های آموزشی عادلانه» یک گام مهم و رو به جلو در تلاش برای ساختن هوش مصنوعی منصفانه و مسئولانه است. این تحقیق با موفقیت نشان می‌دهد که مبارزه با سوگیری الگوریتمی باید از همان مرحله اول، یعنی جمع‌آوری داده، آغاز شود و این فرآیند نباید به صورت تصادفی یا بر اساس روش‌های ساده انجام گیرد.

با ارائه یک چارچوب بهینه‌سازی که هم انعطاف‌پذیر است و هم از نظر آماری مستحکم، نویسندگان ابزاری قدرتمند در اختیار جامعه هوش مصنوعی قرار می‌دهند. این ابزار به توسعه‌دهندگان اجازه می‌دهد تا با در نظر گرفتن محدودیت‌های واقعی مانند بودجه، به صورت استراتژیک برای کاهش نابرابری‌ها در مدل‌های خود برنامه‌ریزی کنند. نمونه‌برداری تطبیقی صرفاً یک تکنیک نیست، بلکه یک تغییر پارادایم است: از واکنش منفعلانه به داده‌های موجود به سمت طراحی فعالانه و هدفمند مجموعه‌داده‌های آینده. این رویکرد پتانسیل آن را دارد که تأثیر عمیقی بر نحوه توسعه سیستم‌های هوش مصنوعی در حوزه‌های حساس و حیاتی داشته باشد و ما را به آینده‌ای نزدیک‌تر کند که در آن فناوری به طور عادلانه به همه انسان‌ها خدمت می‌کند.