در عصر حاضر، شبکه‌های عصبی به عنوان ابزاری قدرتمند در حل مسائل پیچیده مورد استفاده قرار می‌گیرند. با این حال، این شبکه‌ها نیز خالی از اشکال نیستند. یکی از چالش‌های مهم، عملکرد ضعیف آن‌ها در تشخیص و دسته‌بندی گروه‌های اقلیت است. مقاله‌ای با عنوان “تقویت سوگیری، عملکرد گروه‌های اقلیت را ارتقا می‌دهد” به بررسی و ارائه راهکاری برای این مشکل می‌پردازد.

مقاله “تقویت سوگیری، عملکرد گروه‌های اقلیت را ارتقا می‌دهد” به بررسی یک چالش اساسی در حوزه یادگیری ماشین، یعنی عملکرد نابرابر شبکه‌های عصبی در گروه‌های مختلف جمعیتی می‌پردازد. این مسئله، که ناشی از وجود همبستگی‌های کاذب (spurious correlations) بین ویژگی‌ها و برچسب‌ها است، می‌تواند منجر به تبعیض و نتایج ناعادلانه در کاربردهای مختلف شود. به عنوان مثال، یک سیستم تشخیص چهره ممکن است در تشخیص چهره افراد با رنگ پوست تیره عملکرد ضعیف‌تری داشته باشد، یا یک سیستم تشخیص بیماری ممکن است در تشخیص بیماری در گروه‌های خاص جمعیتی دچار اشتباه شود. این مقاله با ارائه یک روش جدید به نام BAM (Bias Amplification Method) سعی در بهبود این وضعیت دارد و به این ترتیب، اهمیت بسزایی در راستای توسعه سیستم‌های یادگیری ماشین عادلانه‌تر و قابل‌اعتمادتر ایفا می‌کند.

این مقاله توسط Gaotang Li، Jiarui Liu و Wei Hu نوشته شده است. نویسندگان در زمینه یادگیری ماشین و هوش مصنوعی فعالیت دارند و تحقیقات آن‌ها بر روی بهبود عملکرد شبکه‌های عصبی در شرایط مختلف متمرکز است. این مقاله در حوزه علوم کامپیوتر و جوامع و در زیرمجموعه یادگیری ماشین قرار می‌گیرد و هدف آن ارائه راهکارهایی برای رفع تبعیض و بهبود عملکرد در گروه‌های اقلیت است. تخصص نویسندگان در حوزه یادگیری ماشین و تمرکز آن‌ها بر عدالت الگوریتمی، اعتبار قابل توجهی به این تحقیق می‌بخشد.

چکیده این مقاله به شرح زیر است:

شبکه‌های عصبی که با روش‌های آموزش استاندارد تولید می‌شوند، اغلب دقت پایینی در زیرگروه‌های نادر دارند، علی‌رغم اینکه به طور متوسط دقت بالایی دارند. این مشکل ناشی از همبستگی بین ویژگی‌های نامربوط و برچسب‌ها است. روش‌های قبلی مبتنی بر حداقل‌سازی خطای بدترین گروه (مانند Group-DRO) در بهبود دقت بدترین گروه مؤثر هستند، اما نیازمند حاشیه‌نویسی‌های گران‌قیمت برای تمام نمونه‌های آموزشی هستند. در این مقاله، ما بر روی یک تنظیمات چالش‌برانگیزتر و واقع‌گرایانه‌تر تمرکز می‌کنیم که در آن حاشیه‌نویسی‌های گروهی فقط در یک مجموعه اعتبارسنجی کوچک در دسترس هستند یا اصلاً در دسترس نیستند. ما BAM را پیشنهاد می‌کنیم، یک الگوریتم آموزشی دو مرحله‌ای جدید: در مرحله اول، مدل با استفاده از یک طرح تقویت سوگیری از طریق معرفی یک متغیر کمکی قابل یادگیری برای هر نمونه آموزشی آموزش داده می‌شود. در مرحله دوم، ما نمونه‌هایی را که مدل تقویت‌شده سوگیری به اشتباه طبقه‌بندی می‌کند، وزن‌دهی می‌کنیم و سپس به آموزش همان مدل بر روی مجموعه داده با وزن‌دهی مجدد ادامه می‌دهیم. به طور تجربی، BAM در مقایسه با روش‌های موجود که بر روی معیارهای همبستگی کاذب در بینایی کامپیوتر و پردازش زبان طبیعی ارزیابی می‌شوند، عملکرد رقابتی را ارائه می‌دهد. علاوه بر این، ما یک معیار توقف ساده را بر اساس حداقل تفاوت دقت کلاس پیدا می‌کنیم که می‌تواند نیاز به حاشیه‌نویسی‌های گروهی را از بین ببرد، با کمترین یا بدون از دست دادن دقت بدترین گروه. ما تجزیه و تحلیل‌ها و ابلیشن‌های گسترده‌ای را برای تأیید اثربخشی و استحکام الگوریتم خود در تغییر نسبت‌های عدم تعادل کلاس و گروه انجام می‌دهیم.

به طور خلاصه، این مقاله یک روش جدید برای بهبود عملکرد شبکه‌های عصبی در گروه‌های اقلیت ارائه می‌دهد. این روش، که BAM نام دارد، از طریق تقویت سوگیری و وزن‌دهی مجدد نمونه‌ها، سعی در کاهش اثرات همبستگی‌های کاذب دارد. نتایج تجربی نشان می‌دهد که BAM می‌تواند به طور قابل توجهی عملکرد شبکه‌های عصبی را در گروه‌های اقلیت بهبود بخشد، حتی در شرایطی که اطلاعات محدودی در مورد گروه‌ها در دسترس باشد.

روش پیشنهادی مقاله (BAM) از دو مرحله اصلی تشکیل شده است:

• مرحله اول: تقویت سوگیری (Bias Amplification): در این مرحله، یک متغیر کمکی قابل یادگیری به هر نمونه آموزشی اضافه می‌شود. این متغیر به مدل کمک می‌کند تا سوگیری‌های موجود در داده‌ها را شناسایی و تقویت کند. هدف این مرحله، ایجاد یک مدل است که به طور آگاهانه به سمت اشتباه طبقه‌بندی نمونه‌های گروه‌های اقلیت حرکت کند.
• مرحله دوم: وزن‌دهی مجدد نمونه‌ها (Sample Reweighting): در این مرحله، نمونه‌هایی که توسط مدل تقویت‌شده سوگیری به اشتباه طبقه‌بندی شده‌اند، وزن‌دهی می‌شوند. به این ترتیب، این نمونه‌ها در فرآیند آموزش بعدی اهمیت بیشتری پیدا می‌کنند و مدل مجبور می‌شود تا آن‌ها را به درستی یاد بگیرد. این مرحله در واقع یک نوع جریمه برای مدل محسوب می‌شود، زیرا اشتباهات آن در مورد گروه‌های اقلیت با وزن بیشتری مجازات می‌شوند.

پس از این دو مرحله، مدل بر روی مجموعه داده با وزن‌دهی مجدد آموزش داده می‌شود تا عملکرد آن در گروه‌های اقلیت بهبود یابد.

به عنوان مثال، فرض کنید می‌خواهیم یک مدل تشخیص تصویر را آموزش دهیم تا پرندگان را تشخیص دهد. اگر در مجموعه داده آموزشی، بیشتر تصاویر سینه سرخ‌ها (robin) در پس‌زمینه سبز (مانند چمن) باشند، مدل ممکن است یاد بگیرد که رنگ سبز پس‌زمینه را به عنوان یک ویژگی مرتبط با سینه سرخ‌ها در نظر بگیرد. در این صورت، اگر یک تصویر سینه سرخ در پس‌زمینه‌ای غیر از سبز (مثلاً در پس‌زمینه سفید برفی) وجود داشته باشد، ممکن است مدل آن را به درستی تشخیص ندهد. روش BAM با تقویت این سوگیری (ارتباط بین سینه سرخ و رنگ سبز) در مرحله اول، و سپس وزن‌دهی بیشتر به تصاویری از سینه سرخ‌ها در پس‌زمینه‌های غیر سبز در مرحله دوم، به مدل کمک می‌کند تا این مشکل را حل کند.

یافته‌های کلیدی این تحقیق عبارتند از:

• روش BAM می‌تواند به طور قابل توجهی عملکرد شبکه‌های عصبی را در گروه‌های اقلیت بهبود بخشد.
• BAM می‌تواند با روش‌های موجود که نیازمند اطلاعات کامل در مورد گروه‌ها هستند، رقابت کند، حتی در شرایطی که اطلاعات محدودی در مورد گروه‌ها در دسترس باشد.
• یک معیار توقف ساده بر اساس حداقل تفاوت دقت کلاس می‌تواند نیاز به حاشیه‌نویسی‌های گروهی را از بین ببرد، بدون اینکه دقت بدترین گروه به طور قابل توجهی کاهش یابد.
• BAM در برابر تغییر نسبت‌های عدم تعادل کلاس و گروه مقاوم است.

به عبارت دیگر، این مقاله نشان می‌دهد که با استفاده از یک روش هوشمندانه برای تقویت سوگیری‌ها و وزن‌دهی مجدد نمونه‌ها، می‌توان عملکرد شبکه‌های عصبی را در گروه‌هایی که معمولاً نادیده گرفته می‌شوند، بهبود بخشید.

این تحقیق می‌تواند در زمینه‌های مختلف کاربرد داشته باشد، از جمله:

• تشخیص چهره: بهبود عملکرد سیستم‌های تشخیص چهره در تشخیص چهره افراد با رنگ پوست تیره.
• تشخیص بیماری: بهبود عملکرد سیستم‌های تشخیص بیماری در تشخیص بیماری در گروه‌های خاص جمعیتی.
• پردازش زبان طبیعی: بهبود عملکرد سیستم‌های پردازش زبان طبیعی در درک زبان در لهجه‌ها و گویش‌های مختلف.
• تصمیم‌گیری خودکار: کاهش تبعیض در سیستم‌های تصمیم‌گیری خودکار، مانند سیستم‌های اعتبارسنجی و استخدام.

دستاورد اصلی این مقاله، ارائه یک روش جدید و مؤثر برای بهبود عملکرد شبکه‌های عصبی در گروه‌های اقلیت است. این روش می‌تواند به توسعه سیستم‌های یادگیری ماشین عادلانه‌تر و قابل‌اعتمادتر کمک کند و از تبعیض در کاربردهای مختلف جلوگیری کند.

مقاله “تقویت سوگیری، عملکرد گروه‌های اقلیت را ارتقا می‌دهد” یک گام مهم در جهت توسعه سیستم‌های یادگیری ماشین عادلانه‌تر و قابل‌اعتمادتر است. این مقاله با ارائه یک روش جدید و مؤثر برای بهبود عملکرد شبکه‌های عصبی در گروه‌های اقلیت، نشان می‌دهد که می‌توان با استفاده از رویکردهای خلاقانه، مشکلات ناشی از همبستگی‌های کاذب و عدم تعادل داده‌ها را حل کرد. تحقیقات آینده می‌تواند بر روی بهبود بیشتر این روش و بررسی کاربردهای آن در زمینه‌های مختلف تمرکز کند. در نهایت، این مقاله به ما یادآوری می‌کند که باید همواره به دنبال راهکارهایی برای کاهش تبعیض و بهبود عدالت در سیستم‌های هوش مصنوعی باشیم.