در دنیای امروز که هوش مصنوعی به سرعت در حال نفوذ به جنبه‌های مختلف زندگی ماست، اطمینان از عملکرد عادلانه و بدون تبعیض این سیستم‌ها به یک ضرورت انکارناپذیر تبدیل شده است. یکی از حوزه‌های پژوهشی فعال و پرکاربرد، تشخیص احساسات در مکالمات چندوجهی (mERC) است که هدف آن درک و پیش‌بینی حالات عاطفی انسان از طریق تحلیل همزمان چندین کانال اطلاعاتی مانند متن، صدا و تصاویر چهره است.

با این حال، یک چالش بزرگ در این مسیر وجود دارد: مدل‌های هوش مصنوعی که بر اساس داده‌های تولیدشده توسط انسان آموزش می‌بینند، ناگزیر تعصبات و پیش‌داوری‌های پنهان در زبان و رفتار انسانی را نیز می‌آموزند. این مسئله می‌تواند منجر به خطاهای سیستماتیک و نتایج ناعادلانه شود. برای مثال، یک سیستم ممکن است به دلیل سوگیری‌های موجود در داده‌های آموزشی، به طور مداوم احساسات بیان‌شده توسط زنان را شدیدتر از مردان ارزیابی کند.

مقاله “A Multibias-mitigated and Sentiment Knowledge Enriched Transformer for Debiasing in Multimodal Conversational Emotion Recognition” که در این نوشتار به بررسی آن می‌پردازیم، به عنوان یکی از اولین تلاش‌های جامع برای مقابله با این مشکل، اهمیت ویژه‌ای دارد. این پژوهش نه تنها بر یک نوع سوگیری، بلکه بر کاهش همزمان پنج نوع سوگیری رایج (جنسیت، سن، نژاد، مذهب و +LGBTQ) در داده‌های متنی و بصری تمرکز می‌کند و یک معماری نوآورانه برای ساخت سیستم‌های تشخیص احساسات عادلانه‌تر و دقیق‌تر ارائه می‌دهد.

این مقاله توسط تیمی از پژوهشگران برجسته شامل جینگ‌لین وانگ، فانگ ما، یاژو ژانگ و داوی سونگ به رشته تحریر درآمده است. تخصص این محققان در حوزه‌هایی چون پردازش زبان طبیعی (NLP)، یادگیری ماشین و هوش مصنوعی محاسباتی، بستر علمی قدرتمندی را برای این پژوهش فراهم کرده است.

این تحقیق در تقاطع سه حوزه علمی مهم قرار می‌گیرد:

• پردازش زبان طبیعی (NLP): تمرکز بر درک و تحلیل داده‌های متنی مکالمات.
• بینایی ماشین (Computer Vision): تحلیل اطلاعات بصری مانند حالات چهره و ژست‌ها.
• هوش مصنوعی عاطفی (Affective Computing): توسعه سیستم‌هایی که قادر به شناسایی، تفسیر و شبیه‌سازی احساسات انسانی هستند.

مقاله حاضر در تلاش است تا با حل مشکل سوگیری، یکی از موانع اصلی در مسیر توسعه سیستم‌های هوش مصنوعی عاطفی قابل اعتماد و مسئولیت‌پذیر را برطرف سازد.

هدف اصلی این مقاله، ارائه راهکاری برای کاهش سوگیری‌های متعدد در سیستم‌های تشخیص احساسات مکالمه‌ای چندوجهی است. نویسندگان استدلال می‌کنند که زبان و مکالمات انسانی مملو از پیش‌داوری‌های ضمنی است و مدل‌های داده‌محور امروزی این سوگیری‌ها را بازتولید می‌کنند. در حالی که پژوهش‌های پیشین عمدتاً بر سوگیری‌های جنسیتی یا نژادی متمرکز بوده‌اند، این مقاله گامی فراتر نهاده و به مسئله کاهش همزمان چندین سوگیری می‌پردازد.

برای حل این مشکل، پژوهشگران مجموعه‌ای از رویکردها را برای کاهش پنج نوع سوگیری در متن (جنسیت، سن، نژاد، مذهب و +LGBTQ) و دو نوع سوگیری در تصاویر (جنسیت و سن) پیشنهاد می‌کنند. سپس، یک معماری جدید به نام MMKET را معرفی می‌کنند که مخفف عبارت “ترانسفورمر دووجهی کاهش‌دهنده سوگیری‌های چندگانه و غنی‌شده با دانش عاطفی” است. نتایج آزمایش‌های گسترده نشان می‌دهد که این مدل نه تنها در کاهش سوگیری‌ها مؤثر است، بلکه عملیات رفع سوگیری تأثیر قابل توجهی بر عملکرد کلی طبقه‌بندی احساسات دارد. این پژوهش راه را برای توسعه سیستم‌های عادلانه‌تر در حوزه مطالعات عاطفی هموار می‌سازد.

معماری پیشنهادی این مقاله، یعنی MMKET، بر پایه مدل قدرتمند ترانسفورمر (Transformer) بنا شده و از سه جزء کلیدی تشکیل شده است:

۱. مکانیزم کاهش سوگیری چندگانه (Multibias Mitigation):
این بخش قلب نوآوری مقاله است. به جای آنکه مدل مستقیماً بر روی داده‌های خام آموزش ببیند، ابتدا یک فرآیند “پاک‌سازی” برای حذف اطلاعات مرتبط با سوگیری انجام می‌شود. این فرآیند برای هر دو وجه متنی و بصری به طور جداگانه طراحی شده است. محققان احتمالاً از تکنیک‌هایی مانند آموزش متخاصم (Adversarial Training) استفاده کرده‌اند. در این روش، یک بخش از مدل (تمایزدهنده) تلاش می‌کند تا ویژگی حساس (مانند جنسیت) را از بازنمایی داده‌ها حدس بزند، در حالی که بخش اصلی مدل (رمزگذار) تلاش می‌کند بازنمایی‌هایی تولید کند که این اطلاعات را پنهان سازند. این “بازی” باعث می‌شود مدل یاد بگیرد که بر محتوای عاطفی تمرکز کند، نه بر ویژگی‌های جمعیت‌شناختی.

۲. غنی‌سازی با دانش عاطفی (Sentiment Knowledge Enrichment):
برای تقویت درک مدل از احساسات، نویسندگان آن را با دانش خارجی غنی کرده‌اند. این کار به مدل کمک می‌کند تا از وابستگی صرف به الگوهای موجود در داده‌های آموزشی رها شود و به یک درک عمومی‌تر و عمیق‌تر از مفاهیم عاطفی دست یابد. این دانش می‌تواند از منابعی مانند واژه‌نامه‌های عاطفی (Sentiment Lexicons) یا مدل‌های زبانی بزرگ که بر روی حجم عظیمی از متون با برچسب احساسی آموزش دیده‌اند، استخراج شود. این اطلاعات اضافی به مدل کمک می‌کند تا تفاوت‌های ظریف بین احساسات مختلف را بهتر تشخیص دهد.

۳. ترانسفورمر دووجهی (Bi-modal Transformer):
پایه اصلی معماری، یک مدل ترانسفورمر است که برای پردازش همزمان داده‌های متنی و بصری طراحی شده است. مکانیزم توجه (Attention) در ترانسفورمرها به مدل اجازه می‌دهد تا به طور هوشمندانه اطلاعات را از هر دو منبع ترکیب کند. برای مثال، هنگام تحلیل یک جمله، مدل می‌تواند به کلمات کلیدی عاطفی در متن و همزمان به یک لبخند یا اخم در تصویر چهره توجه بیشتری نشان دهد. این قابلیت ادغام اطلاعات، به تشخیص دقیق‌تر و قوی‌تر احساسات منجر می‌شود.

آزمایش‌های جامع انجام‌شده در این پژوهش، نتایج مهمی را به همراه داشته است که اثربخشی رویکرد پیشنهادی را تأیید می‌کند:

• کاهش موفقیت‌آمیز سوگیری: مدل MMKET توانست به طور قابل توجهی سوگیری‌های مرتبط با گروه‌های مختلف جمعیت‌شناختی را کاهش دهد. معیارهای ارزیابی نشان دادند که تفاوت در دقت پیش‌بینی مدل برای گروه‌های مختلف (مثلاً مردان و زنان) پس از اعمال مکانیزم‌های کاهش سوگیری، به شدت کاهش یافته است.
• حفظ یا بهبود عملکرد: یکی از نگرانی‌های اصلی در تحقیقات رفع سوگیری، افت احتمالی دقت کلی مدل است. با این حال، یافته‌های این مقاله نشان می‌دهد که عملیات رفع سوگیری نه تنها به عملکرد مدل آسیب نمی‌زند، بلکه می‌تواند با وادار کردن مدل به یادگیری ویژگی‌های پایدارتر و مرتبط‌تر با احساسات، به بهبود دقت طبقه‌بندی نیز کمک کند.
• تأثیر مثبت دانش عاطفی: نتایج نشان داد که غنی‌سازی مدل با دانش خارجی، توانایی آن در تشخیص احساسات پیچیده و ظریف را افزایش داده و به تعمیم‌پذیری بهتر آن کمک می‌کند.
• اهمیت رویکرد چندوجهی: اثبات شد که ترکیب اطلاعات متنی و بصری از طریق معماری ترانسفورمر، به نتایج دقیق‌تری نسبت به مدل‌هایی که تنها از یک منبع داده استفاده می‌کنند، منجر می‌شود.

این پژوهش پیامدها و کاربردهای عملی گسترده‌ای در دنیای واقعی دارد و دستاوردهای علمی مهمی را به ارمغان می‌آورد:

کاربردهای عملی:

• دستیارهای مجازی و چت‌بات‌های عادلانه‌تر: توسعه دستیارهای هوشمندی که با همه کاربران، صرف‌نظر از جنسیت، سن یا نژادشان، به طور یکسان و همدلانه تعامل می‌کنند.
• سیستم‌های نظارت بر سلامت روان: ابزارهایی که می‌توانند وضعیت عاطفی افراد را بدون قضاوت‌های ناعادلانه تحلیل کرده و به تشخیص زودهنگام افسردگی یا اضطراب کمک کنند.
• تحلیل عینی بازخورد مشتریان: شرکت‌ها می‌توانند از این فناوری برای تحلیل تماس‌های ویدیویی یا متنی مشتریان استفاده کنند و بدون تأثیرپذیری از سوگیری‌های انسانی، کیفیت خدمات را ارزیابی کنند.
• رباتیک اجتماعی: ساخت ربات‌هایی که قادر به تعامل اجتماعی مؤثر و بدون تبعیض با گروه‌های متنوعی از انسان‌ها هستند.

دستاوردها و نوآوری‌ها:

• پیشگامی در رفع سوگیری چندگانه: این مقاله برای اولین بار یک چارچوب جامع برای مقابله همزمان با چندین نوع سوگیری در حوزه mERC ارائه می‌دهد.
• معماری نوآورانه MMKET: ارائه یک مدل یکپارچه که سه وظیفه مهم کاهش سوگیری، غنی‌سازی دانش و ادغام چندوجهی را به طور مؤثر انجام می‌دهد.
• افزایش آگاهی در مورد هوش مصنوعی اخلاقی: این تحقیق بر اهمیت حیاتی توسعه سیستم‌های هوش مصنوعی مسئولیت‌پذیر و عادلانه تأکید می‌کند.

مقاله “ترانسفورمری کاهش‌دهنده سوگیری‌های چندگانه و غنی‌شده با دانش عاطفی” یک گام مهم و رو به جلو در مسیر ساخت سیستم‌های هوش مصنوعی عادلانه‌تر و هوشمندتر است. این پژوهش به وضوح نشان می‌دهد که سوگیری در مدل‌های تشخیص احساسات یک مشکل جدی است، اما با استفاده از معماری‌های هوشمندانه و روش‌های هدفمند، قابل حل است.

با ارائه مدل MMKET، نویسندگان نه تنها یک راه‌حل فنی مؤثر ارائه کرده‌اند، بلکه ثابت کرده‌اند که عدالت و دقت می‌توانند دست در دست هم حرکت کنند. این کار تأکید می‌کند که رفع سوگیری نباید به عنوان یک اقدام جانبی تلقی شود، بلکه باید به عنوان یک جزء اساسی در فرآیند طراحی و توسعه مدل‌های یادگیری ماشین در نظر گرفته شود. این تحقیق، الهام‌بخش پژوهش‌های آینده در زمینه ساخت هوش مصنوعی عاطفی خواهد بود که نه تنها هوشمند، بلکه منصف، قابل اعتماد و به نفع همه انسان‌ها عمل کند.