در دنیای امروز، دستیاران صوتی مانند الکسا، گوگل اسیستنت و سیری به بخش جدایی‌ناپذیر از زندگی ما تبدیل شده‌اند. این سیستم‌های مبتنی بر هوش مصنوعی، که با صدای خود به سوالات ما پاسخ می‌دهند، موسیقی پخش می‌کنند و بسیاری از وظایف روزمره را تسهیل می‌کنند، سوالات مهمی را در مورد نحوه درک و تعامل ما با فناوری مطرح می‌کنند. مقاله پیش رو، با عنوان “جنسیت و انسان‌انگاری در طراحی و ادراک دستیاران صوتی: پرسشی از ضمایر الکسا، گوگل و سیری”، به بررسی این موضوع می‌پردازد که چگونه طراحی این دستیاران صوتی، به‌ویژه جنسیت‌دهی و انسان‌انگاری آن‌ها، بر درک و تعامل کاربران با این سیستم‌ها تاثیر می‌گذارد. اهمیت این تحقیق از آنجا ناشی می‌شود که درک بهتر این اثرات می‌تواند به طراحی مسئولانه‌تر و اخلاقی‌تر این فناوری‌ها منجر شود.

این مقاله توسط گروهی از محققان به نام‌های گاوین آبرکرومبی، آماندا سرکاس کوری، موگدا پاندیا و ورنا ریزر نوشته شده است. تخصص این محققان در زمینه‌های مختلفی از جمله هوش مصنوعی، زبان‌شناسی و مطالعات رسانه است که به آن‌ها اجازه می‌دهد تا این موضوع را از زوایای گوناگون بررسی کنند. زمینه تحقیقاتی این مقاله در تقاطع بین هوش مصنوعی، علوم اجتماعی و اخلاق فناوری قرار دارد. محققان به دنبال درک این موضوع هستند که چگونه فناوری‌های هوش مصنوعی، به ویژه دستیاران صوتی، می‌توانند بر تصورات و رفتارهای ما تاثیر بگذارند و چه ملاحظات اخلاقی باید در طراحی و توسعه این سیستم‌ها در نظر گرفته شود.

چکیده این مقاله به این نکته اشاره دارد که شرکت‌های فناوری پاسخ‌های متفاوتی به نگرانی‌ها در مورد اثرات طراحی سیستم‌های هوش مصنوعی محاوره‌ای خود ارائه کرده‌اند. برخی ادعا کرده‌اند که دستیاران صوتی آن‌ها در واقع جنسیتی یا انسان‌نما نیستند، علی‌رغم ویژگی‌های طراحی که خلاف این را نشان می‌دهند. این مقاله این ادعاها را با تحلیل ضمایری که کاربران هنگام اشاره به دستیاران هوش مصنوعی استفاده می‌کنند، با ادراکات کاربران مقایسه می‌کند. همچنین، پاسخ‌های سیستم‌ها و میزان تولید خروجی‌های جنسیتی و انسان‌انگارانه را بررسی می‌کند. یافته‌ها نشان می‌دهد که در حالی که به نظر می‌رسد برخی از شرکت‌ها به نگرانی‌های اخلاقی مطرح‌شده رسیدگی می‌کنند، در برخی موارد، ادعاهای آن‌ها درست به نظر نمی‌رسد. به طور خاص، نتایج نشان می‌دهد که خروجی‌های سیستم در مورد انسانیت سیستم‌ها مبهم است و در نتیجه کاربران تمایل دارند آن‌ها را شخص‌انگاری و جنسیتی کنند. به عبارت دیگر، طراحی این سیستم‌ها، ناخواسته، کاربران را به سوی نسبت دادن ویژگی‌های انسانی و جنسیتی به آن‌ها سوق می‌دهد.

محققان در این مقاله از روش‌های مختلفی برای جمع‌آوری و تحلیل داده‌ها استفاده کرده‌اند. این روش‌ها شامل موارد زیر است:

• تحلیل محتوا: بررسی و تحلیل پاسخ‌ها و خروجی‌های تولید شده توسط دستیاران صوتی الکسا، گوگل اسیستنت و سیری برای شناسایی نشانه‌های جنسیتی و انسان‌انگاری. برای مثال، نحوه پاسخگویی این سیستم‌ها به سوالاتی که به طور ضمنی جنسیت را در بر دارند، مورد بررسی قرار گرفته است.
• تحلیل زبان‌شناختی: بررسی نحوه استفاده کاربران از زبان، به‌ویژه ضمایر، هنگام اشاره به این دستیاران صوتی. این بررسی شامل تحلیل متون نوشته‌شده (مانند نظرات کاربران در شبکه‌های اجتماعی) و همچنین تعاملات کلامی ضبط‌شده با این سیستم‌ها می‌شود. محققان به دنبال شناسایی الگوهایی هستند که نشان می‌دهند کاربران چگونه این سیستم‌ها را در ذهن خود تصور می‌کنند.
• بررسی متون تبلیغاتی و توضیحات محصول: بررسی نحوه ارائه این دستیاران صوتی توسط شرکت‌های سازنده در تبلیغات و توضیحات محصول. این بررسی به منظور درک این موضوع انجام شده است که آیا شرکت‌ها به طور فعالانه در تلاش برای جنسیتی یا انسان‌انگارانه کردن این سیستم‌ها هستند یا خیر.

با استفاده از این روش‌ها، محققان توانسته‌اند تصویر جامعی از نحوه طراحی، درک و تعامل با دستیاران صوتی به دست آورند.

یافته‌های این تحقیق نشان می‌دهد که علی‌رغم تلاش برخی از شرکت‌ها برای ارائه دستیاران صوتی به عنوان سیستم‌های بی‌جنسیت، کاربران اغلب آن‌ها را به عنوان موجودیت‌های دارای جنسیت و ویژگی‌های انسانی درک می‌کنند. برخی از یافته‌های کلیدی عبارتند از:

• استفاده از ضمایر جنسیتی: کاربران به طور مکرر از ضمایر جنسیتی (او/he یا او/she) هنگام اشاره به دستیاران صوتی استفاده می‌کنند، حتی اگر این سیستم‌ها به طور رسمی جنسیت نداشته باشند. برای مثال، ممکن است کاربری بگوید: “از الکسا پرسیدم و او به من پاسخ داد.”
• انتساب ویژگی‌های شخصیتی: کاربران اغلب ویژگی‌های شخصیتی مانند مهربانی، هوش و شوخ‌طبعی را به این دستیاران صوتی نسبت می‌دهند. این امر نشان می‌دهد که کاربران این سیستم‌ها را فراتر از یک ابزار صرف درک می‌کنند و آن‌ها را به عنوان موجودیت‌های اجتماعی می‌بینند.
• تضاد بین ادعاها و واقعیت: در برخی موارد، ادعاهای شرکت‌های سازنده مبنی بر بی‌جنسیت بودن این سیستم‌ها با نحوه تعامل و درک کاربران در تضاد است. به عنوان مثال، اگر صدای یک دستیار صوتی زنانه باشد، کاربران به احتمال زیاد از ضمایر زنانه برای اشاره به آن استفاده خواهند کرد، حتی اگر شرکت سازنده ادعا کند که این سیستم جنسیت ندارد.
• اثرات احتمالی: این یافته‌ها نشان می‌دهد که طراحی این سیستم‌ها می‌تواند بر تصورات و انتظارات کاربران تاثیر بگذارد و حتی ممکن است به تقویت کلیشه‌های جنسیتی منجر شود. برای مثال، اگر بیشتر دستیاران صوتی با صدای زنانه برای انجام وظایف دفتری و مدیریتی طراحی شوند، این امر می‌تواند به این باور دامن بزند که زنان به طور طبیعی برای این نوع کارها مناسب‌تر هستند.

به عنوان مثال، بسیاری از کاربران به الکسا، سیری و گوگل اسیستنت به عنوان “او” (she) اشاره می کنند و این نشان دهنده یک گرایش ناخودآگاه به نسبت دادن جنسیت به این سیستم‌ها است.

این تحقیق دارای کاربردهای متعددی در زمینه‌های مختلف است:

• طراحی مسئولانه هوش مصنوعی: یافته‌های این تحقیق می‌تواند به طراحان و توسعه‌دهندگان هوش مصنوعی کمک کند تا سیستم‌هایی را طراحی کنند که از نظر اخلاقی مسئولانه‌تر باشند و از تقویت کلیشه‌های جنسیتی خودداری کنند.
• آموزش و آگاهی‌بخشی: این تحقیق می‌تواند به آموزش و آگاهی‌بخشی در مورد اثرات احتمالی فناوری بر جامعه کمک کند و افراد را تشویق کند تا به طور انتقادی در مورد نحوه تعامل خود با فناوری فکر کنند.
• مطالعات رسانه و ارتباطات: این تحقیق می‌تواند به درک بهتر نحوه شکل‌گیری تصورات ما از فناوری و نقش رسانه‌ها در این فرآیند کمک کند.

دستاورد اصلی این تحقیق، روشن کردن این موضوع است که طراحی دستیاران صوتی، حتی به ظاهر بی‌طرفانه، می‌تواند اثرات عمیقی بر ادراک و رفتار کاربران داشته باشد. با درک این اثرات، می‌توانیم به سوی طراحی فناوری‌هایی حرکت کنیم که به نفع جامعه باشند و از تقویت کلیشه‌های منفی خودداری کنند.

در نهایت، مقاله “جنسیت و انسان‌انگاری در طراحی و ادراک دستیاران صوتی: پرسشی از ضمایر الکسا، گوگل و سیری” نشان می‌دهد که دستیاران صوتی، فراتر از ابزارهای ساده، نقش مهمی در شکل‌دهی ادراکات و رفتارهای ما ایفا می‌کنند. طراحی این سیستم‌ها، به ویژه جنبه‌های جنسیتی و انسان‌انگاری آن‌ها، می‌تواند به طور ناخودآگاه بر نحوه تعامل ما با فناوری و درک ما از جنسیت و هویت تاثیر بگذارد. شرکت‌های فناوری باید به این اثرات آگاه باشند و در طراحی سیستم‌های خود، ملاحظات اخلاقی را در اولویت قرار دهند. تحقیقات بیشتر در این زمینه می‌تواند به توسعه چارچوب‌های اخلاقی برای طراحی هوش مصنوعی و اطمینان از اینکه این فناوری‌ها به نفع جامعه هستند، کمک کند. لازم به ذکر است که ایجاد دستیاران صوتی با صداها و هویت‌های متنوع می‌تواند به کاهش اثرات ناخواسته جنسیتی و انسان‌انگاری کمک کند. به عنوان مثال، ارائه گزینه‌هایی برای صداهای مردانه، زنانه و غیر باینری می‌تواند به کاربران اجازه دهد تا دستیار صوتی را انتخاب کنند که با ترجیحات آن‌ها همخوانی داشته باشد و از تقویت کلیشه‌های جنسیتی جلوگیری کند.