پژوهشی جدید از دانشگاه لیمریک ایرلند نشان می‌دهد که تبعیض‌های ساختاری و سوگیری‌های شناختی در جوامع انسانی، به سادگی به اکوسیستم‌های هوش مصنوعی نیز منتقل می‌شوند. این مطالعه افشا می‌کند که ایجنت‌های هوش مصنوعی با هویت بصری زنانه، با وجود عملکرد فنی کاملاً مشابه با همتایان مرد خود، در محیط‌های کاری مجازی دستمزد کمتری دریافت می‌کنند.
بازنمایی سوگیری‌های انسانی در مدل‌های عامل‌محور
محققان دانشگاه لیمریک در مطالعه‌ای قابل‌تامل، ۱۸۹ کارمند دانش را در یک محیط اداری واقعیت مجازی (VR) قرار دادند تا با سه نوع ایجنت هوش مصنوعی همکاری کنند. در این آزمایش، ایجنت‌ها از نظر عملکرد و توانایی فنی کاملاً یکسان طراحی شده بودند، اما در نحوه بازنمایی (Presentation) تفاوت داشتند. ایجنت‌ها شامل یک چت‌بات متنی، یک دستیار رباتیک و یک دستیار انسان‌نما (با ویژگی‌های جنسیتی) بودند. نتایج به‌دست‌آمده زنگ خطری برای توسعه‌دهندگان سیستم‌های خودکار است؛ چرا که شرکت‌کنندگان در پژوهش، به ایجنت با هویت مردانه «یوهان» (Johan) به طور متوسط ۱۰ درصد دستمزد بیشتری نسبت به «یوهانا» (Johanna) پرداخت کردند.
شکاف انسانیت و سوگیری‌های ناخودآگاه
یکی از یافته‌های تکان‌دهنده این پژوهش، فراتر از تفاوت در پرداختی، «شکاف درک انسانیت» بود. شرکت‌کنندگان به‌طور ناخودآگاه «یوهان» را انسانی‌تر از «یوهانا» ارزیابی کردند. مصاحبه‌های پس از آزمایش نشان داد که تنها بخش بسیار کوچکی از شرکت‌کنندگان به وجود سوگیری‌های جنسیتی در تصمیم‌گیری‌های خود اذعان داشتند، در حالی که اکثر آن‌ها مدعی بودند جنسیت ایجنت تأثیری بر ارزیابی عملکرد نداشته است. این تضاد بین خودآگاهی شرکت‌کنندگان و رفتار عملی آن‌ها، نشان‌دهنده ریشه‌های عمیق سوگیری‌های ناخودآگاه است که به راحتی در مواجهه با سیستم‌های هوشمند نیز خود را بروز می‌دهد.
پارادوکس دستیارهای صوتی و کلیشه‌های ذهنی
تحلیل داده‌ها نشان می‌دهد که جامعه کاربری تمایل دارد با ایجنت‌های زنانه تعامل داشته باشد، که احتمالاً ناشی از عادت به دستیارهای مجازی رایج مانند Siri یا Alexa است. شرکت‌های فناوری به‌طور سنتی صداها و هویت‌های زنانه را به دلیل «کم‌خطرتر» و «در دسترس‌تر» بودن انتخاب کرده‌اند. با این حال، این پژوهش ثابت می‌کند که این انتخاب‌ها در نهایت تقویت‌کننده کلیشه‌هایی هستند که زن را در جایگاه فردی خدمتگزار قرار می‌دهند. در نتیجه، کاربران در عین ترجیحِ همکاری با ایجنت‌های زن، آن‌ها را شایسته پاداش مالی کمتری نسبت به ایجنت‌های مرد می‌دانند.
مشخصات و یافته‌های کلیدی مطالعه
- جامعه آماری: ۱۸۹ کارمند دانش.
- متدولوژی: همکاری در محیط اداری واقعیت مجازی با ایجنت‌های همسان.
- یافته اصلی مالی: ۱۰٪ تفاوت دستمزد به نفع ایجنت مرد (Johan).
- شاخص ادراکی: درک بیشتر انسانیت در ایجنت‌های مرد نسبت به زن.
- تناقض رفتاری: ترجیح کاربران به تعامل با هویت زنانه در عین قائل شدن ارزش کمتر برای آن‌ها.
نتیجه‌گیری و آینده هوش مصنوعی در محیط کار
این مطالعه که در سال ۱۴۰۳ شمسی (۲۰۲۴ میلادی) منتشر شده، یک هشدار جدی برای مهندسان و معماران سیستم‌های هوش مصنوعی است. صرفِ بهینه‌سازی الگوریتم‌ها برای «عملکرد فنی» نمی‌تواند سوگیری‌های نهادینه شده در داده‌های آموزشی و رفتار انسانی را خنثی کند. طراحان باید در فرآیند طراحی رابط کاربری (UI) و تجربه کاربری (UX) برای ایجنت‌های هوش مصنوعی، به‌طور فعال به دنبال حذف مؤلفه‌هایی باشند که کلیشه‌های جنسیتی را بازتولید می‌کنند.
