درخواست‌های عجیب

طبق گزارش یکی از موسسات سازمان ملل، تخصیص صدای زنانه به دستیاران دیجیتالی، از جمله سیری اپل و الکسای آمازون، در حال تشدید سوگیری‌های آسیب‌رسان جنسیتی است. گزارش منتشرشده توسط یونسکو ادعا می‌کند پاسخ‌های سلطه‌پذیر و عشوه‌گرانه‌ سیستم به بسیاری از درخواست‌ها، از جمله درخواست‌های توهین‌آمیز، باعث تشدید ایده‌ فرمانبرداری زنان می‌شود. این گزارش می‌گوید: «زنانه بودن صدای بیشتر دستیاران صوتی باعث ایجاد احساس آماده به خدمت، مطیع و چاپلوس بودن زنان می‌شود که با فشار یک دکمه یا صدای خشن و گفتن کلمه‌ای مثل «هی» یا «اوکی» می‌توانید این دستیاران صوتی را در اختیار داشته باشید… دستیار مجازی هیچ عاملیتی ندارد و باید دستور را بی چون و چرا اجرا کند. این دستیار صرف نظر از لحن یا خشونت موجود در صدا به درخواست‌ها پاسخ می‌دهد. در بسیاری از جوامع این موضوع باعث تشدید دید فرمانبردارانه و تحملگر زنان در مواجهه با رفتارهای بد می‌شود.» گزارش یونسکو اعلام می‌کند که این مساله زمانی واقعاً نگران‌کننده می‌شود که دستگاه‌ها جواب‌های نامناسبی به آزارهای جنسی زبانی می‌دهند. گزارش یونسکو، با عنوان «اگر می‌توانستم سرخ می‌شدم»، می‌گوید این شرکت‌ها «تیم‌های مهندسی غالباً مردانه‌ای» دارند که سیستم‌های هوش مصنوعی را به گونه‌ای ساخته‌اند تا پاسخ عشوه‌گرانه‌ای به آزارهای کلامی بدهند. این گزارش اضافه می‌کند: «این سلطه‌پذیری دستیاران دیجیتالی صوتی زمانی نگران‌کننده می‌شود که این دستگاه‌ها که توسط شرکت سازنده‌‌شان هویتی زنانه گرفته‌اند، پاسخ‌های ملایم، تحملگر یا عذرخواهانه‌ای به عبارت‌های آزاردهنده می‌دهند.» یکی از نویسندگان دستیار مجازی کورتانا متعلق به مایکروسافت می‌گوید این آزارهای کلامی به هیچ وجه موضوع غیررایجی نیستند. او اضافه می‌کند بخش زیادی از عبارت‌های اولیه‌ داده‌شده به دستیاران صوتی درباره‌ زندگی جنسی آنها سوال می‌پرسد. یکی از تحقیقاتی که در این گزارش به آن ارجاع شده مربوط به یک شرکت توسعه‌دهنده‌ دستیاران مجازی است. این شرکت اعلام کرده است که حداقل پنج درصد تعاملات انجام‌شده با دستیاران مجازی «به وضوح...