هوش مصنوعی هم می‌تواند نژادپرست و جنسیت‌زده باشد، هم سن‌گرا؛ چرخه‌های بی‌عدالتی

اکسیژن‌سنج‌- که میزان اکسیژن در خون را اندازه می‌گیرد و ابزاری اساسی برای مدیریت بالینی کووید-۱۹ محسوب می‌شود- روی افرادی که رنگ پوست‌شان تیره‌تر از رنگ‌ پوست افراد دیگر است دقت کمتری دارد. این یافته باعث شد بررسی نژادی تمام‌وکمالی آغاز شود. ما کاربرد هوش مصنوعی در فرایندهای پیچیده را پذیرفته‌ایم- از سلامت و درمان تا کاربرد روزانه‌‌اش در رسانه‌های اجتماعی- بدون اینکه تحقیقی انتقادی انجام دهیم. تا اینکه زیادی دیر شد. استفاده از هوش مصنوعی در جامعه مدرن ما اجتناب‌ناپذیر است و ممکن است تبعیض را حفظ کند بدون اینکه کاربران از وجود تعصب آگاه باشند. بخش سلامت و درمان وقتی بر فناوری دارای سوگیری اتکا می‌کند، آثار واقعی و زیان‌بار را به دنبال دارد. این موضوع اخیراً وقتی روشن شد که تحقیقی نشان داد اکسیژن‌سنج‌ها روی افرادی که رنگ پوست‌شان تیره‌تر از رنگ‌ پوست افراد دیگر است دقت کمتری دارند. این یافته باعث شد یک بررسی سوگیری نژادی همه‌جانبه آغاز شود. هدف از این کار ایجاد استانداردهای بین‌المللی برای آزمون دستگاه‌های پزشکی است. نمونه‌هایی در بخش سلامت و درمان، کسب‌وکار، دولت و زندگی روزمره وجود دارد که در آنها الگوریتم‌های سوگیرانه باعث بروز مشکلات شده‌اند؛ مانند جست‌وجوهای جنسیت‌زده و پیش‌بینی‌های نژادپرستانه درباره احتمال ارتکاب جرم افراد مجرم. سن‌گرایی دیجیتالی وقتی رواج می‌یابد که سوگیری و تبعیض مبتنی بر سن توسط فناوری ایجاد و پشتیبانی می‌شود معمولاً فرض می‌شود که هوش مصنوعی در مقایسه با انسان صاحب دید عینی‌تری است. اما در واقع الگوریتم‌های هوش مصنوعی بر اساس داده‌هایی تصمیم می‌گیرند که حاشیه‌هایش را انسان‌ها نوشته‌اند. چنین داده‌هایی ممکن است سوگیرانه و طردکننده باشند. تحقیقات جاری درباره سوگیری در هوش مصنوعی به ‌طور عمده بر جنسیت و نژاد تمرکز دارند. اما درباره سوگیری مربوط به سن چطور؟ آیا هوش مصنوعی می‌تواند سن‌گرا باشد؟ فناوری‌های سن‌گرا سازمان بهداشت جهانی در سال ۲۰۲۱ گزارش جهانی درباره سالخوردگی منتشر کرد و در...