تبعیض جنسیتی هوش مصنوعی، مردان با AI ثروتمند می‌شوند اما زنان نه

کارشناسان هشدار می‌دهند که این شکاف سرمایه ممکن است به تلاش‌ها برای کاهش تعصب و تبعیض در هوش مصنوعی آسیب برساند. در واقع جهان در میانه یک مسابقه هوش مصنوعی است و استارت‌آپ های زنانه این فرصت را از دست می‌دهند. در این مطلب در مورد این نوع از تبعیض جنسیتی هوش مصنوعی صحبت می‌کنیم.

تبعیض جنسیتی هوش مصنوعی چگونه در سرمایه‌گذاری خود را نشان می‌دهد؟

اولین جرقه تبعیض جنسیتی هوش مصنوعی بر مبنای نتایج یک گزارش زده شد. گزارش «زنان در علم داده و هوش مصنوعی» مربوط به مؤسسه آلن تورینگ (Alan Turing) این مشکل را نشان می‌دهد. در حالی که سرمایه‌گذاری جهانی در هوش مصنوعی در حال رونق است، اکثریت قریب به اتفاق سرمایه‌ها به سمت شرکت‌های مردانه سرازیر می‌شود. در واقع 77 درصد از سرمایه‌گذاری‌های سرمایه‌گذاری خطرپذیر که در بریتانیا در سال گذشته انجام شده است، به استارت‌آپ‌هایی تعلق دارد که بنیان‌گذار زن ندارند. این امر حتی با وجود افزایش تعداد شرکت‌های هوش مصنوعی زنانه که در حال راه‌اندازی هستند، رخ می‌دهد.

هم‌چنین محققان با تجزیه و تحلیل داده‌های پیچ بوک (Pitchbook)، دریافتند که علیرغم سرمایه‌گذاری 35 میلیارد پوندی (42.5 میلیارد دلاری) شرکت‌های VC در شرکت‌های نرم‌افزاری هوش مصنوعی مستقر در بریتانیا در طول دهه گذشته، کمتر از نیم درصد از این بودجه به شرکت‌هایی با بنیان‌گذاران کاملاً زن تعلق گرفته است. این یک نمونه روشن از تبعیض جنسیتی در صنعت AI است.

داده‌های دهه گذشته این مشکل را نشان می‌دهد. چون استارت‌آپ‌های تحت رهبری زنان به طور متوسط ​​شش برابر کمتر از آن‌هایی که توسط مردان تأسیس شده‌اند درآمد کسب کرده‌اند. این گزارش نشان می‌دهد که شرکت‌هایی که توسط زنان تأسیس شده‌اند، سرمایه‌گذاری در هوش مصنوعی را که با راه‌اندازی ChatGPT در سال گذشته آغاز شد، از دست می‌دهند. و محققان هشدار دادند که ریسک تبعیض جنسیتی موجب تشدید مشکلات ناشی از تعصب و تبعیض در بسیاری از سیستم‌های هوش مصنوعی می‎شود.

فعالان AI در مورد تبعیض جنسیتی هوش مصنوعی چه می‌گویند؟

دکتر ارین یانگ (Erin Young )، پژوهشگر موسسه تورینگ و سرپرست پروژه در مورد تبعیض جنسیتی هوش مصنوعی است. او می‌گوید: «طراحی هوش مصنوعی مسئولانه و ایمن اهمیت زیادی دارد. در این میان واقعاً مهم است که آنچه را که در کل اکوسیستم هوش مصنوعی اتفاق می‌افتد در نظر بگیریم. این به صورت بدیهی شامل مواردی مانند طراحی هوش مصنوعی، انواع داده‌های مورد استفاده برای آموزش این مدل‌ها و هم‌چنین شامل کانال‌های تامین مالی می‌شود.

بنابراین ما باید در مورد نوع فناوری‌های هوش مصنوعی که سرمایه‌گذاری می‌شوند و اینکه چگونه از این فناوری‌های هوش مصنوعی استفاده می‌شوند، چه کسانی سود می‌برند و به چه کسانی آسیب می‌رسانند فکر کنیم.»

هم‌چنین ربکا گورمن (Rebecca Gorman)، مدیرعامل الایند ای آی (Aligned AI) در مورد تبعیض جنسیتی هوش مصنوعی اظهار می‌کند: «بدتر شدن محیط اقتصادی می‌تواند شرکت‌های سرمایه‌گذاری خطرپذیر را وادار کند تا بنیان‌گذاران را تحت نظارت بیشتر قرار دهند. در این میان بنیان‌گذاران زن مورد بررسی دقیق قرار می‌گیرند. ولی عاقلانه است که بنیان‌گذاران مرد را هم مورد بررسی قرار دهیم.»

«انتخاب شرکت برای تأمین مالی با در نظر گرفتن بنیان‌گذار و دلایل کلیشه‌ای مشابه، یک استراتژی موفق در طول دوره اقتصادی بدون بهره بود. چون در آن زمان مهم‌ترین ویژگی یک بنیان‌گذار این بود که آیا او برای 12 تا 18 ماه آینده دور بیشتری از سرمایه جمع‌آوری خواهد کرد یا نه. ولی صندوق‌هایی که این استراتژی را دنبال می‌کنند خیلی دیر متوجه می‌شوند که ویژگی‌های اشتباهی برای بررسی بنیان‌گذار و استارت‌آپ در دنیای اقتصاد نرخ بهره پس از صفر انتخاب کرده‌اند.»

تعصب علیه گروه‌های اقلیت و به حاشیه رانده شده مدت‌هاست که از مشکلات هوش مصنوعی بوده است، زیرا مدل‌های هوش مصنوعی مولد تعصبات را از مجموعه داده‌های گسترده‌ای که از آن‌ها آموزش دیده‌اند، به ارث می‌برند. در واقع مهم‌ترین علت وجود تبعیض جنسیتی در صنعت هوش مصنوعی همین است.

مثال‌هایی از وجود تبعیض جنسیتی در فضای AI

به عنوان مثال‌هایی از تبعیض جنسیتی هوش مصنوعی باید به دو مورد اشاره کنیم.

• در سال گذشته مشخص شد که ایجاد کننده تصویر DALL-E 2 OpenAI در پاسخ به درخواست‌های عکس برای «مدیرعامل» و «مدیر» فقط تصاویری از مردان سفیدپوست تولید می‌کند.
• هم‌چنین آمازون در سال 2017 مجبور شد یک ابزار استخدام هوش مصنوعی را به دلیل تبعیض علیه زنان کنار بگذارد.

نگرانی‌ها در مورد تبعیض جنسیتی هوش مصنوعی

در حال حاضر بحث‌هایی بر سر چگونگی جلوگیری از تکثیر مدل‌ها و محصولات مغرضانه در جریان است. در عین حال کالیفرنیا در آستانه تصویب قانونی است که شرکت‌های VC را ملزم می‌کند نژاد و جنسیت بنیان‌گذاران استارت‌آپ‌هایی را که در آن‌ها سرمایه‌گذاری می‌کنند، افشا کنند. همه این تلاش‌ها برای کاهش تبعیض جنسیتی در فضای هوش مصنوعی در حال انجام است.

در این میان آنجلا هوور (Angela Hoover)، یکی از بنیانگذاران و مدیر عامل شرکت موتور جستجوی هوش مصنوعی اندی (Andi) مستقر در سانفرانسیسکو، در گفتگویی می‌گوید که فقدان تنوع در صنایع هوش مصنوعی و سرمایه گذاری خطرپذیر به یک نگرانی تبدیل شده است:

«من نگران تعصب و تبعیض در مدل‌های هوش مصنوعی هستم. یکی از بزرگترین اولویت‌های ما اطمینان از منصفانه و بی‌طرفانه بودن مدل‌های هوش مصنوعی است. در حالی که هوش مصنوعی به شدت تحت سلطه مردان است و ما هنوز شاهد یک نابرابری جنسیتی بزرگ در ایونت‌های مربوط به هوش مصنوعی در سانفرانسیسکو هستیم، امیدواریم با مشارکت بیشتر زنان در شرکت‌های هوش مصنوعی، این موضوع تغییر کند. هر چه تنوع بیشتری در هوش مصنوعی داشته باشیم، بهتر است.»

دکتر یانگ هم در گفتگویی اذعان داشته که «شرکت‌های VC باید سیاست‌های استخدام خود را بهبود بخشند، فرهنگ‌های فراگیرتر را تقویت کنند و بر استراتژی‌های سرمایه‌گذاری خود برای کاهش تعصب و اطمینان از توسعه هوش مصنوعی مسئول نظارت کنند.»

«این انفجار اخیر در سرمایه‌گذاری در هوش مصنوعی مولد، نیاز زنان و گروه‌های به حاشیه رانده شده را برای داشتن جایگاه برابر در کارآفرینی فناوری و اکوسیستم VC بسیار ضروری‌تر کرده است. بنابراین بسیار مهم است که ما مشارکت و برابری را در این زمینه‌ها تشویق کنیم تا طراحی هوش مصنوعی مسئولانه را ارتقا دهیم.»

منبع

https://www.businessinsider.com/women-left-out-of-the-ai-investment-boom-risks-bias-2023-10