متخصصان درباره موج جدید هوش مصنوعی چه می‌گویند؟ نباید جای آدم‌ها را بگیرد

با این حال برای جلوگیری از سو‌گیری‌ هوش مصنوعی، به تنوع و گوناگونی بیشتری در توسعه‌دهندگان و مدیران این تکنولوژی نیاز است. در ادامه، گزارش گفت‌وگوی کینن اینستیتوت با محمدحسین جراحی، استاد دانشگاه کارولینای شمالی و فیدرا بوینودیریس، از گروه مشاوره هوش‌ مصنوعی معقولانه شرکت IBM، را می‌خوانید.

برای همه

محمدحسین جراحی، می‌گوید چت‌بات «ChatGPT از شرکت اوپن‌ای‌آی»، هوش مصنوعی را از یک تکنولوژی پس‌زمینه و مختص عاشقان تکنولوژی به موضوع بحث عموم تبدیل کرده است. تحقیقات اخیر شرکت مشاوره اکسنچر (Accenture) نشان می‌دهد ۶۳ درصد سازمان‌ها هوش مصنوعی را نسبت به دیگر تکنولوژی‌های دیجیتالی در اولویت قرار می‌دهند.

هوش مصنوعی انسان‌محور

جراحی معتقد است دیدگاه «هوش مصنوعی انسان‌محور» به فراگیر شدن این تکنولوژی کمک می‌کند. به گفته او سازمان‌ها باید بر هدف هوش مصنوعی به عنوان تسهیل‌گر و نه جانشین انسان و کارکنان تاکید کنند تا همزیستی بهینه‌ای بین انسان و AI در فرایند‌های سازمانی شکل گیرد.

به گفته او، تجربیات حوزه IT نشان می‌دهد دیدگاه کوته‌بینانه و تاکید بیش از حد بر بازدهی و خودکارسازی به مشکلات بلند‌مدت در سازمان‌ها منجر می‌شود.

فیدرا بوینودیریس، از گروه مشاوره هوش‌ مصنوعی معقولانه شرکت IBM، می‌گوید با تقویت مثبت می‌توانیم هوش مصنوعی را مسئولانه گسترش دهیم. به گفته او رهبران باید همواره بر اهمیت هوش مصنوعی مسئولیت‌پذیر تاکید و راهکار روشنی برای این کار ارائه کنند. به عقیده او، علاوه بر تعریف و تعیین مسئولیت افرادی فعال در این حوزه، باید فعالان هوش مصنوعی را به بحث و بررسی خطرات در تیم‌هایی مشتمل تشویق کرد.

در گرو فرهنگ سازمانی

بوینودیریس عقیده دارد تیم‌های هوش مصنوعی در حال حاضر به خوبی نیروی کار را نمایندگی نمی‌کنند و همین مساله باعث تبعیض و سوگیری این ابزارها شده است.

او با اشاره به مطالعه‌ای از IBM می‌گوید زنان و اقلیت‌های رنگین‌پوست که هر کدام به ترتیب ۳۳ و ۱۰ درصد از نیروی کار سازمان‌ها را تشکیل می‌دهند تنها ۶ درصد از تیم‌های هوش مصنوعی هستند. وقتی یک گروه همسان داده‌های آموزش هوش مصنوعی را انتخاب کند، سو‌گیری این گروه به سیستم‌ها نفوذ می‌کند.

بوینودیریس تصریح می‌کند برای جلوگیری از خطر سوگیری و تبعیض، تیم‌های حاکمیت هوش مصنوعی باید متنوع و فراگیر باشند و داده‌های آموزشی هم به خوبی جمعیت واقعی را نمایندگی کنند.

هوش ‌مصنوعی نباید جای انسان را بگیرد

جراح معتقد است یکی از نگرانی‌های امروز وابستگی بیش از حد سازمان‌ها و کارکنان به هوش مصنوعی است. او معتقد است برای رفع این مشکل به «سواد هوش مصنوعی» در سطح فردی و سازمانی نیاز داریم.

وظایف خاص انسان و آنهایی که برای هوش مصنوعی مناسب هستند باید از یکدیگر تفکیک شوند و در استفاده از هوش مصنوعی باید رویکرد «حفظ انسان در چرخه» را مد نظر قرار داد.

برای مثال نقش انسان در تصمیمات مهم همواره ضرورت دارد زیرا ما می‌توانیم ابعاد اخلاقی و تبعات سازمانی تصمیمات را درک کنیم در حالی که ماشین تنها بر اساس داده‌های گذشته بهینه‌ترین تصمیم را می‌گیرد. افزون بر این هوش مصنوعی هنوز افق دید محدودی دارد و خاص یک حوزه است. تصمیمات سازمانی به یک نگاه گسترده و چندجانبه نیاز دارند. همچنین با پدیده‌ای جدید روبه‌رو هستیم که سازمان‌ها در آن از دوپهلو بودن تصمیمات هوش مصنوعی برای رفع مسئولیت از خودشان استفاده می‌کنند. محققان از این پدیده با نام «عاملیت‌شویی» (Agency laundering) یاد می‌کنند. برای تضمین مسئولیت‌پذیری و شفافیت در چنین حوزه‌هایی قضاوت انسانی ضرورت دارد.

بوینودیریس می‌گوید هدف هوش مصنوعی افزودن به هوش انسانی است و ما باید از به‌کارگیری داده‌های مناسب و مورد تایید متخصصان اطمینان حاصل کنیم.

منبع: کینن اینستیتوت