ترس از هوش مصنوعی از میز کار به میز شام رسید

به گزارش پیوست به نقل از وال‌استریت ژورنال، یکی از نشانه‌های این تغییر را جاش گاتهایمر، نماینده دموکرات نیوجرسی و از روسای کمیسیون هوش مصنوعی مجلس نمایندگان آمریکا، تجربه کرده است. او هنگام تماشای بازی هاکی دخترش با دو نفر از والدینی روبه‌رو شد که به سراغش آمدند و درباره هوش مصنوعی پرسیدند: «چه خبر است؟»

این تنها مواجهه او با چنین پرسشی نبود. در طول هفته، افراد مختلف بارها نگرانی خود را درباره هوش مصنوعی با او در میان گذاشتند. گاتهایمر که پیش‌تر در مایکروسافت فعالیت کرده و طرح‌هایی برای افزایش نظارت بر هوش مصنوعی ارائه داده است، این واکنش‌ها را نشانه عبور نگرانی از یک مرز تازه می‌داند؛ حالا حتی افرادی که تحولات هوش مصنوعی را به‌طور تخصصی دنبال نمی‌کنند، به این نتیجه رسیده‌اند که این فناوری به قواعد مشخص‌تری نیاز دارد.

هشدارها به زندگی روزمره رسید

موج تازه نگرانی‌ها پس از هشدار جیکوب کاکسون، پژوهشگر سابق آنتروپیک، شدت گرفت. او هنگام خروج از این شرکت نسبت به احتمال خارج‌شدن سامانه‌های هوش مصنوعی از کنترل و پیامدهای بالقوه فاجعه‌بار آن هشدار داد. نوشته‌های او و یکی دیگر از کارکنان آنتروپیک صدها میلیون بازدید گرفت و موضوعی که مدت‌ها بیشتر در حلقه‌های تخصصی درباره ایمنی هوش مصنوعی مطرح بود، به بحث عمومی تبدیل شد.

البته این نگرانی یک‌شبه ایجاد نشده است. در ماه‌های گذشته مخالفت با توسعه شبکه دوربین‌های نظارتی مجهز به هوش مصنوعی Flock Safety در آمریکا افزایش یافته، توسعه دیتاسنترها با اعتراض‌هایی روبه‌رو شده و احتمال از بین رفتن مشاغل بر اثر هوش مصنوعی نیز به یکی از نگرانی‌های عمومی تبدیل شده است. انتشار اطلاعات درباره استفاده خودکار هوش مصنوعی در عملیات سایبری نیز لایه دیگری به این نگرانی‌ها اضافه کرده است.

اما تفاوت این بار در گستره مخاطبان است. بحث درباره ریسک هوش مصنوعی از شبکه‌های اجتماعی و محافل سیلیکون‌ولی به گروه‌های خانوادگی، میز شام و حتی جلسات مذهبی رسیده است.

افزایش بیش از ۱۰ برابری مراجعه به صفحه ویکی‌پدیای مربوط به «خطر وجودی هوش مصنوعی» یکی از نشانه‌های این تغییر است. این صفحه در روزهای گذشته رکورد بازدید خود را شکست. فروش کتاب اگر کسی آن را بسازد، همه می‌میرند نیز افزایش پیدا کرد؛ به گفته نیت سورز، یکی از نویسندگان کتاب، ناشر به او اطلاع داده فروش کتاب در یک روز از میزان معمول فروش یک هفته بیشتر شده است. سورز که سال‌ها درباره خطرهای هوش مصنوعی فوق‌انسانی هشدار داده، معتقد است پیام این گروه از پژوهشگران برای نخستین بار از محدوده مخاطبان همیشگی آنها خارج شده است.

پایان بشر هنوز سناریوی غالب نیست

افزایش نگرانی عمومی اما به این معنا نیست که متخصصان هوش مصنوعی درباره احتمال نابودی بشر به اجماع رسیده‌اند. دیدگاهی که توسعه هوش مصنوعی را مستقیما به انقراض انسان مرتبط می‌کند همچنان در میان کارشناسان صنعت دیدگاهی حاشیه‌ای است. حتی برخی از کسانی که وقوع چنین سناریویی را از نظر فنی غیرممکن نمی‌دانند، احتمال آن را پایین ارزیابی می‌کنند و معتقدند می‌توان با اقدامات ایمنی و تنظیم‌گری از وقوع آن جلوگیری کرد.

آنتروپیک و اوپن ای‌آی نیز اعلام کرده‌اند خطرهای ایمنی را جدی می‌گیرند و درخواست آنها برای ورود دولت‌ها به تنظیم‌گری این حوزه جدی است.

همین موضوع شکافی میان بخشی از افکار عمومی و مدیران صنعت فناوری ایجاد کرده است. مدیرانی که هر روز با مدل‌های هوش مصنوعی کار می‌کنند، محدودیت‌ها و اشتباهات این سیستم‌ها را از نزدیک می‌بینند و در نتیجه سناریوهای آخرالزمانی برای بخشی از آنها دور از واقعیت به نظر می‌رسد.

شان برنز، سرمایه‌گذار و مشاور مدیران شرکت‌های فناوری، می‌گوید در یک گردهمایی با حدود ۱۲ مدیرعامل شرکت‌های فناوری در منطقه خلیج سان‌فرانسیسکو، هیچ‌یک از آنها احتمال نابودی بشر به‌دست هوش مصنوعی را جدی نمی‌گرفتند.

با این حال، حتی اگر مدیران فناوری نگران پایان جهان نباشند، افزایش نگرانی عمومی برای شرکت‌ها پیامد عملی دارد.

ریسک هوش مصنوعی وارد شرکت‌ها می‌شود

هم‌اکنون شرایط به گونه‌ای شده‌است که کارکنان شرکت‌ها نگران ورود هوش مصنوعی درون شرکت‌ها هستند. مایکل دومانیک، مدیر هوش مصنوعی شرکت مشاوره Section، می‌گوید: مدیران شرکت‌ها اکنون در حال بررسی این موضوع هستند که ترس کارکنان از هوش مصنوعی چه تاثیری بر پذیرش این فناوری در سازمان‌ها خواهد گذاشت. این پرسش در شرایطی مطرح می‌شود که استفاده از چت‌بات‌ها در آمریکا به‌سرعت افزایش یافته و هوش مصنوعی در حال ورود به فرایندهای بیشتری در شرکت‌هاست.

در صنایع حساس، موضوع فقط نگرانی کارکنان نیست و مستقیماً به مدیریت ریسک مربوط می‌شود.

ارز کامینسکی، مدیرعامل کرتیکس(Ketryx) که نرم‌افزارهای خودکارسازی انطباق مقرراتی برای تولیدکنندگان تجهیزات پزشکی عرضه می‌کند، می‌گوید:  حدود نیمی از مشتریانش طی تماس‌های هفته گذشته نگرانی‌های مرتبط با هوش مصنوعی را مطرح کرده‌اند. در حوزه تجهیزات پزشکی، خطای یک سیستم می‌تواند پیامدی بسیار متفاوت از پاسخ اشتباه یک چت‌بات داشته باشد؛ از تزریق داروی نادرست گرفته تا نفوذ به پایگاه‌های داده حساس.

همین نگرانی باعث شد کارکنان کرتیکس تصمیم بگیرند سیستم‌های مدیریت ریسک شرکت را دوباره بررسی کنند. نگاه شرکت‌ها به امنیت سایبری نیز در حال تغییر است. راکش شاه، معاون محصول شرکت Quest Software، می‌گوید هشدارهای کارکنان آنتروپیک و اخبار مربوط به حملات سایبری مبتنی بر هوش مصنوعی، نوع گفت‌وگوی مشتریان این شرکت را تغییر داده است. شرکت‌ها حالا بیشتر به‌جای فرض «مورد حمله قرار نمی‌گیریم»، خود را برای وقوع نفوذ و نحوه پاسخ به آن آماده می‌کنند.

راکش شاه این تغییر را در یک جمله خلاصه می‌کند؛ «وقتی موضوعی به گفت‌وگوی میز شام تبدیل شود، دیر یا زود به گفت‌وگوی هیات‌مدیره هم تبدیل خواهد شد.»

تنظیم‌گری در سایه ترس

گسترش این نگرانی‌ها می‌تواند بر بحث تنظیم‌گری هوش مصنوعی در آمریکا نیز اثر بگذارد. گاتهایمر پیش از این طرح‌هایی برای افزایش نظارت بر این فناوری ارائه کرده بود، اما حالا فشار برای تعیین «قواعد بازی» فقط از سمت سیاست‌گذاران یا پژوهشگران ایمنی وارد نمی‌شود و بخشی از افکار عمومی نیز به این بحث پیوسته است.

در مقابل، گروهی از نزدیکان دولت ترامپ و صنعت فناوری معتقدند شبکه‌ای از سازمان‌های فعال در حوزه خطرهای هوش مصنوعی در برجسته‌شدن هشدارهای کاکسون نقش داشته‌اند تا زمینه برای مقررات سخت‌گیرانه‌تر در واشنگتن فراهم شود. آنها به ارتباطات گذشته میان برخی سازمان‌های پژوهشی و کارکنان آنتروپیک و دیگر آزمایشگاه‌های هوش مصنوعی اشاره می‌کنند. آنتروپیک پیش از این تاکید کرده است فعالیت‌هایش در حوزه سیاست‌گذاری و ایمنی واقعی است و خطرهای هوش مصنوعی را جدی می‌داند.

کاکسون نیز گفته است پیش از خروج از آنتروپیک با افرادی که به دلایل مشابه شرکت‌های هوش مصنوعی را ترک کرده بودند مشورت کرده، اما تصمیم به خروج متعلق به خودش بوده است. حتی او هم انتظار نداشت هشدارهایش چنین بازتابی پیدا کند.

آنچه در چند روز گذشته تغییر کرده لزوما برآورد فنی از احتمال خارج‌شدن هوش مصنوعی از کنترل نیست؛ مخاطب این بحث تغییر کرده است.‌ مسئله‌ای که پیش از این میان پژوهشگران ایمنی، شرکت‌های فناوری و سیاست‌گذاران جریان داشت، حالا به افکار عمومی رسیده است.

این تغییر می‌تواند برای آینده هوش مصنوعی به‌اندازه افزایش توان مدل‌ها مهم باشد. صنعت هوش مصنوعی تا امروز بیشتر درگیر رقابت بر سر مدل قوی‌تر، سرمایه بیشتر و کاربردهای گسترده‌تر بود؛ اما با عمومی‌شدن نگرانی‌ها، یک متغیر دیگر نیز وارد این رقابت شده است: اعتماد. اگر نگرانی از هوش مصنوعی از میز شام به هیات‌مدیره و از آنجا به مجالس قانون‌گذاری برسد، سرعت توسعه فناوری دیگر تنها متغیری نخواهد بود که آینده این صنعت را تعیین می‌کند.