هوش مصنوعی در داووس: نگاه رهبران به ایمنی و تهدید‌ها

به گزارش پیوست، چهره‌های مطرحی همچون دمیس هاسابیس، رئیس گوگل دیپ‌مایند، داریو آمودی، بنیان‌گذار و مدیرعامل استارت‌آپ هوش مصنوعی آنتروپیک و یوشوا بنجیو، دانشمند کامپیوتر معروف به پدرخوانده هوش مصنوعی، در داووس درمورد نگرانی‌های امنیتی هوش مصنوعی هشدار دادند و با وجود نگرانی همه فعالان، هرکدام با دیدگاه خاص خود به این مساله پرداختند.

این غول دیگر به چراغ بر نمی‌گردد

هاسابیس در این اجلاس اعتراف کرد که هوش مصنوعی از مرحله‌ای که امکان مهار یا نابودی آن بود عبور کرد است. او می‌گوید «این غول را نمی‌توان به درون چراغ بازگرداند.»

با این حال هاسابیس بر خطرات احتمالی و لزوم جلوگیری از آنها تاکید دارد. به گفته او اگر این فناوری از کنترل خارج شود یا در اختیار بدکاران قرار گیرد، تهدیدی برای تمدن انسانی محسوب می‌شود.

او معتقد است که خطر این حوزه بسیار فراتر از شرکت‌ها یا محصولات است و «آینده بشریت، وضعیت انسان و جایی که ما به عنوان یک جامعه می‌خواهیم به سمتش حرکت کنیم» را تحت تاثیر قرار می‌دهد.

سناریو ۱۹۸۴؛ تهدیدی از جنس دولت‌ها

آمودی اما به شکل دیگری به تهدید هوش مصنوعی نگاه می‌کند. او که شرکتش با چت‌بات Calude شناخته می‌شود و از حمایت گوگل و آمازون برخوردار است، نگران استفاده دولت‌های استبدادی از هوش مصنوعی است و بسیار «نگران سناریو‌های شبیه به ۱۹۸۴ یا بدتر» است.

دولت‌های مختلف از این فناوری برای تجزیه‌تحلیل داده‌های شهروندان استفاده می‌کنند و در مواردی نیز شاهد استفاده از این فناوری برای نظارت و سرکوب بودیم. از جمله دلایلی که دولت آمریکا برای تحریم چین در این حوزه و قطع دسترسی این کشور به پردازنده‌های انویدیا مطرح کرده است، استفاده پکن از فناوری هوش مصنوعی برای زیر نظر گرفتن شهروندان و حتی استفاده نظامی است. پیش از تحریم‌ پردازنده‌های هوش مصنوعی، آمریکا چندین تولیدکننده تجهیزات نظارتی چین را نیز که مشتریانی حتی از دولت‌های خارجی داشتند به لیست تحریم‌ها و لیست سیاه شرکت‌ها اضافه کرد.

نمی‌دانیم چطور این ماشین‌ها را کنترل کنیم

بنجیو اما در این پنل به آسودگی خاطر رهبران هوش مصنوعی در این حوزه تاخت و از توان محدود انسان و حتی شرکت‌ها در این حوزه گفت. او گفت: «علم نمی‌داند که چطور می‌توانیم این ماشین‌ها را حتی در سطح دانشی مشابه خودمان، کنترل کنیم و اگر از ما باهوش‌تر باشند اوضاع بدتر از این است.»

او در ادامه افزود «کسانی هستند که می‌گویند ‘نگران نباشید، راهش را پیدا می‌کنیم.’ اما اگر راهی پیدا نکردیم چه، آیا متوجه پیامد‌ها هستید؟»

بسیاری از فعالان فناوری به ویژه در ابتدای مسیر و چندی پس از عرضه ChatGPT که به موج حال حاضر این فناوری شکل داد، درمورد پیشرفت سریع هوش مصنوعی اظهار نگرانی جدی کردند به طوری که تعدادی از دانشمندان و مدیران فناوری طی نامه‌ای که به امضای ایلان ماسک، مالک شبکه اجتماعی ایکس و شرکت هوش مصنوعی ایکس‌ای‌آی، رسید خواستار توقف موقت توسعه این فناوری شدند.

با این حال چنین توقفی حاصل نشد اما شرکت‌ها گاه به صورت داوطلبانه و گاه با فشار رگولاتوری به توسعه چارچوب‌های ایمنی پرداختند که استارت‌آپ تحت رهبری داریو به عنوان پیشتاز این عرصه شناخته می‌شود.

تمرکز قدرت

یان لی‌کان، پژوهشگر ارشد هوش مصنوعی شرکت متا، توسعه دهنده مدل‌های هوش مصنوعی متن‌باز Llama معتقد است که «موانع توزیع متن‌باز» این فناوری باعث می‌شود تا قدرت در دست چند بازیگر انگشت شمار، در ایالات متحده یا چین، قرار گیرد.

لی‌کان پیش از این هم در اظهارنظری درمورد شرکت هوش مصنوعی DeepSeek چین که به تازگی با عرضه مدل‌های هوش مصنوعی قدرتمند و هم‌تراز ابزارهای اوپن‌ای‌آی باعث شگفتی شد، بر اهمیت رویکرد متن‌باز و دسترسی آزاد تاکید کرد و جهش این شرکت چینی را پیروزی رویکرد متن با بر هوش مصنوعی اختصاصی دانست.

او به جبهه‌گیری داریو و یوشیوا که توسعه متن‌باز را به دلیل دسترسی آزاد همه، حتی تبهکاران، به عنوان یکی از نگرانی‌های خود مطرح کرده بودند تاخت و گفت چنین نگاهی «از افرادی مثل داریو بسیار عجیب است.»

دولت ترامپ و کاهش محدودیت‌ها با وجود نگرانی

دور جدید ریاست جمهوری دونالد ترامپ در آمریکا با نگرانی‌های تازه‌ای برای دسته‌ای از فعالان فناوری و جامعه علمی همراه شده است. ترامپ همانطور که وعده داده بود در روز اول ریاست جمهوری خود فرمان اجرایی جو بایدن، رئیس جمهور پیشین آمریکا، در حوزه هوش مصنوعی را لغو کرد.

این فرمان اجرایی که در سال ۲۰۲۳ به امضای بایدن رسید، موسسه استاندارد‌ها و فناوری ملی (NIST) در وزارت بازرگانی آمریکا را ملزم می‌کرد تا دستورا‌لعملی برای کمک به شناسایی نقایص مدل‌های هوش مصنوعی (و اصلاح آنها) از جمله سوگیری‌های هوش مصنوعی طراحی کند.

همچنین براساس این فرمان اجرایی توسعه دهندگان سیستم‌های هوش مصنوعی باید نتایج آزمون‌های ایمنی خود را پیش از عرضه عمومی مدل‌ها با دولت آمریکا به اشتراک می‌گذاشتند.

منتقدان می‌گویند این کار اسرار شرکتی را فاش می‌کند اما حامیان اقدام بایدن بر لزوم چنین چارچوبی برای جلوگیری از خطرات احتمالی هوش مصنوعی تاکید داشتند. با کنار لغو این فرمان و کاهش محدودیت‌ها، بسیاری نگران پیشرفت بی‌قید و بند شرکت‌های فناوری با هدف سود حداکثری هستند و این در حالی است که طبق پیش‌بینی سم آلتمن، مدیرعامل شرکت اوپن‌ای‌آی، هوش مصنوعی عمومی یا AGI ممکن است در همین دوره ریاست جمهوری ترامپ ساخته شود.