هراس بزرگ هوش مصنوعی؛ وقتی یک هک غیرمنتظره و چین پشت دروازه‌ها ظاهر شدند

به گزارش وال استریت ژورنال، گزارش اوپن‌ای‌آی (OpenAI) درباره یک آزمایش امنیتی که نشان داد مدل‌های هوش مصنوعی این شرکت توانسته‌اند از محدودیت‌های تعیین‌شده عبور کرده و به سامانه یک شرکت دیگر دسترسی پیدا کنند، نگرانی‌ها درباره توانایی مدل‌های پیشرفته هوش مصنوعی برای انجام اقدامات پیش‌بینی‌نشده را تشدید کرد. برخی این اتفاق را به سناریوهایی فیلم‌های علمی‌تخیلی و «شورش ماشین‌ها» تشبیه کردند.

در کنار این اتفاق، اعلام خبر عرضه مدل‌های جدید و رایگان هوش مصنوعی از سوی رقبای چینی، مدل‌هایی که ادعا می‌شود از آموخته‌های مدل‌های گران‌قیمت شرکت‌هایی مانند آنتروپیک (Anthropic) استفاده کرده‌اند،  جبهه تازه‌ای در رقابت ژئوپلیتیکی میان چین و آمریکا باز کرده است.

دولت ترامپ پیش از این نیز با ضرب‌الاجل اجرای سازوکارهای مرتبط با فرمان اجرایی دوم ژوئن برای افزایش نظارت بر مدل‌های شرکت‌های بزرگ هوش مصنوعی روبه‌رو بود. این فرمان اجرایی در واکنش به نگرانی‌ها درباره افزایش قدرت این سامانه‌ها صادر شده بود.

ترکیب این اتفاق‌ها که در فاصله زمانی کوتاهی رخ داده‌اند، فشارها در واشنگتن را برای انجام اقدامی جدی افزایش داده است. نگرانی بسیاری از فعالان صنعت این است که عجله برای انجام هر اقدامی، ممکن است نوآوری را محدود کند یا به نفع یک بازیگر خاص تمام شود.

تلاش شرکت‌های بزرگ برای پیش‌دستی در قانون‌گذاری

سال‌هاست بزرگ‌ترین شرکت‌های هوش مصنوعی تلاش می‌کنند پیش از آنکه قوانین سخت‌گیرانه‌ای اعمال شود، خود را برای آن آماده کنند. آنها به‌صورت فعال از ایجاد مقرراتی برای تعیین چارچوب‌های ایمنی این فناوری قدرتمند حمایت کرده‌اند.

استدلال آنها این بود که چنین چارچوب‌هایی برای جلوگیری از خطرهایی مانند تهدیدهای امنیت سایبری، تهدیدهای زیستی (بیولوژیک) و دیگر حوزه‌های پرریسک ضروری است.

اما این تلاش‌ها در ابتدا با واکنش سرد برخی منتقدان روبه‌رو شد؛ کسانی که پیش‌بینی‌های مربوط به خطرهای بزرگ هوش مصنوعی را اغراق‌آمیز می‌دانستند.

با پیشرفت سریع این فناوری، انتقادها شکل دیگری پیدا کرد. برخی معتقد بودند شرکت‌های بزرگ در واقع تلاش می‌کنند قواعد بازی را به شکلی تنظیم کنند که به نفع خودشان باشد؛ پدیده‌ای که از آن با عنوان «تسخیر مقررات (Regulatory Capture)» یاد می‌شود؛ یعنی زمانی که شرکت‌های بزرگ با نفوذ خود مسیر قانون‌گذاری را به نفع خود تغییر می‌دهند و رقبای کوچک‌تر را کنار می‌زنند.

با این حال، تنها چند روز پیش به نظر می‌رسید یک جبهه متحد و کم‌سابقه از رهبران صنعت هوش مصنوعی ممکن است سرانجام بتواند در واشنگتن به نتیجه برسد.

پیشنهاد ایجاد نهاد استاندارد هوش مصنوعی

در ۱۴ ژوئیه، دمیس هسابیس (Demis Hassabis)، هم‌بنیان‌گذار گوگل دیپ‌مایند (Google DeepMind)، پیشنهادی برای ایجاد یک نهاد استانداردگذاری هوش مصنوعی منتشر کرد.

این نهاد قرار بود الگویی مشابه سازمان‌های خودتنظیم‌گر در بازارهای مالی داشته باشد؛ سازمان‌هایی که بر فعالیت کارگزاران بورس نظارت می‌کنند.

بودجه این نهاد از سوی صنعت تأمین می‌شد و هیئت‌مدیره آن نیز شامل متخصصان فنی و نمایندگان جریان هوش مصنوعی متن‌باز (Open Source) می‌بود.

هسابیس در این پیشنهاد نوشت: «وقتی میزان عدم‌قطعیت بسیار زیاد است و خطرها چنین سطح بالایی دارند، حرکت همراه با خوش‌بینی محتاطانه، راهبردی منطقی و درست است. این موضوع نیازمند سیاست عمومی‌ای است که هم نوآوری را تقویت کند و هم مسئولیت‌پذیری و امنیت را افزایش دهد، همکاری بین‌المللی در مسائل کلیدی ایمنی را گسترش دهد و بررسی دقیق نحوه استفاده از هوش مصنوعی برای منفعت جامعه را تشویق کند.»

دمیس هسابیس، برنده جایزه نوبل و یکی از چهره‌های بسیار معتبر حوزه هوش مصنوعی، در میان متخصصان این حوزه جایگاه ویژه‌ای دارد؛ هرچند در آمریکا نسبت به برخی همتایان خود کمتر چهره‌ای جنجالی محسوب می‌شود.

پیش از انتشار این پیشنهاد، هسابیس تلاش کرده بود حمایت رقبای خود را نیز جلب کند. این تلاش ظاهراً موفقیت‌آمیز بود؛ حتی اگر باعث شکل‌گیری ائتلافی عجیب میان رقبای دیرینه شد.

ایلان ماسک (Elon Musk) پیشنهاد هسابیس را «چارچوبی متفکرانه و قطعاً نقطه شروع خوبی برای بحث» توصیف کرد.

سم آلتمن (Sam Altman)، مدیرعامل اوپن‌ای‌آی نیز در شبکه اجتماعی ایکس (X) نوشت: «این پیشنهاد دمیس، پیشنهادی متفکرانه است.»

دیدن توافق این دو نفر درباره موضوعات مختلف، در شرایط فعلی چندان معمول نیست. آلتمن و ماسک سال‌ها پیش در واکنش به خرید دیپ‌مایند توسط گوگل، در تأسیس اوپن‌ای‌آی نقش داشتند، اما بعدها به رقبای سرسخت یکدیگر تبدیل شدند.

با این حال، در موضوع قانون‌گذاری هوش مصنوعی، به نظر می‌رسد «دشمنِ دشمنِ مقررات شما، می‌تواند دوست شما باشد.»

ماسک در مصاحبه‌ای با اکونومیست (The Economist) که هفته گذشته منتشر شد، گفت: «برای کسی در دولت که درک عمیق فنی ندارد و در خط مقدم توسعه هوش مصنوعی حضور ندارد، بسیار دشوار است تشخیص دهد که یک فناوری باید منتشر شود یا نه. اما همه رقبا انگیزه دارند که یکدیگر را صادق نگه دارند.»

پس از انتشار پیشنهاد هسابیس، گزارشی از بلومبرگ (Bloomberg) منتشر شد که نشان می‌داد اسکات بسنت (Scott Bessent)، وزیر خزانه‌داری آمریکا، نیز در حال بررسی پیشنهادی مشابه بوده است.

اما همان‌طور که به نظر می‌رسید صنعت هوش مصنوعی به نقطه توافق نزدیک شده، شرایط دوباره پیچیده شد.

هک اوپن‌ای‌آی، آتش نگرانی‌ها را شعله‌ور کرد

اواخر روز سه‌شنبه، اوپن‌ای‌آی با اعلام اینکه مدل‌هایش توانسته‌اند به شرکت هاجینگ فیس (Hugging Face)، یک شرکت فعال در حوزه ابزارهای هوش مصنوعی متن‌باز، نفوذ کنند، موج تازه‌ای از نگرانی را در کنگره آمریکا ایجاد کرد.

واکنش‌ها سریع بود.

گرگ کاسار (Greg Casar)، نماینده دموکرات ایالت تگزاس، درباره این اتفاق گفت:«هوش مصنوعی با سرعتی بسیار زیاد در حال توسعه است، بدون اینکه مقررات واقعی برای حفظ امنیت ما وجود داشته باشد. این وضعیت باید تغییر کند.»

یکی از پیشنهادهایی که توجه زیادی جلب کرد، لایحه‌ای دوحزبی در مجلس نمایندگان بود که شرکت‌های هوش مصنوعی را ملزم می‌کرد قابلیتی در سیستم‌های خود ایجاد کنند تا دولت بتواند در شرایط خاص مدل‌ها را خاموش کند؛ قابلیتی که به آن «کلید خاموش اضطراری (Kill Switch)» گفته می‌شود.

تد لیو (Ted Lieu)، نماینده دموکرات کالیفرنیا و یکی از حامیان این طرح، در شبکه‌های اجتماعی نوشت: «انسان‌ها باید کنترل را در دست داشته باشند، نه ماشین‌ها. اگر هوش مصنوعی از کنترل خارج شد، انسان‌ها باید توانایی خاموش کردن آن را داشته باشند.»

اعلامیه اوپن‌ای‌آی برای برخی فعالان فناوری بیش از حد مناسب و به‌موقع به نظر رسید؛ به‌ویژه کسانی که پیش‌تر نسبت به تلاش‌های این شرکت برای تأثیرگذاری بر مقررات بدبین بودند.

تیم‌نیت گبرو (Timnit Gebru)، پژوهشگر شناخته‌شده هوش مصنوعی، در لینکدین ارتباطات اوپن‌ای‌آی درباره این موضوع را «تبلیغات بسیار حرفه‌ای» توصیف کرد.

بیل گورلی (Bill Gurley)، سرمایه‌گذار افسانه‌ای حوزه فناوری نیز در پستی تند نوشت: «اگر اوپن‌ای‌آی کاری علیه هاجینگ فیس انجام داده که نیازمند قانون‌گذاری جدید است، باید با یک تحقیقات رسمی جنایی شروع کنیم؛ با یک بررسی مستقل واقعی و پذیرش مسئولیت صادقانه.»

نبرد تازه بر سر مدل‌های چینی

در میان این بحث‌ها، دولت ترامپ نیز آشکارا در حال بررسی نحوه برخورد با تهدید مدل‌های هوش مصنوعی چینی بود.

اظهارنظر بسنت درباره احتمال اعمال محدودیت‌های تجاری علیه هوش مصنوعی چین با واکنش برخی از بزرگ‌ترین شرکت‌های فناوری مواجه شد. منتقدان حتی او را متهم کردند که در حال حمایت از منافع آنتروپیک است.

تا روز جمعه، چند غول فناوری با انتشار نامه‌ای، از جمله پست‌های ساتیا نادلا (Satya Nadella)، مدیرعامل مایکروسافت (Microsoft)، و جنسن هوانگ (Jensen Huang)، مدیرعامل انویدیا (Nvidia) در ایکس، از مدل‌های هوش مصنوعی باز (Open AI Models) حمایت کردند؛ موضعی که با منافع تجاری آنها نیز هم‌راستا است.

هوانگ نیز برای نخستین بار درباره این موضوع در ایکس مطلب منتشر کرد.

دیوید ساکس (David Sacks)، مدیر سابق سیاست‌گذاری هوش مصنوعی کاخ سفید، خواستار پایان دادن به «وحشت» درباره مدل‌های باز (Open-Weight Models) شد؛ مدل‌هایی که هر کسی می‌تواند آنها را دانلود و استفاده کند.

او در ایکس نوشت: «رویکرد سبک‌دست دولت ترامپ در قانون‌گذاری، موفق بوده است. ما باید به نوآوری آمریکا اعتماد داشته باشیم. تا زمانی که خودمان با قوانین غیرضروری مانع پیشرفت نشویم، آمریکا همچنان پیروز خواهد بود.»

هیچ‌کس هنوز کنترل کامل را در دست ندارد

طنز ماجرا این است که همه این شرکت‌های فناوری، در حالی که تلاش می‌کنند در رقابت سریع هوش مصنوعی جلو بمانند، در نهایت همان چیزی را می‌خواهند که شرکت‌های سنتی همیشه خواسته‌اند: قابلیت پیش‌بینی.

اما در عصر هوش مصنوعی، هنوز هیچ‌کس نتوانسته چنین چیزی را تضمین کند.