گزارش دولت آمریکا به خطرات هوش مصنوعی و حتی احتمال «انقراض بشریت» اشاره می‌کند

به گزارش پیوست، این گزارش ۲۴۷ صفحه‌ای که خبر آن را پیش از انتشار مجله تایم منتشر کرده است با عنوان «برنامه اقدام برای افزایش ایمنی و امنیت هوش مصنوعی پیشرفته» هشدار می‌دهد که روند توسعه فعلی هوش مصنوعی «خطرات فوری و روزافزونی برای امنیت ملی» به دنبال دارد.

این گزارش می‌گوید که در بدترین حالت نسل بشر با «تهدید انقراض» روبرو می‌شود.

مولفان پیشنهاد می‌کنند که کنگره ایالات متحده برای جلوگیری از خطرات قوانینی را به تصویب رساند که استفاده بیشتر از یک سطح مشخص از قدرت رایانشی برای آموزش مدل‌های هوش مصنوعی را محدود کند. همچنین شرکت‌های پیشرفته هوش مصنوعی نیز پیش از آموزش مدل‌هایی که بالاتر از یک سطح قرار می‌گیرند از دولت مجوز بگیرند.

در نگاهی سخت‌گیرانه‌تر این گزارش از مقامات می‌خواهد تا «فورا» به جرم‌انگاری انتشار متن‌باز اجزای اصلی و بخش‌های داخلی سیستم‌های هوش مصنوعی بپردازند و حتی برای آن مجازات زندان در نظر بگیرند.

پیشنهادات دیگری مثل محدود کردن صادارت چیپ‌های پیشرفته هوش مصنوعی، به عنوان زیرساخت اصلی توسعه هوش مصنوعی پیشرفته، و تخصیص بودجه به تحقیق در حوزه امنیت هوش مصنوعی نیز ارائه شده تا امکان کنترل بیشتر و هم‌سو کردن سیستم‌های آینده با ارزش‌های بشری فراهم شود.

در این گزارش دو حوزه خطر اصلی مشخص شده است: احتمال «استفاده جنگ‌افزاری» از سیستم‌های هوش مصنوعی برای حملات شیمیایی، بیولوژیکی یا سایبری و «نابودی قدرت» در نتیجه رشد چشمگیر هوش مصنوعی پیشرفته و تضاد منافع آن با بشریت.

مولفان می‌گویند که در نتیجه رقابت شرکت‌هایی که توسعه سریع را بر احتیاط در این حوزه اولویت می‌دهند، خطرات فوق از سوی صنعت هوش مصنوعی تشدید می‌شود.

این گزارش تصریح می‌کند «آزمایشگاه‌های پیشتاز هوش مصنوعی یک انگیزه قوی و فوری برای توسعه سیستم‌های هوش مصنوعی با بیشترین سرعت دارند. آنها هیچ انگیزه جدی برای سرمایه‌گذاری روی اقدامات ایمنی و امنیتی ندارند که سود مستقیم اقتصادی نداشته باشد، ندارند.»

گزارش فوق که با بودجه ۲۵۰ هزار دلاری وزارت امور خارجه آمریکا انجام گرفته را شرکت Gladstone AI، از فعالان حوزه سیاست هوش مصنوعی ارائه کرده است. برخی از متخصصان درمورد پیشنهادات تند این گزارش و احتمال پیگیری آن از سوی دولت اظهار نگرانی کرده‌اند.

با این حال مولفان این گزارش با دفاع از اقدامات سخت پیشنهادی می‌گویند چنین اقداماتی برای جلوگیری  از بدترین شرایط و تضمین توسعه امن هوش مصنوعی برای نفع بشریت ضرورت دارند.