همکاری اوپن‌ای‌آی با پیمانکاران پنتاگون: توسعه گله‌های پهپادی مبتنی بر فرمان صوتی

به گزارش پیوست به نقل از بلومبرگ، اوپن‌ای‌آی گرچه نقش محدودیی در این بخش داشته اما در بخش تبدیل فرمان‌های صوتی فرماندهان میدان نبرد به دستورهای دیجیتال قابل اجرا برای سامانه‌های پهپادی وارد عمل شده است.

این فناوری در عملیات مستقیم پهپادها، تصمیم‌گیری تسلیحاتی یا تعیین اهداف نقشی نخواهد داشت و به  افراد مطلع مدل مورد استفاده نیز نسخه متن‌باز و نه پیشرفته‌ترین محصولات شرکت است و احتمالا همراه با پشتیبانی فنی محدود ارائه می‌شود. سخنگوی اوپن‌ای‌آی نیز تاکید کرده است که شرکت به‌طور مستقل در این رقابت شرکت نکرده و تنها دو شریک فعلی‌اش از مدل متن‌باز این شرکت در پیشنهادهای خود استفاده کرده‌اند.

رقابت پنتاگون که با همکاری فرماندهی عملیات ویژه و واحد نوآوری دفاعی راه‌اندازی شده، طی چند مرحله و در مدت شش ماه برگزار می‌شود. مرحله نخست صرفا بر توسعه نرم‌افزار متمرکز است و در مراحل بعدی آزمایش روی سامانه‌های واقعی انجام خواهد شد. هدف اصلی این پروژه توسعه فناوری‌هایی است که بتوانند دستورهای فرماندهان را به اقدامات هماهنگ میان چندین پهپاد در حوزه‌های مختلف از جمله هوا و دریا تبدیل کنند. نمونه‌ای از فرمان‌ها می‌تواند دستور جابه‌جایی گروهی از شناورهای بدون سرنشین به یک موقعیت مشخص باشد.

یکی از اسناد مربوط به پیشنهادهای موفق نشان می‌دهد که پروژه‌ای به رهبری شرکت Applied Intuition و با مشارکت Sierra Nevada Corporation و Noda AI از مدل متن‌باز اوپن‌ای‌آی بهره گرفته است. در این طرح، Applied Intuition مسئول رابط کاربری و بخشی از فرمان‌های دیجیتال، Sierra Nevada Corporation مسئول یکپارچه‌سازی و Noda AI مسئول نرم‌افزار «ارکستراسیون» یا هماهنگ‌سازی عملیات پهپادهاست. فناوری اوپن‌ای‌آی نیز در بخش «کنترل ماموریت» میان اپراتور انسانی و سامانه‌های ماشینی قرار دارد.

این پروژه در حالی مطرح شده که نگرانی‌هایی در داخل و خارج از صنعت فناوری درباره کاربرد هوش مصنوعی مولد در سامانه‌های تسلیحاتی وجود دارد. برخی مقامات دفاعی و کارشناسان امنیتی نسبت به استفاده از چت‌بات‌ها و فناوری‌های تبدیل گفتار به دستور عملیاتی هشدار داده‌اند. آنان تاکید می‌کنند که هوش مصنوعی باید صرفا به ترجمه فرمان‌ها محدود شود و تصمیم‌گیری عملیاتی یا رفتاری پهپادها تحت نظارت مستقیم انسان باقی بماند.

مدل‌های زبانی بزرگ که زیربنای چت‌بات‌هایی مانند ChatGPT هستند، به دلیل احتمال بروز سوگیری و تولید اطلاعات نادرست موسوم به «هذیان‌سازی» همواره محل بحث بوده‌اند. به همین دلیل برخی از منابع نزدیک به پروژه تاکید کرده‌اند که حذف «انسان در حلقه تصمیم‌گیری» می‌تواند خطرات جدی ایجاد کند، به‌ویژه در سناریوهایی که به تصمیمات مرگبار منجر می‌شوند.

گسترش همکاری‌های نظامی صنعت هوش مصنوعی

مشارکت محدود اوپن‌ای‌آی در این رقابت نشان‌دهنده افزایش تعامل شرکت‌های بزرگ هوش مصنوعی با بخش دفاعی است. پنتاگون اخیرا اعلام کرده که ChatGPT برای سه میلیون نفر از کارکنان وزارت دفاع در دسترس قرار خواهد گرفت. همچنین این شرکت در سال‌های اخیر سیاست‌های خود درباره همکاری‌های امنیت ملی را اصلاح کرده و وارد همکاری‌هایی با شرکت‌های دفاعی شده است؛ از جمله همکاری پیشین با شرکت Anduril برای توسعه فناوری‌های ضدپهپاد با کاربرد دفاعی.

با این حال، مدیرعامل اوپن‌ای‌آی پیش‌تر تاکید کرده بود که انتظار ندارد این شرکت در آینده نزدیک در توسعه پلتفرم‌های تسلیحاتی مبتنی بر هوش مصنوعی نقش مستقیم ایفا کند، هرچند احتمال چنین سناریویی را به‌طور کامل رد نکرده است.

بر اساس توضیحات پنتاگون، شرکت‌های منتخب باید در هر مرحله توانایی فناوری خود را اثبات کنند تا وارد مراحل بعدی شوند. در مراحل پایانی، پروژه‌ها باید قابلیت‌هایی مانند «آگاهی هدف» و اشتراک اطلاعات و در نهایت چرخه کامل عملیات از پرتاب تا پایان ماموریت را نشان دهند. مقام‌های نظامی اعلام کرده‌اند که تعامل انسان و ماشین در این پروژه می‌تواند مستقیما بر «مرگبار بودن و اثربخشی» سامانه‌ها تاثیر بگذارد؛ موضوعی که همزمان بر اهمیت پروژه و حساسیت‌های اخلاقی آن می‌افزاید.

در مجموع، اگرچه نقش اوپن‌ای‌آی در این پروژه محدود به ترجمه فرمان‌های صوتی اعلام شده، اما ورود فناوری‌های هوش مصنوعی مولد به حوزه عملیات نظامی و سامانه‌های خودمختار همچنان بحث‌برانگیز است و می‌تواند مسیر آینده همکاری میان شرکت‌های فناوری و صنایع دفاعی را تحت تاثیر قرار دهد.