اوپن‌ای‌آی با کمیته ایمنی جدید به سراغ توسعه نسل بعدی هوش مصنوعی می‌رود

به گزارش پیوست، رویکرد اوپن‌ای‌آی به ایمنی سیستم‌ها چندان متقاعد کننده به نظر نمی‌رسد. براساس ساز و کار جدید این شرکت، مدیریت کمیته ایمنی نیز برعهده مدیرعامل است و مجری اصلی نظارت بر روند اجرایی خود را برعهده می‌گیرد.

اوپن‌ای‌آی می‌گوید آموزش نسل بعدی مدل‌ هوش مصنوعی خود را آغاز کرده است و از ادعاهای پیشین مبنی بر تلاش شرکت در راستای ساخت سیستم‌های «هوش برتر» که بهتر از انسان عمل می‌کنند عقب‌نشینی کرده است.

بزرگترین استارت‌آپ هوش مصنوعی جهان روز سه‌شنبه گفت که تولید یک سیستم جدید هوش مصنوعی را برای «به ارمغان آوردن نسل بعدی توانمندی‌ها» آغاز کرده و توسعه آن تحت نظارت یک کمیته جدید ایمنی و امنیت قرار می‌گیرد.

اما با وجود پیشروی این شرکت در روند توسعه هوش مصنوعی، یکی از مدیران ارشد اوپن‌ای‌آن از اظهارنظرهای پیشین سم‌ آلتمن، مدیرعامل اوپن‌ای‌آی، مبنی بر تلاش شرکت برای ساخت سیستم‌های «هوش برتر» که پیشرفته‌تر از انسان‌ها عمل می‌کند عقب نشینی کرده است.

آنا ماکانجو، نایب‌رئیس بخش روابط بین‌الملل اوپن‌ای‌آی، در مصاحبه‌ای با فایننشال تایمز گفت که «ماموریت» شرکت ساخت نوعی هوش مصنوعی است که بتواند «وظایف ذهنی مشابه آنچه یک انسان امروز انجام می‌دهد» را به انجام رساند.

ماکانجو گفت: «ماموریت ما ساخت AGI است؛ اما نمی‌توانم بگویم که ساخت هوش برتر ماموریت ما محسوب می‌شود، هوش برتر یک فناوری است که بسیار هوشمندتر از انسان‌های روی زمین خواهد بود.»

آلتمن در ماه نوامبر به فایننشال تایمز گفت که نیمی از زمان خود را صرف پژوهش درمورد «نحوه ساخت هوش برتر» می‌کند.

با این حال لیز بورگئوس، یکی از سخنگویان اوپن‌ای‌آی، نیز می‌گوید هوش برتر «ماموریت» شرکت نیست.

او پس از انتظار گزارش فایننشال تایمز گفت: «ماموریت ما AGIی است برای بشریت مفید باشد. ما برای تحقق آن هوش برتر،‌ که از نگاه ما سیستم‌هایی هوشمندتر از AGI هستند،‌ را نیز مطالعه می‌کنیم.»

اوپن‌ای‌آی در عین رقابت با فعالان دیگری مثل گوگل و xAI، استارت‌آپ هوش مصنوعی ایلان ماسک،‌ در تلاش است تا اهمیت توسعه مسئولانه را به سیاست‌گذاران اثبات کند. این در حالی است که در ماه جاری میلادی چندین پژوهشگر بخش امنیتی این شرکت از آن جدا شده و به عدم تخصیص منابع کافی به این بخش اشاره کردند.

کمیته جدید امنیتی را آلتمن و برت تیلور، ادام دی‌انجلو و نیکول سلیگمن، اعضای هیات مدیره، هدایت می‌کنند و گزارش خود را به دیگر سه عضو باقی‌مانده از هیات مدیره شرکت گزارش می‌دهند.

اوپن‌ای‌آی اطلاعاتی درمورد نسلی بعدی مدل زبانی خود یا زمان عرضه آن منتشر نکرده است. مدل زبانی فعلی یا GPT-4 به تازگی در یک بروزرسانی مهم به GPT-4o ارتقا یافت و امکان مکالمه لحظه‌ای و چندین قابلیت دیگر به آن اضافه شد.

این شرکت در ماه جاری پس از جدایی ایلیا سوتسکور، پژوهشگر ارشد و یکی از بنیان‌گذاران اوپن‌ای‌آی، و دیگر مدیران تیم کنترل هوش مصنوعی خود، این تیم را به طور کامل منحل کرد.

سوتسکور چند ماه پس از آن از اوپن‌ای‌آی جدا شد که شرکت در اقدامی به رهبری او سم آلتمن را برای مدت کوتاهی از سمت خود برکنار کرد. پس از برکناری آلتمن در ماه نوامبر، فشار سرمایه‌گذاران و کارکنان باعث بازگشت دوباره او به شرکت و انحلال هیات مدیره سابق شد.

جین لیک، یکی دیگر از پژوهشگران ارشد هوش مصنوعی اوپن‌ای‌آی که در حوزه امنیت این سیستم‌ها فعالیت دارد، نیز پس از انحلال تیم کنترل هوش مصنوعی از این شرکت جدا شد و درمورد عدم توجه کافی به مباحث ایمنی در این شرکت اظهار نگرانی کرد.