اوپن‌ای‌آی حساب برخی از کاربران چینی و کره‌شمالی را به دلیل سو استفاده مسدود کرد

به گزارش پیوست، این شرکت مواردی از سو استفاده مثل تولید مقالات ضد آمریکایی و استفاده از هوش مصنوعی برای کمک به کلاهبرداری مالی را به عنوان سو استفاده‌های رایج شناسایی کرده است. با این حال طبق اعلام خبرگزاری رویترز، آمار دقیقی از حساب‌های حذف شده منتشر نشده است.

طبق گزارش منتشرشده توسط اوپن‌ای‌آی، رژیم‌های اقتدارگرا می‌توانند از هوش مصنوعی برای کنترل داخلی و همچنین مقابله با ایالات متحده و متحدانش استفاده کنند. این شرکت اعلام کرده است که برای شناسایی این فعالیت‌ها، از ابزارهای هوش مصنوعی خود کمک گرفته است. با این حال، تعداد دقیق حساب‌های حذف‌شده یا بازه زمانی این اقدامات مشخص نشده است.

طبق بررسی‌های انجام گرفته سه دسته اصلی برای سو استفاده از جمله تولید مقالات ضدآمریکایی در رسانه‌های اسپانیایی‌زبان، ساخت پروفایل‌های جعلی برای نفوذ در شرکت‌های غربی و استفاده از هوش مصنوعی برای کلاهبرداری مالی اشاره کرد. اوپن‌ای‌آی می‌گوید در یکی از موارد، کاربران از ChatGPT برای تولید مقالاتی در انتقاد از ایالات متحده به زبان اسپانیایی استفاده کرده‌اند. این مقالات تحت نام یک شرکت چینی در رسانه‌های جریان اصلی آمریکای لاتین منتشر شده‌اند.

همچنین این شرکت فعالیت‌هایی مرتبط با کره شمالی را شناسایی کرده است که از هوش مصنوعی برای ساخت رزومه‌های جعلی و ایجاد پروفایل‌های دروغین استفاده کرده‌اند. هدف از این اقدام، استخدام غیرقانونی در شرکت‌های غربی است که در سال‌های اخیر به نظر به رویه‌ای رایج با همکاری دولت کره شمالی تبدیل شده است. در نمونه دیگری نیز یک شبکه مستقر در کامبوج از ChatGPT برای ترجمه و تولید نظرات جعلی در رسانه‌های اجتماعی مانند فیسبوک و ایکس استفاده کرده است.

دولت ایالات متحده همچنین به شدت نگران سواستفاده چین از هوش مصنوعی برای سرکوب داخلی، انتشار اطلاعات نادرست و تهدید امنیت ملی آمریکا و متحدانش دارد.

اوپن‌ای‌آی در حالی اقدام برای حذف حساب‌های متخلف اقدام می‌کند که ChatGPT رکورد پیشین کاربران فعال را پشت سر گذاشته است و براساس آخرین گزارش‌ها در حال حاضر تعداد کاربران فعال هفتگی آن از ۴۰۰ میلیون نفر فراتر رفته است. این در حالی است که در ماه‌های اخیر رقابت با اوپن‌آی‌آی شرکت گرفته است و شرکت دیپ‌سیک چین به عنوان یک رقیب قدرتمند و در عین حال ارزان‌قیمت وارد عمل شده است. شرکت هوش مصنوعی ایلان ماسک نیز به تازگی از مدل هوش مصنوعی گراک ۳ رونمایی کرد که در چندین بنچمارک عملکرد بهتری حتی نسبت به مدل استدلال‌گر o3 اوپن‌ای‌آی دارد.

اوپن‌ای‌آی همچنین در حال مذاکره برای جذب سرمایه‌ای بین ۳۰ تا ۴۰ میلیارد دلار است که ارزش این شرکت را به ۳۰۰ میلیارد دلار خواهد رساند. این می‌تواند بزرگ‌ترین دور جذب سرمایه برای یک شرکت خصوصی در تاریخ باشد.