هشدار ۴۲ ایالت آمریکا نسبت به شرکتهای هوش مصنوعی درمورد خطرات چتباتها
ائتلافی دوحزبی از دادستانهای کل ۴۲ ایالت آمریکا روز دوشنبه با ارسال نامهای هشدارآمیز به…
۲۰ آذر ۱۴۰۴
۲۲ آذر ۱۴۰۴
زمان مطالعه : ۴ دقیقه

شرکت اوپنایآی تایید کرده است که در اولین سه ماهه سال آینده میلادی (۲۰۲۶) قابلیت جدیدی با عنوان «حالت بزرگسالان» را در اختیار کاربران ChatGPT قرار میدهد و براساس این قابلیت جدید کاربرانی که سن آنها بالای ۱۸ سال تایید شده میتوانند محتوایی با محدودیت کمتر، از جمله محتوای اروتیک، دسترسی پیدا کنند. این نخستینبار است که اوپنایآی زمانبندی مشخصی برای این ویژگی خبرساز ارائه میکند و پیش از این تنها سم آلتمن، مدیرعامل شرکت، در یک اشاره کلی از چنین قابلیتی خبر داده بود.
به گزارش پیوست، این اعلام در جریان نشست معرفی مدل جدید GPT-5.2 انجام شد. فیدجی سیمو، مدیرعامل بخش اپلیکیشنهای اوپنایآی، در این نشست به خبرنگاران گفت شرکت پیش از عرضه عمومی این قابلیت، تمرکز اصلی خود را بر بهبود فناوری تشخیص سن کاربران گذاشته تا بتواند به خوبی بزرگسالان را تشخیص داده و از دسترسی افراد زیر ۱۸ سال به محتوای بزرگسالان جلوگیری کند.
طبق اعلام اوپنایآی، سیستم تشخیص سن شرکت بهصورت خودکار و بر اساس الگوهای رفتاری کاربران عمل میکند و برای مثال زمانهای فعالیت و سابقه حساب کاربری را در نظر می گیرد. همین سازوکار سن احتمالی افراد را تخمین میزند و در حالت معمول نیازی نیست اطلاعات هویتی از سوی کاربران در اختیار سیستم قرار گیرد.
با این حال براساس همین سازوکار، اگر مدل نسبت به سن کاربر اطمینان کافی نداشته باشد، بهطور پیشفرض محدودیتهای سختگیرانه افراد زیر ۱۸ سال را بر حساب کاربری مذکور اعمال میکند.
کاربرانی که به اشتباه بهعنوان نوجوان شناسایی شوند براساس سازوکاری که پیشتر اوپنایآی در وبلاگ خود اعلام کرده است، میتوانند سن خود را از طریق شرکت ثالث Persona تایید کنند. این فرایند شامل بارگذاری مدرک شناسایی دولتی و ارائه یک سلفی چهره است که در آن کاربر باید سر خود را به چپ و راست حرکت دهد تا سیستم، تطابق چهره و هویت را تایید نماید.
تصمیم اوپنایآی برای راهاندازی حالت بزرگسالان در ادامه تغییرات سیاستی این شرکت در حوزه سلامت روان اتخاذ شده است. این شرکت در ماههای گذشته، پس از مواجهه با شکایتهایی که ChatGPT را به نقشآفرینی در بحرانهای روانی و موارد خودکشی متهم کرده بود، محدودیتهای محتوایی خود را برای کاربران نوجوان افزایش داد.
با این حال، سم آلتمن در ماه اکتبر اعلام کرد که شرکت تحت رهبریاش توانسته «مسائل جدی سلامت روان» را تا حدی مهار کند و قصد دارد از این پس با بزرگسالان همانند بزرگسال رفتار کند.
آلتمن در آن زمان طی پستی در شبکه اجتماعی ایکس نوشت که شرکت در ابتدا ChatGPT را با محدودیت «بیش از حد» طراحی کرده تا از بروز آسیبهای روانی جلوگیری شود، اما اکنون قصد دارد این محدودیتها را به شکلی ایمن کاهش دهد تا بزرگسالانی که از سن آنها اطمینان حاصل شده حتی امکان دسترسی به محتوای اروتیک را نیز داشته باشند.
امکان دسترسی به محتوای اروتیک و بزرگسال از طریق چتباتها و مولدهای تصویر و ویدیو اما واکنشهای بسیاری را به دنبال داشته و بسیاری درمورد چنین کاربردهایی برای هوش مصنوعی ابراز نگرانی کردهاند.
این اقدام اوپنایآی را وارد رقابت مستقیمتری با رقبایی مانند xAI ایلان ماسک خواهد کرد که از طریق چتبات گراک امکان تولید محتوا و تصاویر بزرگسال را در اختیار کاربران قرار داده بود و همین موضوع انتقاد برخی فعالان حوزه ایمنی دیجیتال را برانگیخت.
اوپنایآی همچنین تایید کرده است که مدل GPT-5.2 همزمان با این تغییرات به قابلیتهای جدیدی مجهز شده تا بتواند محافظتهای بهتری را در حوزه پاسخ به پرسشهای مرتبط با آسیب به خود و سلامت روان به اجرا بگذارد. به گفته شرکت، هدف نهایی آنها ایجاد توازنی میان آزادی کاربران بزرگسال و حفاظت موثر از کاربران و نوجوانان است که به ویژه در سال ۲۰۲۵ در مرکز توجه قانونگذاران قرار گرفته است.
از این رو اوپنایآی اعلام کرده است که شرط لازم برای عرضه موفق حالت ویژه بزرگسالان با آزادی عمل بیشتر در ChatGPT، محافظت کافی از نوجوانان خواهد بود.