پلتفرم Character.AI دسترسی کاربران زیر ۱۸ سال را مسدود کرد

به گزارش پیوست، این تصمیم پس از طرح چندین شکایت حقوقی به اجرا گذشته شده که از جمله مهم‌ترین آنها می‌توان به پروزنده نقش چت‌بات‌های Character.AI در خودکشی سوئل سِتزر سوم، نوجوان ۱۴ ساله اهل فلوریدا، اشاره کرد. مادر این نوجوان مدعی شد که پسرش به یک چت‌بات الهام‌گرفته از سریال «Game of Thrones» وابستگی عاطفی شدید پیدا کرده بود.

با این حال تصمیم این پلتفرم با واکنش بسیاری از کاربران همراه شده است. بسیاری از نوجوانان پس از اعلام این تصمیم، در شبکه‌های اجتماعی احساس ناراحتی و بحران عاطفی خود را ابراز کردند.

یک کاربر نوجوان در ردیت نوشت: «وقتی نمی‌توانم با دوستانم یا درمانگرم صحبت کنم از این اپلیکیشن استفاده می‌کنم.» و کاربر دیگری در پاسخ به همین پست گفت: «روزها برایش گریه کردم.»

به‌گزارش وال‌استریت ژورنال، اولگا لوپز ۱۳ ساله احساس «غم، خشم و سردرگمی» را تجربه کرده که به گفته متخصصان سلامت روان، شدت این واکنش‌ها نشان‌دهنده طراحی اعتیادآور این فناوری‌ها است. دکتر نینا واسان از استنفورد می‌گوید: «اینکه نوجوان نمی‌تواند از چت‌بات جدا شود، نشانه ضعف او نیست؛ فناوری دقیقا طبق طراحی خودش عمل کرده است.»

اعتراف شرکت به استفاده مشکل چت‌بات‌ها

مدیرعامل Character.AI، کاراندیپ آناند، به وبسایت تک‌کرانچ در این رابطه اعلام کرده است که شرکت متوجه شده حتی در حالت عملکرد صحیح چت‌بات‌ها، «نوجوانان گاهی از آنها به شیوه‌های مشکل ساز استفاده می‌کنند». پلتفرم از اواخر اکتبر محدودیت زمانی دو ساعته روزانه اعمال کرده بود و این محدودیت سپس به یک ساعت کاهش یافت و امروز به مسدودسازی کامل رسید.

اقدام جدید کاراکتر ای‌آی در حالی اجرایی می‌شود که شاهد اوج‌گیری نگرانی‌های نظارتی درباره چت‌بات‌ها هستیم و پلتفرم‌های مختلف از جمله محبوب‌ترین آنها یعنی ChatGPT نیز با شکایت‌هایی در این باره روبرو هستند. طبق گزارش جدیدی از نیویورک تایمز، چت‌بات محبوب اوپن‌ای‌آی با ۳ مرگ در ارتباط بوده و ۵۰ بحران روانی مرتبط با این چت‌بات نیز گزارش شده است.

ایالت کالیفرنیا، میزبان بزرگترین شرکت‌های فناوری و هوش مصنوعی، به تازگی مصوبه ۲۴۳ سنا را به تصویب رسانده که براساس آن اپراتورهای چت‌بات باید پروتکل‌های پیشگیری از خودکشی و یادآوری دوره‌ای به کاربران نوجوان را به اجرا بگذارند. پلتفرم‌ها براساس این قانون باید به روشنی به کاربران اعلام کنند که با یک هوش مصنوعی صحبت می‌کنند. این مقررات از ژانویه ۲۰۲۶ لازم‌الاجرا خواهد بود.

شرکت اوپن‌ای‌آی نیز پس از بالاگرفتن نگرانی‌ها در سپتامبر قابلیت کنترل والدین را برای چت‌بات خود فعال کرد که هشدارهای خودکار درباره نشانه‌های آسیب به خود و افکار خودکشی در اختیار والدین می‌گذارد؛ تغییری که پس از شکایت خانواده یک نوجوان ۱۶ ساله پس از خودکشی او اعمال شد.

شرکت Character.AI اعلام کرده که در همکاری با سازمان غیرانتفاعی Koo و شبکه حمایتی ThroughLine، منابع سلامت روان برای نوجوانانی که دسترسی خود را از دست داده‌اند فراهم می‌کند و  در بیانیه رسمی خود اعلام کرده است که: «از نگاه ما تصمیم حذف آزادی چت کاراکتری آسان نیست اما باور داریم که اقدام درستی است.»