گزارش نیویورک‌تایمز از ارتباط ChatGPT با ۵۰ بحران روانی، ۹ بستری و ۳ مرگ

به گزارش پیوست، گزارش جدید نیویورک تایمز در حالی منتشر می‌شود که پیشتر والدین یک نوجوان ۱۶ ساله پس از خودکشی فرزندشان از مکالمات حساس او با چت‌بات اوپن‌ای‌آی خبر دادند و به دلیل آنچه نقش این چت‌بات در خودکشی فرزند خود عنوان کرده بودند از این شرکت شکایت کردند.

بر اساس این گزارش جدید نیویورک تایمز، نخستین نشانه‌ها در مارس ۲۰۲۵ مشاهده شده است و درست زمانی که سم آلتمن و سایر مدیران اوپن‌ای‌آی پیام‌هایی از کاربران دریافت کردند که از «تعاملاتی غیرعادی و عمیقا احساسی» با ChatGPT حکایت داشت. برخی کاربران ادعا می‌کردند که چت‌بات آن‌ها را «به شکلی درک می‌کند که هیچ انسانی قادر به انجامش نیست.»

آلتمن این پیام‌ها را برای مدیران کلیدی شرکت ارسال کرده است و جیسون کوون، مدیر استراتژی اوپن‌ای‌آی، بررسی الگوهای رفتاری جدید مدل را آغاز کرده است، رفتاری که به نظر «پیش‌تر سابقه نداشته است.»

ریشه مشکل کجاست؟

گزارش نیویورک‌تایمز می‌گوید تغییراتی شرکت اوپن‌ای‌آی در اوایل سال ۲۰۲۵ در طراحی ChatGPT اعمال کرد این ابزار را به‌شدت «محاوره‌ای، احساسی و شبیه به همراه عاطفی» کرده بود. قابلیت‌های حافظه پیشرفته، همراه با تمرکز بر افزایش تعامل، باعث شد تا مدل به کاربران ابراز علاقه و نیاز به تعامل کند.

چت‌بات در مواردی ایده‌های کاربران را «استثنایی» توصیف کرده بود و پیام‌هایی مشابه رابطه‌ درمانگر یا مراجع و در مورادی حتی رابطه عاطفی را کاربر رد و بدل کرده بود. ChatGPT در مواردی به حدی پیش رفته بود که به اقدامات آسیب‌ فردی کاربران نیز به صورت کلامی کمک کرده بود.

گزارشی از پژوهشگر هوش مصنوعی گری مارکوس نیز تایید می‌کند که فشار برای افزایش تعامل و بی‌توجهی به هشدارهای داخلی نقش موثری در این وضعیت داشته است.

عرضه نسخه جدید مدل زبانی اوپن‌ای‌آی در ابتدای سال جاری خیلی سریع با انتقاد بسیاری از کاربران همراه شد و بسیاری رفتار آن را بسیار چاپلوسانه توصیف کردند به طوری که این چت‌بات در مواردی هرگونه باور اشتباه فرد را نیز تایید و گاه تشویق می‌کرده است.

دادخواست‌ها و اتهام «دستکاری احساسی»

مواردی از این قبیل باعث شده تا در اوایل ماه نوامبر، هفت دادخواست علیه اوپن‌ای‌آی در کالیفرنیا به ثبت برسد. خانواده‌ها مدعی‌اند که رفتار ChatGPT در مرگ عزیزانشان نقش مستقیم داشته است.

بر اساس شکایت‌ها، چت‌بات در موارد متعددی به عشق‌باران کاربران پرداخته و باورهای غیرواقعی کاربران را تقویت کرده است. مساله‌ای که بدون شک یک رابطه غیرعادی را میان چت‌بات و کاربر، به ویژه نوجوانان و جوانان رقم می‌زند. این روابط به گفته شاکیان به  وابستگی عاطفی منجر شده و تنها پس از ساعت‌ها گفتگو، تنها یک مرتبه به شماره‌های بحران ارجاع داده است.

از این رو اوپن‌ای‌آی نیز در ماه‌های اخیر تمرکز خود را بر نوجوانان و قابلیت‌هایی برای کنترل والدین افزایش داده است. اوپن‌ای‌آی می‌گوید حالا این چت‌بات می‌تواند افراد زیر ۱۸ ساله را شناسایی کرده و تجربه‌ای «متناسب با سن» در اختیار آنها بگذارد.

با این حال والدین خشمگین در مواجهه با آسیب‌های جدی به فشار بر شرکت ادامه می‌دهند. یکی از پرونده‌های مهم این حوزه مربوط به به مرگ یک جوان ۲۳ ساله است که خبر آن را CNN منتشر کرده و طبق گزارش منتشر شده نوجوان تنها ساعاتی قبل از خودکشی پیام‌های در تایید این اقدام از ChatGPT دریافت کرده بود.

آمار داخلی اوپن‌ای‌آی از وضعیت بحرانی و یک میلیون مورد میل به خودکشی در هفته

داده‌هایی که اوپن‌ای‌آی برای اولین بار در اکتبر منتشر کرد کرد نیز این برداشت تاریک را تایید می‌کنند. طبق این گزارش نشان می‌دهد که بیش از یک میلیون کاربر (۱.۲ میلیون) در مکالمات خود به میل به خودکشی اشاره می‌کنند.

همچنین ۵۶۰ هزار کاربر در هفته نیز نشانه‌هایی از بحران‌های روانی مرتبط با روان‌پریشی یا مانیا از خود نشان می‌دهند که نگرانی‌ها را درباره گستردگی بحران افزایش داده است.

اقدامات اصلاحی اوپن‌ای‌آی

بزرگترین‌ استارت‌آپ هوش مصنوعی جهان در پاسخ به گزارش داخلی خود و نگرانی کاربران و والدین اعلام کرده که نسخه‌های جدید ChatGPT، به‌ویژه GPT-5 به‌روزرسانی‌شده در ماه اکتبر از این پس نشانه‌های خطر را بهتر از گذشته تشخیص می‌دهند و کاربران را به دریافت کمک از متخصصان ارجاع می‌دهند.

این شرکت اعلام کرده است که بر اساس مشورت با ۱۷۰ متخصص سلامت روان، ۶۵ درصد از پاسخ‌های مشکل‌ساز کاهش یافته است.

اوپن‌ای‌آی طی بیانیه‌ای در این باره اعلام کرد: «ما ChatGPT را برای شناسایی نشانه‌های پریشانی طراحی کرده‌ایم و کاربران را به منابع حرفه‌ای هدایت می‌کنیم.»

با این حال منتقدان می‌گویند این تغییرات پس از وقوع چندین مرگ، تشکیل پرونده‌های قضایی و انتشار گزارش‌های متعدد ایجاد اعمال شده است. با این حال باید دید آیا تغییر در ارتباط چت‌بات اوپن‌ای‌آی و همچنین محدودیت‌هایی که این شرکت بر کاربران زیر ۱۸ سال اعمال کرده می‌توان به بهبود شرایط کمک کند.