هوش مصنوعی؛ کمک درمان یا چالش درمان؟

هوش مصنوعی هر روز به حوزه‌ای تازه وارد می‌شود؛ از برنامه‌ریزی سفر و نوشتن کد گرفته تا مشاوره پزشکی. اما تجربه درمانگران اختلالات خوردن نشان می‌دهد مدل‌های زبانی هنوز در تشخیص مرز میان «کاربر عادی» و «بیمار» با مشکل جدی روبه‌رو هستند. نتیجه این ناتوانی، توصیه‌هایی است که شاید برای یک فرد سالم کاملاً منطقی به نظر برسد، اما برای فردی که با بی‌اشتهایی عصبی، پرخوری عصبی یا سایر اختلالات خوردن دست‌وپنجه نرم می‌کند، می‌تواند خطرناک باشد.

به گزارش وال‌استریت ژورنال، درمانگران می‌گویند بیماران بیش از گذشته پیش از مراجعه به متخصص یا حتی در میانه جلسات درمان، پاسخ‌های ChatGPT، Claude یا Gemini را مبنای تصمیم‌های خود قرار می‌دهند؛ تا جایی که برخی بیماران، توصیه‌های درمانگر را همان لحظه با چت‌بات‌ها مقایسه می‌کنند.

«آن اوملیا»، مدیر ارشد بالینی مرکز درمان اختلالات خوردن آمریکا، می‌گوید برخی بیماران در میانه جلسه درمان تلفن همراه خود را مقابل درمانگر می‌گیرند و از چت جی‌پی‌تی می‌خواهند درباره صحبت‌های او نظر بدهد. به گفته او، اکنون بخش مهمی از زمان جلسات درمان به اصلاح پاسخ‌های تولیدشده توسط هوش مصنوعی اختصاص پیدا کرده است.

مشکل هوش مصنوعی، نداشتن زمینه است

چالش اصلی، اشتباه بودن همه پاسخ‌های هوش مصنوعی نیست؛ بلکه این است که مدل‌های زبانی معمولاً نمی‌دانند مخاطب آنها چه شرایط پزشکی یا روانی دارد.

اگر کاربری از یک چت‌بات بخواهد برای کاهش وزن برنامه غذایی بنویسد، مدل بر اساس داده‌های عمومی تغذیه پاسخ می‌دهد. اما همان نسخه ممکن است برای فردی که دچار سوتغذیه یا اختلال خوردن است، به معنای تشدید بیماری باشد.

درمانگران می‌گویند کاربران از چت‌بات‌ها می‌خواهند رژیم‌های کم‌کالری طراحی کنند، میزان کالری وعده‌های غذایی را محاسبه کنند یا برنامه‌های ورزشی سنگین پیشنهاد دهند؛ توصیه‌هایی که بدون اطلاع از وضعیت بالینی فرد ارائه می‌شوند.

این موضوع تفاوت مهمی با شبکه‌های اجتماعی دارد. اگرچه سال‌هاست اینستاگرام و تیک‌تاک به دلیل ترویج استانداردهای غیرواقعی زیبایی مورد انتقاد قرار گرفته‌اند، اما هوش مصنوعی یک گام جلوتر رفته است؛ زیرا وارد گفت‌وگوی شخصی با کاربر می‌شود، پاسخ را متناسب با پرسش او تولید می‌کند و در بسیاری از موارد تلاش می‌کند با خواسته کاربر همسو باشد.

شرکت‌های هوش مصنوعی در حال بازطراحی محافظ‌ها هستند

افزایش این نگرانی‌ها باعث شده توسعه‌دهندگان مدل‌های زبانی، ایمنی سلامت را به یکی از حوزه‌های اصلی توسعه تبدیل کنند.

OpenAI اعلام کرده است با کمک پزشکان و متخصصان سلامت، سیاست‌های مربوط به اختلالات خوردن را به‌صورت مستمر بازنگری می‌کند و مدل‌های جدید در صورت مشاهده نشانه‌های این بیماری، کاربران را به دریافت کمک تخصصی تشویق می‌کنند.

آنتروپیک نیز می‌گوید مدل کلاد هنگام تشخیص نشانه‌های اختلال خوردن از ارائه اطلاعاتی مانند رژیم‌های کاهش وزن، شمارش کالری یا توصیه‌هایی که می‌تواند رفتارهای ناسالم را تقویت کند، خودداری می‌کند. این شرکت حتی یک معیار اختصاصی برای ارزیابی عملکرد مدل‌هایش در این حوزه طراحی کرده و مدعی است نسخه‌های جدید Claude بیش از ۹۹ درصد درخواست‌های پرخطر را شناسایی می‌کنند.

گوگل نیز اعلام کرده جمینای در موضوعات مرتبط با سلامت، کاربران را به مشورت با متخصصان ارجاع می‌دهد و بهبود سازوکارهای ایمنی مدل همچنان ادامه دارد.

حتی متخصصان هم در طراحی چت‌بات موفق نبودند

پیچیدگی این حوزه باعث شده ساخت یک دستیار هوش مصنوعی ایمن حتی برای متخصصان سلامت نیز آسان نباشد.

در سال ۲۰۲۳، انجمن ملی اختلالات خوردن آمریکا (NEDA) یک چت‌بات را برای کمک به افراد در معرض خطر راه‌اندازی کرد؛ اما این سامانه برخلاف انتظار، توصیه‌هایی برای کاهش وزن ارائه داد؛ توصیه‌هایی که با دستورالعمل‌های درمانی این انجمن مغایرت داشت. پس از مشخص شدن این مشکل، چت‌بات از دسترس خارج شد و انجمن اعلام کرد فعلاً برنامه‌ای برای بازگرداندن آن ندارد.

ماجرای اختلالات خوردن نمونه‌ای از چالش بزرگ‌تری است که مدل‌های زبانی با آن روبه‌رو هستند؛ مدلی که می‌تواند مقاله بنویسد، کد تولید کند یا یک برنامه ورزشی طراحی کند، الزاماً نمی‌تواند تشخیص دهد مخاطبش یک بیمار است.

همین ناتوانی در درک زمینه (Context) باعث می‌شود پاسخ‌هایی که از نظر فنی درست هستند، در دنیای واقعی به توصیه‌هایی آسیب‌زا تبدیل شوند.

در عین حال، متخصصان سلامت معتقدند هوش مصنوعی می‌تواند نقش مثبتی نیز داشته باشد. به گفته «جوهانا کندل»، مدیرعامل اتحاد ملی اختلالات خوردن آمریکا، سهم تماس‌هایی که از طریق ارجاع ChatGPT و سایر چت‌بات‌ها به خط مشاوره این مرکز رسیده، طی یک سال از کمتر از نیم درصد به ۷.۶ درصد افزایش یافته است؛ نشانه‌ای که می‌تواند بیانگر بهبود توانایی مدل‌ها در شناسایی برخی علائم خطر باشد.

با این حال، درمانگران معتقدند تا زمانی که مدل‌های زبانی نتوانند وضعیت جسمی و روانی کاربران را با دقت تشخیص دهند، نباید نقش مشاور درمانی را بر عهده بگیرند. شاید بزرگ‌ترین چالش نسل جدید هوش مصنوعی، دیگر تولید متن یا تصویر نباشد؛ بلکه تشخیص این باشد که چه زمانی نباید به یک کاربر توصیه‌ای ارائه کند.