«اول از AI پرسیدم»؛ جمله‌ای که پزشکان دوست ندارند بشنوند

به گزارش وال‌استریت ژورنال، اگر تا چند سال پیش پزشکان از بیماران می‌خواستند به جست‌وجوهای اینترنتی و «دکتر گوگل» اعتماد نکنند، حالا با رقیبی روبه‌رو شده‌اند که نه‌تنها پاسخ می‌دهد، بلکه استدلال می‌کند، توضیح می‌دهد و حتی درباره درمان نظر می‌دهد. افزایش دسترسی مردم به پرونده‌های پزشکی دیجیتال و رشد سریع استفاده از چت‌بات‌های هوش مصنوعی باعث شده بسیاری از بیماران، پیش از آنکه با پزشک خود صحبت کنند، نتایج آزمایش‌ها، گزارش‌های تصویربرداری و حتی یادداشت‌های پزشکی را در اختیار هوش مصنوعی قرار دهند تا برایشان تفسیر کند.

 پزشکان می‌گویند این روند اگرچه در برخی موارد به درک بهتر اصطلاحات پزشکی کمک می‌کند، اما همزمان می‌تواند به سوبرداشت، تشخیص‌های اشتباه، تصمیم‌های درمانی خطرناک و حتی مشکلات مربوط به حریم خصوصی منجر شود.

دسترسی مستقیم بیماران به اطلاعات پزشکی

امروز بیشتر بزرگسالان آمریکایی، پیش از آنکه پزشک نتایج آزمایششان را توضیح دهد، خودشان آنها را به‌صورت آنلاین مشاهده می‌کنند. این تغییر تا حد زیادی نتیجه قانونی است که از سال ۲۰۲۱ اجرایی شد و ارائه‌دهندگان خدمات درمانی را ملزم کرد اطلاعات سلامت، از جمله نتایج آزمایش‌ها، گزارش‌های تصویربرداری و یادداشت‌های بالینی را تقریباً بلافاصله در اختیار بیماران قرار دهند.

در نتیجه، بسیاری از بیماران دیگر منتظر تماس پزشک نمی‌مانند. آنها فایل نتایج آزمایش را مستقیما در چت‌بات‌های هوش مصنوعی بارگذاری می‌کنند و از این ابزارها می‌خواهند وضعیت سلامتشان را تحلیل کنند.

همین روند، نگرانی پزشکان را درباره پدیده «توهم» (Hallucination) در مدل‌های هوش مصنوعی، برداشت‌های نادرست از داده‌های پزشکی و حفاظت از اطلاعات سلامت کاربران افزایش داده است.

از سرماخوردگی تا سرطان؛ همه چیز ممکن است

«جیسون گلدمن» (Jason Goldman)، متخصص داخلی در شهر کورال اسپرینگز فلوریدا، می‌گوید بخش قابل‌توجهی از زمان ویزیت اکنون صرف اصلاح برداشت‌هایی می‌شود که بیماران از پاسخ‌های هوش مصنوعی پیدا کرده‌اند.

او می‌گوید: «ما باید تشخیص‌هایی را رد کنیم که بیماران بعد از جست‌وجو و بررسی در هوش مصنوعی به آنها رسیده‌اند. ممکن است یک پاسخ بگوید فقط سرما خورده‌اید و پاسخ دیگر همان علائم را نشانه سرطان بداند.»

به گفته گلدمن، برخی بیماران با استناد به گفت‌وگوهای خود با چت‌بات‌ها، مصرف داروهای حیاتی کاهش کلسترول را متوقف کرده‌اند. برخی دیگر نیز درباره واکسن‌هایی که پزشک توصیه کرده، تردید نشان داده‌اند، چون هوش مصنوعی نگرانی آنها را تأیید کرده است.

او با اشاره به تغییر رفتار برخی بیماران می‌گوید: «من توصیه درمانی می‌کنم و بیمار جواب می‌دهد: “اجازه بدهید اول از هوش مصنوعی بپرسم.” آن وقت از خودم می‌پرسم، پس اصلاً چرا به مطب آمده‌اید؟»

یک‌سوم بزرگسالان از هوش مصنوعی مشاوره پزشکی می‌گیرند

براساس نظرسنجی سال ۲۰۲۶ مؤسسه پژوهشی «کی‌اف‌اف» (KFF)، حدود یک‌سوم بزرگسالان آمریکایی برای دریافت توصیه‌های مرتبط با سلامت به چت‌بات‌های هوش مصنوعی مراجعه می‌کنند.

این نظرسنجی نشان می‌دهد ۱۹ درصد از پاسخ‌دهندگان به‌طور مشخص از هوش مصنوعی برای تفسیر نتایج آزمایش‌های خون، تست‌های پزشکی و سایر گزارش‌های تشخیصی استفاده می‌کنند.

در همین حال، شرکت «اوپن‌ای‌آی» (OpenAI) اعلام کرده است که هر هفته بیش از ۳۰۰ میلیون نفر در «چت‌جی‌پی‌تی» (ChatGPT) پرسش‌هایی درباره سلامت مطرح می‌کنند؛ عددی که نشان می‌دهد سلامت به یکی از مهم‌ترین حوزه‌های استفاده از هوش مصنوعی تبدیل شده است.

رقابت شرکت‌های فناوری برای تصاحب بازار سلامت

استقبال کاربران باعث شده شرکت‌های فناوری نیز سرمایه‌گذاری گسترده‌ای روی این بازار انجام دهند.

چت‌بات «کلاد» (Claude) متعلق به شرکت «آنتروپیک» (Anthropic) اکنون برای برخی کاربران امکان اتصال به سوابق پزشکی را فراهم کرده است.

شرکت «اپیک سیستمز» (Epic Systems)، بزرگ‌ترین ارائه‌دهنده نرم‌افزار پرونده الکترونیک سلامت در آمریکا، نیز دستیار هوش مصنوعی خود را در نرم‌افزارهای پزشکی ادغام کرده است.

از سوی دیگر، «اوپن‌ای‌آی» در ماه ژوئیه قابلیت جدیدی را به‌طور گسترده عرضه کرد که به کاربران اجازه می‌دهد «چت‌جی‌پی‌تی» را به پرونده پزشکی و داده‌های ابزارهای پوشیدنی متصل کنند. این قابلیت می‌تواند روند تغییر شاخص‌های سلامت را در طول زمان بررسی و تحلیل کند.

«اشلی الکساندر» (Ashley Alexander)، معاون محصولات سلامت اوپن‌ای‌آی، درباره این قابلیت گفته است مدل جدید این شرکت «در استدلال از پزشکان عملکرد بهتری دارد»، هرچند اوپن‌ای‌آی همچنان تأکید می‌کند این ابزار جایگزین پزشک نیست.

چرا پزشکان هنوز اعتماد نمی‌کنند؟

بسیاری از پزشکان نسبت به توانایی واقعی هوش مصنوعی در تصمیم‌گیری بالینی تردید دارند.

«مری کی. مالکاهی» (Mary K. Mulcahey)، رئیس بخش پزشکی ورزشی مرکز پزشکی دانشگاه لویولا و متخصص آسیب‌های شانه و زانو، می‌گوید هوش مصنوعی احتمالاً نمی‌تواند تفاوت انواع مختلف پارگی مینیسک را به‌درستی تشخیص دهد.

به گفته او، انتخاب روش درمان تنها به نتیجه تصویربرداری وابسته نیست؛ بلکه نوع پارگی، میزان فعالیت بیمار، سن، شدت آرتروز و شرایط فردی همگی در تصمیم پزشک نقش دارند. پاسخ‌هایی که مدل‌های زبانی بزرگ (Large Language Models) تولید می‌کنند ممکن است این زمینه‌های مهم را نادیده بگیرند یا به‌درستی تفسیر نکنند.

مالکاهی می‌گوید تعداد بیشتری از بیمارانش اکنون نتایج ام‌آر‌آی (MRI) خود را نیز در اختیار هوش مصنوعی قرار می‌دهند.

او هشدار می‌دهد: «وقتی بیمار با این تصور وارد مطب می‌شود که از قبل می‌داند بهترین درمان چیست و دیگر نظر پزشک یا جراح را در نظر نمی‌گیرد، این وضعیت می‌تواند خطرناک باشد.»

با این حال، او و بسیاری از پزشکان معتقدند هوش مصنوعی در برخی کاربردها بسیار مفید است؛ به‌ویژه زمانی که قرار باشد اصطلاحات پیچیده پزشکی را به زبان ساده برای بیماران توضیح دهد.

دقت ۹۸ درصدی؛ اما یک اشتباه می‌تواند سرنوشت‌ساز باشد

پژوهشی که در سال ۲۰۲۴ منتشر شد، عملکرد چت‌بات‌های هوش مصنوعی در ساده‌سازی گزارش‌های آسیب‌شناسی (پاتولوژی) را بررسی کرد.

نتایج این مطالعه نشان داد «چت‌جی‌پی‌تی» سطح دشواری متن را تا حد درک یک دانش‌آموز پایه هفتم کاهش داده و در نزدیک به ۹۸ درصد موارد، اطلاعات پزشکی را به‌درستی منتقل کرده است.

اما همین پژوهش یک خطای مهم را نیز ثبت کرد. در شرایطی که هیچ غده لنفاوی بررسی نشده بود، چت‌جی‌پی‌تی اعلام کرده بود غدد لنفاوی بیمار فاقد سرطان هستند.

پژوهشگران می‌گویند همین اشتباه، که در یک چت‌بات دیگر نیز تکرار شد، رایج‌ترین خطایی بود که در طول تحقیق با آن مواجه شدند.

وقتی پاسخ هوش مصنوعی از آرامش به هشدار قرمز می‌رسد

«مگ گوات» (Megg Gawat)، مهندس نرم‌افزار ۳۲ ساله، سال گذشته پس از دریافت نتایج آزمایش خون خود، برای فهم اصطلاحات تخصصی و مخفف‌های پزشکی به سراغ «چت‌جی‌پی‌تی» رفت.

او می‌گوید بزرگ‌ترین مزیت این ابزار، امکان پرسیدن سؤال در هر ساعت از شبانه‌روز، بدون نگرانی از قضاوت شدن یا احساس خجالت بود.

در ابتدا، هوش مصنوعی به او پاسخ داد: «وضعیت جسمانی‌ات عالی است.»

اما گوات خیلی زود متوجه شد سامانه سطح ویتامین D او را اشتباه خوانده است. وقتی این اشتباه را به هوش مصنوعی گوشزد کرد، لحن پاسخ ناگهان تغییر کرد و با استفاده از ایموجی آژیر قرمز از او خواست «بلافاصله» مصرف مکمل ویتامین D را آغاز کند.

چند ساعت بعد، پرستاری که نتایج آزمایش را برای او توضیح داد، همان توصیه را مطرح کرد، اما با لحنی بسیار آرام‌تر و بدون ایجاد احساس اضطرار.

تشخیص اشتباه زوال عقل

در نمونه‌ای دیگر که در قالب یک مطالعه موردی در نشریه American Journal of Geriatric Psychiatry منتشر شد، یک کهنه‌سرباز ۶۵ ساله نتایج دو آزمون حافظه خود را در چت‌جی‌پی‌تی وارد کرد.

هوش مصنوعی به او اعلام کرد که اختلال شناختی خفیفش به زوال عقل (دمانس) پیشرفت کرده است؛ در حالی که طبق ارزیابی پزشکان، وضعیت شناختی او هیچ تغییری نکرده بود.

سخنگوی اوپن‌ای‌آی در واکنش به این گزارش اعلام کرد که مطالعه‌های موردی، تصویر دقیقی از عملکرد کلی محصولات این شرکت ارائه نمی‌کنند و مدل‌های جدید قابلیت‌های بیشتر و سازوکارهای ایمنی پیشرفته‌تری، از جمله لایه‌های اضافه رمزنگاری برای داده‌های سلامت کاربران، دارند.

آیا اطلاعات پزشکی در چت‌بات‌ها امن است؟

نگرانی پزشکان تنها به دقت پاسخ‌های هوش مصنوعی محدود نمی‌شود.

«برد مالین» (Brad Malin)، استاد انفورماتیک زیست‌پزشکی در دانشگاه وندربیلت (Vanderbilt University) که روی حریم خصوصی داده‌های سلامت پژوهش می‌کند، هشدار می‌دهد کاربران باید بدانند که با بارگذاری اطلاعات پزشکی خود در یک چت‌بات، دیگر از حمایت‌های قانون «قابلیت انتقال و پاسخگویی بیمه سلامت» (HIPAA) برخوردار نخواهند بود.

به گفته او، شرکت‌های فناوری خودشان سیاست‌های حریم خصوصی را تعیین می‌کنند و هر زمان که بخواهند می‌توانند این سیاست‌ها را تغییر دهند.

مالین در پایان می‌گوید: «در اینجا دیگر با یک بیمار طرف نیستیم؛ با یک مصرف‌کننده روبه‌رو هستیم. و در چنین شرایطی، مهم‌ترین اصل این است که خریدار باید خودش مراقب باشد.»