اطلاعات پزشکی خطرناک در چکیده‌های هوش مصنوعی گوگل

به گزارش پیوست، گاردین در بررسی‌های خود به چندین نمونه از توصیه‌های پزشکی غلط اشاره دارد که توسط خلاصه‌های هوش مصنوعی گوگل تولید و در اختیار کاربران قرار گرفته است.

در یکی از نگران‌کننده‌ترین موارد، این سیستم به بیماران مبتلا به سرطان لوزالمعده توصیه می‌کند تا از مصرف غذاهای پرچرب پرهیز کنند؛ در حالی که این توصیه برخلاف راهنمایی‌های پزشکی رایج است و می‌تواند توان بیمار برای تحمل شیمی‌درمانی یا جراحی‌های حیاتی را به خطر بیندازد.

آنا جول، کارشناس پژوهش و پشتیبانی در موسسه Pancreatic Cancer UK، در این‌باره گفت پیروی از چنین توصیه‌ای می‌تواند مانع دریافت کالری کافی و افزایش وزن بیماران شود و در نتیجه امکان ادامه درمان‌های نجات‌بخش را از آن‌ها بگیرد.

هشدار نهادهای سلامت

این تحقیق پس از آن انجام گرفته است که سازمان‌های سلامت، خیریه‌ها و پزشکان نگرانی‌های خود را درباره دقت چکیده‌های هوش مصنوعی گوگل مطرح کردند. در یکی از نمونه‌ها، جست‌وجوی مربوط به علائم و آزمایش‌های سرطان واژن، به اشتباه تست پاپ‌اسمیر را به‌عنوان روش تشخیصی این سرطان معرفی کرده بود؛ در حالی که پاپ‌اسمیر در واقع برای غربالگری سرطان دهانه رحم به کار می‌رود. خیریه The Eve Appeal این اطلاعات را «کاملا غلط» توصیف کرده است.

موارد دیگری نیز شناسایی شده که شامل تفسیر نادرست نتایج آزمایش‌های کبدی بدون در نظر گرفتن عواملی مانند سن، جنسیت، قومیت یا ملیت است؛ موضوعی که می‌تواند باعث شود افراد مبتلا به بیماری‌های جدی کبدی به اشتباه تصور کنند سالم هستند. همچنین گزارش‌هایی از توصیه‌های گمراه‌کننده درباره مشکلات سلامت روان از جمله روان‌پریشی و اختلالات خوردن مطرح شده است.

سوفی رندال، مدیر انجمن Patient Information Forum در بریتانیا، در این رابطه هشدار داده و می‌گوید این یافته‌ها نشان می‌دهد که نفوذ اطلاعات نادرست پزشکی در بالاترین جایگاه نتایج جست‌وجو می‌تواند سلامت کاربران را به خطر بیندازد.

با این حال گوگل در واکنش به این گزارش، اعلام کرده است که این شرکت سرمایه‌گذاری قابل‌توجهی برای ارتقای کیفیت AI Overviews در موضوعات سلامت انجام داده و «اکثریت قریب به اتفاق» این خلاصه‌ها اطلاعات دقیقی ارائه می‌کنند. گوگل همچنین تاکید کرده است که برخی از نمونه‌های ارائه شده در این گزارش «اسکرین‌شات‌های ناقص» هستند و پاسخ‌ها معمولا به منابع معتبر پیوند داده و کاربران را به مشورت با متخصصان توصیه می‌کنند.

این گزارش در ادامه موج فزاینده نگرانی‌ها درباره محتوای تولیدشده توسط هوش مصنوعی منتشر شده است. پیش‌تر نیز مطالعاتی نشان داده بودند که چت‌بات‌های هوش مصنوعی در حوزه‌هایی مانند مشاوره مالی و خلاصه‌سازی اخبار، اطلاعات نادقیق یا گمراه‌کننده ارائه کرده‌اند و یکی از موارد مشهور آن خلاصه‌های اشتباه هوش مصنوعی اپل از رسانه بی‌بی‌سی بود که با واکنش این رسانه باعث غیرفعال شدن آن شد.

حال انتشار گزارش جدید روزنامه گاردین در این باره پرسش‌های تازه‌ای را پیرامون اطمینان و اتکای فناوری‌ هوش مصنوعی در حوزه‌‌های حساس ایجاد کرده است. با اینکه شرکت‌های هوش مصنوعی همواره در محصولات خود به احتمال اشتباه اشاره دارند و پدیده‌ای چون توهم هوش مصنوعی همچنان حل نشده باقی مانده است، چکیده‌های هوش مصنوعی گوگل به دلیل استفاده طیف گسترده‌ای از کاربران از این موتور جستجو از اهمیت ویژه‌ای در اطلاعاتی دارد که به مردم منتقل خواهد شد.