نیمی از کاربران به توصیه‌های هوش مصنوعی اهمیت نمی‌دهند

به گزارش روابط عمومی توسن، براساس پاسخ شرکت‌کنندگان رویداد Iran AI 2025 به سوالات «چندین»، ۴۰ درصد نگرانی کاربران در رابطه با هوش مصنوعی به حوزه خطا و تبعیض و همینطور نقض حریم خصوصی داده‌ها مربوط می‌شود.

در این نظرسنجی میدانی که در حاشیه رویداد Iran AI توسط پلتفرم «چندین» انجام شد، پنج سوال کلیدی درباره‌ ادراک، اعتماد، نگرانی و انتظار کاربران ایرانی از هوش مصنوعی مطرح شد.

وقتی AI تصمیم شما را نقد می‌کند چه واکنشی نشان می‌دهید؟

اگر AI پیش‌بینی کند که تصمیم شما با احتمال بالای ۷۰درصد اشتباه است، چقدر احتمال دارد تصمیم خود را تغییر دهید؟ ۵۰درصد از مشارکت‌کنندگان پاسخ‌داده‌اند که در این صورت تصمیم خود را تغییر می‌دهند. ۱۹ درصد تصمیم خود را تغییر نمی‌دهند و ۳۱ درصد نیز  در این باره مطمئن نیستند.

در مقایسه، ۲۶درصد از کاربران اروپایی (PwC 2022) تصمیم خود را صرفا به‌دلیل توصیه AI تغییر می‌دهند. در حالی که AI هشدار واضحی درباره اشتباه بودن تصمیم داده، فقط نیمی از کاربران تصمیم‌شان را «کاملا» تغییر می‌دهند. نیمی از کاربران ایرانی حاضر به پذیرش خطای خود نیستند، حتی با تکیه بر داده‌های ماشینی. این نشان می‌دهد که هنوز بین اعتماد به الگوریتم و پافشاری بر قضاوت شخصی، یک فاصله وجود دارد، حتی وقتی احتمال خطا زیاد است.

حاضریم داده‌های خود را واگذار کنیم اما به یک شرط

آیا موافقید داده‌های شما به عنوان کاربر برای آموزش مدل‌های AI استفاده شود؟ ۴۷ درصد از مشارکت‌کنندگان حاضرند داده‌ها را واگذار کنند اما به شرط ناشناس ماندن و رمزگذاری داده‌ها. ۲۵ درصد فقط برخی داده‌های خود را واگذار می‌کنند و ۱۷ درصد در مقابل واگذاری داده‌هایشان انتظار پاداش مالی یا امتیاز وفاداری دارند. ۱۱ درصد از مشارکت‌کنندگان نیز به‌طور کل با واگذاری داده برای آموزش مدل‌های هوش مصنوعی مخالفند. در سطح جهانی (Deloitte 2021)، ۷۴ درصد کاربران با استفاده از داده‌شان در صورت شفافیت موافقند.

به گفته مهدی محمدی، عضو هیات علمی دانشگاه تهران در همایش ملی هوش مصنوعی و هوشمندسازی صنعتی IRANAI4: «ایران در بخش دانشی میان ۱۹۳ کشور، رتبه ۲۰ را به خود اختصاص داده، اما در بخش کاربردی، جایگاه کشور مابین رتبه‌های ۹۰ تا ۱۰۰ قرار دارد.» با این حال کاربران ایرانی با موضوع آموزش مدل‌های هوش مصنوعی آگاهانه مواجه شده‌اند.

اما سوال اساسی اینجاست که آیا سیستم‌های فعلی اصلا امکان انتخاب و کنترل سطح داده را فراهم کرده‌اند؟

مشاوره از امنیت باارزش‌تر است

در کدام بخش، استفاده از یک سرویس مبتنی بر  AI برای شما بیشترین ارزش را ایجاد می‌کند؟ ۲۶ درصد از شرکت‌کنندگان ایرانی در پاسخ به این سوال  معتقدند که مشاوره برای تصمیم‌گیری بهتر، بیشترین ارزش را ایجاد می‌کند. این در حالی است که تنها ۵ درصد از شرکت‌کنندگان «امنیت و پیشگیری از تقلب» را ارزشمند دانسته‌اند.

بقیه مشارکت‌کنندگان نیز با توزیع نسبتا یکسانی شخصی‌سازی خدمات(۱۶ درصد)، نوآوری‌های جدید (۱۰ درصد)، کاهش هزینه‌ها (۱۱ درصد)، آموزش (۱۵ درصد) و سرگرمی (۳ درصد) را ارزشمند دانسته‌اند.

در مقایسه، امنیت در رتبه‌های بالاتری در اروپا (Accenture 2022) قرار دارد. نبود تجربه موفق از AI در امنیت، یا ضعف روایت عملکرد آن، می‌تواند از دلایل این ترجیحات باشد.

هوش مصنوعی باید در کاهش هزینه‌ها معجزه کند

انتظار دارید هوش مصنوعی تا چه اندازه در کاهش هزینه‌ها تاثیرگذار باشد؟ ۴۸ درصد از پاسخ‌دهندگان به این سوال، انتظار دارند هوش مصنوعی ۷۵ تا ۱۰۰ درصد هزینه‌ها را کاهش دهد. براساس طیف پاسخ‌های این سوال میانگین کلی انتظار صرفه‌جویی نیز حدود ۶۷ درصد است. گزارش Gartner 2021 نشان می‌دهد صرفه‌جویی عملیاتی واقعی بین ۱۰ تا ۲۵ درصد است.

بر اساس گزارش Iran AI Index 2024، از نظر کاربردی‌سازی هوش مصنوعی در کسب‌وکارهای ایرانی، در حال حاضر، ایران حداقل ۷ سال از میانگین جهانی عقب‌تر است. به‌کارگیری هوش مصنوعی در کسب‌وکارهای ایرانی در حال حاضر حدود ۱۷ درصد است. این یک شاخص کلیدی برای تحقق کاربرد هوش مصنوعی در اقتصاد کشور است. شاید دلیل انتظار بالا از عملکرد هوش مصنوعی در کاهش هزینه‌ها این باشد که هنوز درسطح گسترده در کسب‌وکارها مورد استفاده قرار نگرفته و عملکرد واقعی مورد سنجش قرار نگرفته است.

نگرانی از حریم خصوصی

بزرگ‌ترین نگرانی شما در استفاده از یک سرویس مبتنی بر AI چیست؟ این سوالی است که پاسخ آن به صورت ماتریس طراحی شده و هر پاسخ به صورت همزمان میزان نگرانی کاربران را در حوزه خطا و تبعیض و همینطور نقض حریم خصوصی داده‌ها می‌سنجد.

۴۰ درصد از کارابران در ربع بالا-راست این ماتریس قرار دارند که نشان‌دهنده نگرانی بالای این افراد از هر دو موضوع مورد پرسش است. ۲۴ درصد از پاسخ‌ها در ربع بالا-چپ قرار دارند، این دسته از کاربران نگرانی بیشتری در حوزه نقض حریم خصوصی توسط هوش مصنوعی دارند. ۲۲ درصد از پاسخ‌ها در ربع پایین_راست قرار دارند که نشان‌دهنده نگرانی بیشتر این کاربران نسبت خطای الگوریتم‌های هوش مصنوعی است. ۱۴ درصد از پاسخ‌دهندگان نیز ربع پایین_چپ را برای پاسخ خود انتخاب کرده‌اند که محدوده در پایینی از نگرانی برای هردو موضوع است. مطالعه (IBM (2021 نشان می‌دهد که ۶۴ درصد از کاربران جهانی هر دو مورد را دغدغه جدی می‌دانستند.

آمار بالای ۴۰ درصد نگرانی نسبت به هر دو موضوع حفظ حریم خصوصی داده‌ها و خطا و تبعیض نشان‌دهنده اهمیت بالای هر دو مورد است. این در حالی است که موضوع خطا و تبعیض توسط الگوریتم‌ها کمتر مورد بحث و بررسی قرار گرفته. حتی زمانی که محصولی در حوزه فین‌تک ارائه می‌شود که تا حدودی از هوش مصنوعی بهره برده مانور بیشتر روی موضوع امنیت است.

تحلیل حاضر نشان می‌دهد که اگرچه کاربران ایرانی نسبت به هوش مصنوعی شناخت پایه‌ای دارند، اما پذیرش فعال آن منوط به سه شرط کلیدی است. قابلیت توضیح‌پذیری تصمیمات AI و درک‌پذیر بودن عملکرد الگوریتم‌ها، حق انتخاب و کنترل سطوح دسترسی به داده‌های شخصی و ایجاد ارزش ملموس و قابل اندازه‌گیری برای کاربر نهایی است. از این رو، طراحی هر محصول یا سیاست مبتنی بر هوش مصنوعی در ایران، بدون در نظر گرفتن این الگوهای رفتاری و شکاف‌های روانی، احتمالا شکست می‌خورد.

«چندین» راهکار توسن برای تجربه اشتراک دیدگاه‌هاست. پلتفرم نظرسنجی چندین، با تاکید بر مزایای جمع‌سپاری (Crowdsourcing)، دیدگاه‌های متنوع را در کنار هم قرار می‌دهد و با مخاطبان به اشتراک می‌گذارد.