skip to Main Content
تلویزیون‌های بزرگ سامسونگ

محتوای اختصاصی کاربران ویژهورود به سایت

فراموشی رمز عبور

با شبکه های اجتماعی وارد شوید

عضو نیستید؟ عضو شوید

ثبت نام سایت

با شبکه های اجتماعی وارد شوید

عضو نیستید؟ وارد شوید

فراموشی رمز عبور

وارد شوید یا عضو شوید

جشنواره نوروزی آنر

اخبار

علی بغدادیکارشناس عملیات راهکارهای تحلیلی داتین

هوش مصنوعی تا چه میزان قابل اعتماد است؟

علی بغدادیکارشناس عملیات راهکارهای تحلیلی داتین

۱۰ خرداد ۱۳۹۹

زمان مطالعه : ۶ دقیقه

برای بوکمارک این نوشته

در طول سال‌­های دهه ۸۰ و ۹۰ میلادی، هوش مصنوعی (AI) مفهومی بود که در بسیاری از فیلم­‌های علمی تخیلی به نمایش درمی‌آمد. روشی که اغلب برای القا وحشت و به تصویر کشیدن دیستوپیا یا شهر و جامعه‌­ایی که در آن شرایط زندگی بسیار بد است، به نمایش در آمده است. پیشرفت سریع و رو به جلو در عصر حاضر باعث شده است تا پی ببریم در عصری زندگی می­‌کنیم که به‌وسیله داده تعریف می‌شود؛ عصری که هوش مصنوعی نقش مهمی در بسیاری از بخش­‌های آن ایفا می‌­کند. این تکامل به لطف توانایی ما برای ذخیره‌سازی موثر، سازماندهی و تجزیه و تحلیل داده‌­ها به وجود آمده و بیشتر توسط اینترنت اشیا (IoT) تکمیل شده است، اینترنت اشیا، داده‌­ها و اطلاعات بیشتری در مورد زندگی روزمره ما فراهم می‌­کند. اساساً در دسترس بودن داده‌­ها و توانایی ما برای استفاده از آن با محاسبات پیشرفته‌­تر و ارزان‌تر، نوع زندگی و تجارت را تغییر داده است.

اکثر افراد به این درک رسیده‌اند و تشخیص می‌دهند که هوش مصنوعی می­‌تواند دنیای غنی داده‌­ها را به‌طور فزاینده‌­ای در دسترس عموم قرار دهد. با وجود این، نیازهای جدیدی در حال ظهور است؛ زیرا مصرف‌کنندگان سوال می­‌کنند که هوش مصنوعی اکنون به چه میزان قابل اعتماد است؟ نیاز به هوش مصنوعی قابل توضیح است.

چگونه مردم می‌­توانند به تصمیمات اتخاذ شده توسط سیستم‌­های هوش مصنوعی اعتماد کنند؟ اگر فرایندی را که زیربنای هوش مصنوعی است درک نکنند و نتوانند به داده‌­های هوش مصنوعی دسترسی پیدا کنند آیا باز هم به هوش مصنوعی اعتماد می‌کنند؟

اگر هوش مصنوعی و فرایندها و داده‌های تحلیل شده آن شفاف نباشد، آیا واقعاً می­توانیم اطمینان حاصل کنیم که این تصمیمات دقیق و درست بوده است؟ این یک سؤال مهم است که نیاز به پاسخ دارد و این مسئله‌ای است که فناوری XAI می‌تواند به شما در رسیدن به جواب کمک کند.

اخیراً شاهد بودیم که برخی از شرکت‌­های پیش‌رو در فناوری هوش مصنوعی متهم به استفاده بیش از حد و تکیه بر داده‌های هوش مصنوعی و تصمیم‌گیری اشتباه شده‌اند. شاید بهترین راه شرح این موضوع در رابطه با برخی از کارت­‌های اعتباری روشن شود، جایی که گفته می‌­شد هوش مصنوعی، ۱۰ تا ۲۰ برابر رتبه اعتباری بالاتری به آقایان نسبت به همسران آنها داده‌ است.

کمیسیون مالی و خدمات ایالت نیویورک در نتیجه این اشتباه تحقیقاتی بر آن شد تا بررسی کند چرا هوش مصنوعی میان زنان و مردان تبعیض قائل شده و رتبه اعتباری بیشتری به آقایان نسبت به خانم‌ها داده است. خارج از صنعت مالی، سایر بازیگران اصلی نیز به دلیل استفاده از سیستم­‌های هوش مصنوعی مورد بازبینی و تحقیق قرار گرفته‌­اند.

اگر این واقعیت را در نظر بگیریم که امروزه اکثر شرکت­‌ها با سیستم­‌های هوش مصنوعی «بلک باکس یا سیستم بسته» کار می‌کنند، جای تعجب نیست که بسیاری از مصرف‌کنندگان به هوش مصنوعی هنوز هم اعتماد ندارند و این شک بیش از قبل قابل توجیه است. سیستم­‌های هوش مصنوعی بر داده­‌ها متکی هستند و با استفاده از یادگیری ماشینی، اطلاعات را تحلیل می‌کنند. بنابراین اگر داده‌های اشتباه را تحلیل کنند احتمالاً تصمیم‌گیری اشتباهی خواهند کرد.

این سیستم­‌های بسته هوش مصنوعی (بلک باکس)  مشتری نهایی را در تاریکی رها می‌­کنند و هیچ کاری برای جلب اعتماد به این فناوری انجام نمی‌­دهند. اکثر شرکت‌­ها معمولاً خیلی دیر متوجه می‌شوند که هوش مصنوعی آنها با تحلیل داده‌های نادرست به آنها در تصمیم‌گیری‌های اشتباه کمک کرده است.

راه‌حل همه این موارد «جعبه سفید یا سیستم هوش مصنوعی باز» است که به اختصار سیستم­‌های XAI  نامیده می‌شود. این سیستم به زبان ساده توضیح می­‌دهد که نرم‌­افزار چطور کار می‌­کند و چگونه تصمیماتی می‌گیرد و البته قادر است به سؤالات و پیگیری‌هایی با هدف به حداکثر رساندن آگاهی و رضایت مشتری پاسخ دهند.

شفافیت برای ایجاد اعتماد بسیار حائز اهمیت است و با توضیح اینکه چگونگی و چرایی تصمیمات خاص اتخاذ شده است، XAI می‌تواند هم به مشتریان و هم به شرکت‌ها کمک کند تا منجر به درک نیاز آنها شود و نتیجه متفاوت و سودمندی بگیرند. در عمل، این رویه می‌تواند به معنای تغییر در نتایج درخواست وام یا وام مسکن رد شده به وام مورد پذیرش باشد.

XAI سناریوهای برد- برد را هم برای شرکت و هم مشتری ایجاد می‌کند. از یک طرف، مشتری می­‌تواند از بینش‌­های ارائه شده توسط فناوری XAI برای بهبود وضعیت خود استفاده کند، در حالی که شرکت می­تواند از اطلاعات اضافی مشتری بهره ببرد تا محصولات یا خدماتی را که برای مشتری خاصی مناسب‌­تر است پیشنهاد دهد یا حتی خطوط کاملاً جدید تجاری را راه‌اندازی کند.

علاوه بر شفافیت افزوده، مدل­‌های XAI محورهای دیگری هم دارند. XAI  می­‌تواند با استفاده از کمک انسانی به راحتی تجزیه و تحلیل و تقویت خود را بهبود بخشد و به سیستمی عادلان‌ه­تر و ایمن‌­تر تبدیل شود؛ زیرا نواقص با گذشت زمان می­‌تواند به تدریج برطرف شود. سیستم عامل­های XAI منحصر به فرد هستند و تنها به داده‌­ها متکی نیستند بلکه توسط تجربه انسانی بهتر و قابل اعتمادتر می­‌شوند.

در صنعت بانکداری، پتانسیلی که XAI برای بهبود تجربه مشتری دارد، بسیار زیاد است. در حال حاضر تصمیمات مهم در مورد ریسک اعتباری ، مدیریت ثروت و حتی ارزیابی ریسک جرم مالی توسط هوش مصنوعی می‌تواند انجام شود. از دیگر کاربردهای مهم هوش مصنوعی می‌­توان به قیمت‌گذاری هوشمند، توصیه محصول، خدمات سرمایه‌گذاری و جمع‌­آوری بدهی اشاره کرد.

از منظر مقررات و الزامات قانونی بانکداری آزاد، اطلاعات زیادی برای به دست آوردن از مشتریان و صاحبان کسب‌وکار وجود دارد، نیاز برای ارائه چارچوبی مشخص حس می‌شود که در آن می­‌توان مقادیر زیادی از داده‌های به اشتراک گذاشته و برای ارائه راه‌حل‌های مشتری‌محور مورد استفاده قرار گیرد. در نتیجه، ما باید در آینده در انتظار مقررات سخت­گیرانه­‌تری باشیم که متکی به اطمینان از الگوریتم‌­های هوش مصنوعی باشند، باید مطمئن شویم که هوش مصنوعی یک‌جانبه عمل نمی­‌کند و تا حد امکان شفاف باقی می­‌ماند.

با نگاه به آینده می‌­توان انتظار داشت که XAI رشد کند. نه تنها به خاطر اینکه سفر کاربر را شخصی‌سازی می‌کند و انتظار مشتریان بانک‌ها را برآورده می­‌کند، بلکه به این دلیل که دید و اشراف بهتری به اطلاعات مهمی که برای جلب اعتماد مصرف­‌کنندگان و تنظیم کننده‌­ها لازم است را داراست. خلاصه اینکه، وضعیت XAI دیگر «داشتن آن خوب است» نیست، بلکه «باید آن را داشت» است.

منبع: تمنوس

برای بوکمارک این نوشته

http://pvst.ir/81q

ارسال دیدگاه

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

*

Back To Top
×Close search
جستجو