بدافزار SpyAgent از روی اسکرینشات، رمز کیفپول را سرقت میکند
شرکت مکآفی یک بدافزار (SpyAgent) جدید اندرویدی را کشف کرده که میتواند با استفاده از…
۱۷ شهریور ۱۴۰۳
۲۴ خرداد ۱۴۰۳
زمان مطالعه : ۱۰ دقیقه
تاریخ بهروزرسانی: ۲۳ خرداد ۱۴۰۳
هوش مصنوعی قابل توضیح، نتایجی دارد که ارزیابی و درک مجموعه الگوریتم و فرآیندهای تولید آن برای کاربران تا حد بسیاری امکانپذیر است. این ویژگی هوش مصنوعی موجب میشود افراد و سازمانها برای بهکارگیری این فناوری رویکرد مسئولانهای اتخاذ کنند. هوش مصنوعی قابل توضیح خطرات انطابق و ملاحظات قانونی را کاهش میدهد و یکی از از الزامات کلیدی برای پیادهسازی هوش مصنوعی مسئول بهشمار میرود.
به گزارش پیوست، توضیحپذیری میتواند به توسعهدهندگان کمک کند تا مطمئن شوند که سیستم همانطور که انتظار میرود کار میکند. ممکن است لازم باشد استانداردهای نظارتی رعایت شود یا ممکن است در اجازه دادن به افرادی که تحت تاثیر یک تصمیم قرار میگیرند، آن نتیجه را به چالش بکشند یا تغییر دهند.
هوش مصنوعی قابل توضیح مجموعهای از فرآیندها و روشهایی است که به کاربران انسانی اجازه میدهد نتایج و خروجی ایجاد شده توسط الگوریتمهای یادگیری ماشین را درک کرده و به آن اعتماد کنند. هوش مصنوعی قابل توضیح برای توصیف یک مدل هوش مصنوعی، تاثیر مورد انتظار و سوگیریهای بالقوه آن استفاده میشود.
این به توصیف دقت، انصاف، شفافیت و نتایج مدل در تصمیم گیری مبتنی بر هوش مصنوعی کمک میکند. هوش مصنوعی قابل توضیح برای یک سازمان در ایجاد اعتماد و اطمینان در هنگام تولید مدلهای هوش مصنوعی بسیار مهم است.
توضیحپذیری هوش مصنوعی همچنین به سازمان کمک میکند تا رویکردی مسئولانه برای توسعه هوش مصنوعی اتخاذ کند. همانطور که هوش مصنوعی پیشرفتهتر میشود، انسانها برای درک و ردیابی نحوه به نتیجه رسیدن الگوریتم با چالش رو به رو میشوند.
کل فرآیند محاسبات به عنوانی تبدیل میشود که معمولا به آن "جعبه سیاه" میگویند که تفسیر آن غیرممکن است. این مدلهای جعبه سیاه به صورت مستقیم از دادهها ایجاد میشود. حتی مهندسان یا دانشمندان دادهای که الگوریتم را ایجاد میکنند نمیتوانند درک کنندکه دقیقا در داخل آنها چه اتفاقی میافتد یا چگونه الگوریتم هوش مصنوعی به یک نتیجه خاص رسیده است.
درک اینکه چگونه یک سیستم مجهز به هوش مصنوعی به یک خروجی خاص منجر شده است، مزایای زیادی دارد. توضیحپذیری میتواند به توسعهدهندگان کمک کند تا مطمئن شوند که سیستم همانطور که انتظار میرود کار میکند. ممکن است لازم باشد استانداردهای نظارتی رعایت شود یا ممکن است در اجازه دادن به افرادی که تحت تاثیر یک تصمیم قرار میگیرند، آن نتیجه را به چالش بکشند یا تغییر دهند.
برای یک سازمان بسیار مهم است که درک کاملی از فرآیندهای تصمیم گیری هوش مصنوعی با نظارت
مدل و پاسخگویی این فناوری داشته باشند و کورکورانه به آنها اعتماد نکنند. هوش مصنوعی قابل
توضیح میتواند به انسانها در درک و توضیح یادگیری ماشین(ML) و یادگیری عمیق وشبکههای عصبی کمک کند.
مدلهای ML اغلب به عنوان جعبههای سیاهی در نظر گرفته میشود که تفسیر آنها غیرممکن است.
شبکههای عصبی مورد استفاده در یادگیری عمیق از سختترین شبکههایی است که برای انسان قابل
درک است. تعصب اغلب بر اساس نژاد، جنسیت، سن یا مکان، یک خطر همیشگی در آموزش
مدلهای هوش مصنوعی بوده است.
علاوهبر این، عملکرد مدل هوش مصنوعی میتواند تغییر کند یا کاهش یابد زیرا دادههای تولید با دادههای آموزشی متفاوت است.
علاوهبر این، عملکرد مدل هوش مصنوعی میتواند تغییر کند یا کاهش یابد زیرا دادههای تولید با دادههای آموزشی متفاوت است.
این امر نظارت و مدیریت مداوم مدلها را برای ارتقا قابلیت توضیح هوش مصنوعی و در عین حال اندازهگیری تاثیر تجاری استفاده از چنین الگوریتمهایی برای یک کسبوکار ضروری میکند.
هوش مصنوعی قابل توضیح همچنین به ارتقا اعتماد کاربر نهایی، قابلیت ممیزی مدل و استفاده سازنده از هوش مصنوعی کمک میکند.
همچنین خطرات انطباق، قانونی، امنیتی و شهرت هوش مصنوعی تولید را کاهش میدهد. هوش مصنوعی قابل توضیح یکی از الزامات کلیدی برای پیادهسازی هوش مصنوعی مسئول است.
اشخاص و سازمانهای فعال و مسئول در این زمینه باید روشهایی برای اجرای گسترده هوش مصنوعی باانصاف، توضیحپذیری مدل و مسئولیتپذیری این فناوری ارائه دهند .برای کمک به اتخاذ شیوه عملکرد مسئولانه هوش مصنوعی، سازمانها باید اصول اخلاقی را در هوش مصنوعی تعبیه کنند. به دنبال این اتفاق برنامه ها و فرآیندها با ساخت سیستمهای هوش مصنوعی مبتنی بر اعتماد و شفافیت برقرار میشود.
با هوش مصنوعی قابل توضیح و همچنین یادگیری ماشینی قابل تفسیر سازمانها میتوانند به تصمیمگیری اساسی فناوری هوش مصنوعی دسترسی پیدا کنند و این اختیار را دارند که تنظیمات را انجام دهند. هوش مصنوعی قابل توضیح میتواند به تجربه کاربر یک محصول یا خدمات با وجود مشابهت با کاربر فعلی اتکا کرده و طبق همین تجربه تصمیمهای موثر و درستی اتخاذ کند.
همانطور که هوش مصنوعی پیشرفتهتر میشود، فرآیندهای ML هنوز باید درک و کنترل شوند تا اطمینان حاصل شود که نتایج مدل هوش مصنوعی دقیق است. بیایید به تفاوت بین هوش مصنوعی و XAI،
روشها و تکنیکهای مورد استفاده برای تبدیل هوش مصنوعی به XAI و تفاوت بین تفسیر و توضیح فرآیندهای هوش مصنوعی نگاهی کنیم.
XAI تکنیکها و روشهای خاصی را پیادهسازی میکند تا اطمینان حاصل کند که هر تصمیم گرفته شده در طول فرآیند ML قابل ردیابی و توضیح است.
از سوی دیگر، هوش مصنوعی اغلب با استفاده از الگوریتم ML به یک نتیجه میرسد، اما معماران سیستمهای هوش مصنوعی به طور کامل درک نمیکنند که چگونه الگوریتم به آن نتیجه رسیده است. این امر بررسی صحت را دشوار میکند و منجر به از دست دادن کنترل، پاسخگویی و حسابرسی میشود.
راهاندازی تکنیکهای XAI از سه روش اصلی تشکیل شده است. دقت، پیشبینی و قابلیت ردیابی نیازهای فناوری را برطرف میکند در حالی که درک تصمیمگیری به نیازهای انسان میپردازد. اگر کاربران آینده بخواهند نسل نوظهوری از شرکای ماشینی هوشمند مصنوعی را درک کنند به طور جدی اعتماد کنند و به طور موثر مدیریت کنند، هوش مصنوعی قابل توضیح به ویژه یادگیری ماشینی قابل توضیح ضروری خواهد بود.
پیشبینی دقت یک مؤلفه کلیدی در میزان موفقیت استفاده از هوش مصنوعی در عملکرد روزمره است. با اجرای شبیهسازیها و مقایسه خروجی XAI با نتایج موجود در مجموعه دادههای آموزشی، میتوان دقت پیشبینی را تعیین کرد. محبوبترین تکنیکی که برای این کار استفاده میشود، تبیینهای مدل تفسیرپذیر محلی (LIME) است که پیشبینی طبقهبندیکنندهها را توسط الگوریتم ML توضیح میدهد.
قابلیت ردیابی یکی دیگر از تکنیکهای کلیدی در فرآیند XAI است. به عنوان مثال، این امر با محدود
کردن روش تصمیمگیری و تنظیم یک محدوده محدودتر برای قوانین و ویژگیهای ML بهدست میآید.
نمونهای از تکنیک XAI قابل ردیابی DeepLIFT (ویژگیهای مهم یادگیری عمیق) است که فعالسازی
هر نورون را با نورون مرجع خود مقایسه میکند و یک پیوند قابل ردیابی را بین هر نورون فعال نشان
میدهد و حتی وابستگی بین آنها را نیز نشان میدهد.
درک تصمیم هوش مصنوعی توسط عامل انسانی امکانپذیر است. بسیاری از مردم نسبت به هوش مصنوعی بیاعتماد هستند، اما برای برقراری ارتباط موثر با آن، اعتماد به این فناوری لازم است. این کار حتی نیازمند آموزش دادن تیم و افراد متخصص در این حوزه است تا بدانند هوش مصنوعی چگونه تصمیم میگیرند و چرایی تصمیمات این فناوری چیست.
توضیح پذیری در مقابل تفسیرپذیری در هوش مصنوعی درجهای است که ناظر میتواند علت یک تصمیم را درک کند. این میزان، موفقیتی است که انسانها میتوانند برای نتیجه یک خروجی هوش مصنوعی پیشبینی کنند، در حالی که توضیحپذیری یک گام فراتر میرود و به چگونگی رسیدن هوش مصنوعی به نتیجه میپردازد.
هوش مصنوعی قابل توضیح و هوش مصنوعی مسئول اهداف مشابه و در عین حال رویکردهای متفاوتی
دارد. در اینجا تفاوتهای اصلی بین هوش مصنوعی قابل توضیح و مسئولیتپذیر وجود دارد:
با هوش مصنوعی قابل توضیح، یک کسبوکار میتواند عیبیابی کند و عملکرد مدل را بهبود بخشد
و در عین حال به ذینفعان کمک کند تا رفتارهای مدلهای هوش مصنوعی را درک کنند. بررسی رفتارهای مدل از طریق ردیابی بینش مدل در مورد وضعیت استقرار، عدالت، کیفیت و رانش برای مقیاسبندی هوش مصنوعی ضروری است.
ارزیابی مدل مستمر به یک کسب و کار قدرت میدهد تا پیشبینیهای مدل را مقایسه، ریسک مدل
را کمی و عملکرد مدل را بهینه کند. نمایش مقادیر مثبت و منفی در رفتارهای مدل با دادههای مورد استفاده برای ارائه توضیح و ارزیابی مدل را سرعت میبخشد.
پلتفرم داده و هوش مصنوعی میتواند ویژگیهایی را برای پیشبینیهای مدل ایجاد کند و تیمها را برای بررسی بصری رفتار مدل با نمودارهای تعاملی و اسناد قابل صادرات توانمند کند.
هوش مصنوعی را با اعتماد و اطمینان عملیاتی کنید. با اعتماد به این فناوری، مدلهای هوش مصنوعی خود را به سرعت تولید کنید. از قابلیت تفسیر و توضیح مدلهای هوش مصنوعی اطمینان حاصل کنید. فرآیند ارزیابی مدل را ساده کنید و در عین حال شفافیت و قابلیت ردیابی مدل را افزایش دهید.
به طور سیستماتیک مدلها را برای بهینهسازی نتایج کسبوکار نظارت و مدیریت کنید. به طور مداوم عملکرد مدل را ارزیابی و بهبود دهید. تلاشهای توسعه مدل را بر اساس ارزیابی مستمر تنظیم کنید.
مدلهای هوش مصنوعی خود را قابل توضیح و شفاف نگه دارید. الزامات نظارتی، انطباق، ریسک و
سایر الزامات را مدیریت کنید. هزینههای بازرسی دستی و خطاهای پرهزینه را به حداقل برسانید و خطر
سوگیری ناخواسته را کاهش دهید.
برای رسیدن به نتایج مطلوب با هوش مصنوعی قابل توضیح، موارد زیر را در نظر بگیرید.