اینها از بزرگ‌ترین پرسش‌هایی هستند که رهبران هنگام تلاش برای پیاده‌سازی و حاکمیت مسئولانه هوش مصنوعی با آن مواجه‌اند. افراد به‌درستی می‌خواهند کارهای خود را کارآمدتر کنند و هوش مصنوعی این امکان را فراهم می‌کند. اما در جهانی که سیستم‌های داده‌ای به‌طور فزاینده‌ای به هم متصل می‌شوند، سازمان‌ها باید اطمینان حاصل کنند که داده‌های حساس امن باقی می‌مانند و یافتن تعادل میان کاهش ریسک و تسهیل نوآوری یک چالش مداوم است.

اعتماد در هوش مصنوعی و نقش ارائه‌دهنده قابل‌اعتماد

تیم‌ها بدون تأیید رسمی از هوش مصنوعی استفاده می‌کنند و مکالمات حساس مشتریان، داده‌های مالی یا اطلاعات بیماران را از سیستم‌های امن کپی می‌کنند تا سریع‌تر کار کنند. فناوری به‌قدری مفید است که نمی‌توان آن را نادیده گرفت، حتی با وجود خطر نشت داده‌ها، جریمه‌ها یا دعاوی قانونی. این چالش نیازمند رعایت امنیت، حریم خصوصی و شفافیت کامل در تمامی اقدامات است. فروشندگان باید همان استانداردهای امنیت و شفافیت را رعایت کنند که مشتریان انتظار دارند و راهکارها برای اعتمادپذیری هوش مصنوعی و محافظت از داده‌ها طراحی و اجرا می‌شوند.

تقاطع فشار پذیرش هوش مصنوعی و حاکمیت ناکافی

در صنایع تحت مقررات مانند بهداشت و درمان و خدمات مالی، استفاده از هوش مصنوعی بدون حاکمیت می‌تواند ریسک عظیمی ایجاد کند، به‌ویژه برای حریم خصوصی داده‌ها. اطلاعات سلامت محافظت‌شده و اطلاعات کارت پرداخت در صورت سوءمدیریت، پیامدهای مالی و قانونی شدیدی دارند. سازمان‌ها در وضعیتی قرار دارند که فشار برای پذیرش هوش مصنوعی با فقدان حاکمیت کافی برخورد می‌کند.

آمار وضعیت نگران‌کننده‌ای را نشان می‌دهد. در نظرسنجی AI Pulse شرکت Forrester، اعتماد به سیستم‌های هوش مصنوعی یکی از بزرگ‌ترین موانع پذیرش هوش مصنوعی مولد با ۲۹ درصد ذکر شد. هم‌زمان، گزارش دیگری از Forrester نشان داد که ۴۳ درصد خریداران B2B اعتراف کردند که بیش از ۷۰ درصد اوقات تصمیم‌های دفاعی می‌گیرند و «امن‌ترین گزینه را نسبت به سایر گزینه‌ها انتخاب می‌کنند».

این نوآوری نیست؛ این تصمیم‌گیری مبتنی بر ترس است.

سازمان‌ها دیگر نمی‌توانند به عنوان استفاده‌کنندگان دیرهنگام عمل کنند. مزیت رقابتی هوش مصنوعی بسیار چشمگیر است و پنجره فرصت برای تثبیت موقعیت در بازار به سرعت در حال بسته شدن است. با این حال، آن‌ها نمی‌توانند بدون تدابیر حفاظتی مناسب شتاب‌زده پیش بروند.

خوشبختانه، حاکمیت هوش مصنوعی و نوآوری سریع لزوماً در تضاد با هم نیستند. بررسی Forbes Business Trust نشان داده است که مشتریانی که به یک شرکت اعتماد دارند، دو برابر بیشتر احتمال دارد آن را توصیه کنند. این بدان معناست که اگر هوش مصنوعی به‌درستی پیاده‌سازی شود، اعتماد نه یک مانع، بلکه یک محرک کلیدی برای موفقیت استراتژی هوش مصنوعی خواهد بود.

چارچوب‌های حاکمیتی که زمینه را درک می‌کنند

همه به ضرورت حاکمیت هوش مصنوعی واقف هستند، اما بسیاری از رهبران در حال تلاش برای پذیرش AI هنوز در حال یادگیری نحوه پیاده‌سازی مؤثر آن هستند. همزمان، مقررات به‌طور مداوم در حال تغییرند و سازمان‌ها با چالش حفظ تعادل میان نوآوری و رعایت الزامات قانونی مواجه‌اند.

برای اینکه شرکت‌ها به سیستم‌های هوش مصنوعی اعتماد کنند، این سیستم‌ها باید ویژگی‌های زیر را داشته باشند:

شفاف: مسیر تصمیم‌گیری‌ها از نتایج تا داده‌های منبع قابل ردیابی باشد و اطلاعات روشنی از استفاده مدل و نحوه حفاظت از داده‌ها ارائه شود.
قابل حاکمیت: استفاده مسئولانه از AI تضمین شود و در عین حال داده‌ها به‌طور جدی ایزوله شوند تا بینش‌های قدرتمند ارائه گردد.
امن: بالاترین الزامات امنیتی سازمان‌ها را رعایت کند و گواهینامه‌های استاندارد صنعتی را داشته باشد.
حریم خصوصی محور از طراحی: نحوه محافظت از داده‌ها روشن باشد و ابزارهایی برای رعایت مقررات جهانی مانند GDPR، CCPA و قانون AI اتحادیه اروپا ارائه شود.
قابل پیکربندی: مطابق با تحمل ریسک سازمان، کنترل‌های دقیق امنیت و حریم خصوصی ارائه کند.

نکته هیجان‌انگیز این است که فناوری لازم برای حل این چالش هم‌اکنون وجود دارد. از طریق هوش مصنوعی زمینه‌محور، می‌توان اطلاعات حساس را شناسایی و به شیوه‌ای مناسب مدیریت کرد، چه با حذف، بازنویسی یا بازفرمت‌سازی داده‌ها به گونه‌ای که ارزش تحلیلی حفظ و حساسیت از بین برود.

در طول زمان، داده‌های حساس باعث محرومیت فناوری شده‌اند و افرادی که بیشترین بهره را از قابلیت‌های پیشرفته AI می‌بردند، به دلیل الزامات محافظت از داده محدود شده‌اند. اما با امکان ارائه همزمان قابلیت بالا و حفاظت کامل از داده‌ها، شرایط تغییر می‌کند.

ارائه‌دهندگان خدمات بهداشتی می‌توانند اطلاعات پزشکی شخصی را به شکلی بازنویسی کنند که ارزش تحلیلی حفظ شود و جزئیات شناسایی حذف شود، و بدین ترتیب بینش‌هایی برای بهبود نتایج بیماران به‌دست آورند.
مؤسسات مالی می‌توانند ریسک‌ها را سریع‌تر شناسایی کرده و امکان جریمه‌ها را کاهش دهند، در حالی که فرصت رشد بیشتری نیز برای خود ایجاد می‌کنند. سازمان‌های دولتی می‌توانند خدمات به شهروندان را کارآمدتر ارائه دهند، بدون اینکه داده‌های امانت‌داری شده را به خطر بیندازند.

ساخت هوش مصنوعی قابل اعتماد

اعتماد به هوش مصنوعی با حرف و ادعا ایجاد نمی‌شود و باید در عمل ثابت شود. حفاظت از اطلاعات حساس باید شفاف و قابل بررسی باشد؛ یعنی روشن باشد چه روش‌هایی برای جلوگیری از دسترسی غیرمجاز به کار می‌رود و این روش‌ها واقعاً اجرا می‌شوند. همچنین سیستم باید نشان دهد که می‌تواند اطلاعات را به‌صورت هوشمند و متناسب با موضوع بازنویسی یا پنهان کند. انتشار آمارهایی مانند میزان خطا نیز کمک می‌کند دیگران بتوانند عملکرد آن را ارزیابی کنند تا اعتماد بر اساس شواهد و نتایج قابل اندازه‌گیری شکل بگیرد.

در چارچوب شفافیت و حاکمیت، مسئولیت ارائه‌دهندگان هوش مصنوعی ایجاب می‌کند که اعتماد از مراحل اولیه طراحی در معماری سیستم‌ها نهادینه شود. پلتفرم‌های هوش مصنوعی قابل اعتماد باید به قابلیت‌های حفاظت خودکار و هوشمند مجهز باشند؛ از جمله بازنویسی داده‌های حساس مانند اطلاعات سلامت محافظت‌شده (PHI) که بر پایه استانداردهای انطباقی نظیر PCI DSS و سیاست‌های بازنویسی سفارشی توسعه یافته‌اند. این قابلیت‌ها به سازمان‌ها امکان می‌دهند بدون افزایش ریسک‌های حریم خصوصی، از بینش‌های هوش مصنوعی در تیم‌ها و جریان‌های کاری استفاده کنند.

نتیجه‌گیری

حاکمیت داده مانعی در برابر نوآوری نیست، بلکه پیش‌نیاز پذیرش گسترده و استفاده ایمن از هوش مصنوعی به شمار می‌آید. چارچوب‌های حاکمیتی مدرن تنها به انطباق محدود نمی‌شوند؛ این سیستم‌ها با درک زمینه، حفاظت هوشمند از داده‌های حساس و حفظ توان تحلیلی، امکان خلق ارزش واقعی از هوش مصنوعی را فراهم می‌کنند.

هوش مصنوعی قابل اعتماد بر پایه همین اصول شکل می‌گیرد و به گونه‌ای عمل می‌کند که از افراد محافظت می‌کند، ارزش پایدار ایجاد می‌کند و سازمان‌ها را توانمند می‌سازد. چنین سیستم‌هایی به‌جای آنکه مانع باشند، نقش تسهیل‌گر ایفا می‌کنند و نوآوری را در برابر مسئولیت قرار نمی‌دهند، بلکه این دو را در یک مسیر هماهنگ پیش می‌برند.

تحول هوش مصنوعی دیگر مربوط به آینده نیست و همین حالا در حال رخ دادن است. مسئله اصلی این نیست که سازمان‌ها هوش مصنوعی را بپذیرند یا نه، بلکه این است که چگونه آن را به شکل مسئولانه به کار بگیرند. نقطه شروع این مسیر فقط این نیست که بپرسیم هوش مصنوعی چه کاربردی برای سازمان دارد، بلکه باید دوباره فکر کنیم اگر یک سازمان با حاکمیت درست و به‌طور کامل از هوش مصنوعی استفاده کند، تا چه اندازه می‌تواند توانمندتر شود.