مرکز پژوهش‌های مجلس: مسئولیت‌پذیری نهادها از پیش‌شرط‌های توسعه هوش مصنوعی است

به گزارش پیوست، مرکز پژوهش‌های مجلس در گزارشی به بررسی مساله عاملیت و مسئولیت‌پذیری در فناوری‌های هوش مصنوعی پرداخته و با اشاره به دشواری انتساب پیامدهای این فناوری به افراد یا نهادهای مشخص، بر ضرورت حفظ مسئولیت انسانی در فرایند توسعه و استفاده از هوش مصنوعی تاکید کرده است.

در بخشی از این گزارش مرکز پژوهش‌ها آورده است که مساله عاملیت اخلاقی و مسئولیت‌پذیری هوش مصنوعی که با عنوان «شکاف مسئولیت‌پذیری» شناخته می‌شود، در دو دهه اخیر توجه پژوهشگران حوزه فناوری را به خود جلب کرده است. اهمیت این مساله هم به ابعاد اخلاقی و هم به پیامدهای حقوقی استفاده از هوش مصنوعی مربوط است. تعامل انسان‌ها با جهان از طریق شبکه‌هایی متشکل از عوامل انسانی و سامانه‌های هوش مصنوعی، پرسش‌هایی درباره نحوه توزیع وظایف اخلاقی و مسئولیت افراد در عصر فناوری‌های هوشمند و یادگیرنده ایجاد می‌کند.

با وجود اهمیت این مساله، مرکز پژوهش‌ها تاکید کرده دستیابی به راه‌حلی روشن برای این مساله ساده نیست. مفهوم مسئولیت اخلاقی و شرایط لازم برای تحقق آن از موضوعات مورد اختلاف میان فیلسوفان و اندیشمندان است. هنگامی که این مفاهیم درباره مصنوعات و فناوری‌های هوش مصنوعی مطرح می‌شوند، پیچیدگی بیشتری پیدا می‌کنند. پاسخ پژوهشگران به این مساله به تعریفی که از مسئولیت‌پذیری ارائه می‌دهند، ویژگی‌هایی که برای هوش مصنوعی قائل‌اند و امکان برخورداری این فناوری از چنین ویژگی‌هایی بستگی دارد. به همین دلیل، درباره امکان یا عدم امکان انتساب مسئولیت به هوش مصنوعی دیدگاه‌های متفاوتی وجود دارد.

آینده‌نگری نسبت به مسئولیت‌پذیری

گزارش مرکز پژوهش‌های مجلس برای مواجهه با این اختلاف‌نظرها، رویکردی آینده‌نگر به مسئولیت‌پذیری را مطرح می‌کند. در رویکرد گذشته‌نگر، مساله اصلی شناسایی عامل مسئول پس از وقوع یک پیامد است. اما رویکرد آینده‌نگر بر طراحی سازوکارهایی تمرکز دارد که از ابتدا امکان نظارت و کنترل انسانی را در فرایند توسعه و استفاده از هوش مصنوعی حفظ کنند.

در این چارچوب به‌جای تمرکز بر مناقشه نظری درباره عاملیت اخلاقی هوش مصنوعی، بر تمهیداتی تاکید می‌شود که شفافیت، توضیح‌پذیری، امکان پیگیری تصمیم‌ها، کنترل انسانی و پاسخگویی را تضمین کنند. هدف آن است که حتی در سامانه‌های پیچیده و متشکل از تعامل انسان و هوش مصنوعی، امکان شناسایی مسئولیت‌ها از بین نرود و پیامدهای نامطلوب به عملکرد خودکار سامانه نسبت داده نشوند، بی‌آنکه نقش عوامل انسانی نادیده گرفته شود.

نمونه‌ای برای حفظ مسئولیت انسانی: قانون هوش مصنوعی اتحادیه اروپا

قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) نمونه‌ای از رویکرد حقوقی به پیشگیری از شکاف مسئولیت‌پذیری است. ایده تدوین قانونی جامع برای تنظیم‌گری هوش مصنوعی در اتحادیه اروپا از حدود سال ۲۰۱۸ و همزمان با انتشار اسناد راهبردی کمیسیون اروپا درباره هوش مصنوعی قابل اعتماد شکل گرفت. کمیسیون اروپا در سال ۲۰۲۱ پیش‌نویس رسمی این قانون را ارائه کرد و پس از چند سال مذاکره میان کمیسیون، پارلمان و شورای اتحادیه اروپا، قانون در سال ۲۰۲۴ به تصویب نهایی رسید.

یکی از ویژگی‌های اصلی این قانون، طبقه‌بندی سامانه‌های هوش مصنوعی بر اساس میزان خطر آنها برای ایمنی، حقوق بنیادین و منافع عمومی است. در این چارچوب، سامانه‌های پرمخاطره که در حوزه‌هایی مانند سلامت، آموزش، قضاوت، استخدام و خدمات عمومی به کار می‌روند، مشمول الزامات سخت‌گیرانه‌تری هستند. شفافیت، مستندسازی، ثبت تصمیم‌ها، امکان نظارت انسانی و مشخص‌بودن مسئولیت بازیگران انسانی از جمله الزامات مطرح‌شده برای این سامانه‌ها است.

این قانون به‌جای اتکا به انتساب مسئولیت به خود هوش مصنوعی، بر حفظ مسئولیت انسانی در مراحل طراحی، استقرار و بهره‌برداری از سامانه‌ها تاکید می‌کند. قابلیت رهگیری تصمیم‌ها و شفاف‌بودن نقش بازیگران نیز امکان پاسخگویی حقوقی و اخلاقی در صورت بروز آسیب را حفظ می‌کند و مانع انتقال از آن می‌شود که مسئولیت به‌طور ضمنی به سامانه‌های خودکار منتقل شود.

رویکرد مرحله‌بندی‌شده قانون هوش مصنوعی اتحادیه اروپا همچنین می‌کوشد الزامات نظارتی را متناسب با سطح خطر تنظیم کند. گزارش مرکز پژوهش‌های مجلس این تجربه را از جمله نمونه‌هایی می‌داند که می‌تواند در طراحی راهکارهای بومی برای توسعه مسئولانه هوش مصنوعی استفاده شود.

ایران در ابتدای مسیر حکمرانی هوش مصنوعی

بر اساس ارزیابی گزارش، ایران در مقایسه با روند جهانی و کشورهای منطقه، هنوز در مراحل اولیه توسعه فناوری‌های هوش مصنوعی قرار دارد. هرچند عملکرد پژوهشگران ایرانی در تولید و انتشار دانش این حوزه قابل قبول ارزیابی شده، فعالیت‌های ملی، کسب‌وکارهای کارآفرینانه، توسعه بازار و مشروعیت‌بخشی به این فناوری همچنان در مراحل ابتدایی قرار دارند.

در این شرایط، ضعف در تامین و حکمرانی داده و نبود زیرساخت‌های لازم برای مدیریت یکپارچه می‌تواند زمینه‌ساز بروز شکاف مسئولیت‌پذیری شود. با این حال قرارداشتن در مراحل اولیه توسعه هوش مصنوعی، از دیدگاه گزارش فرصت هم است. چراکه هنوز امکان طراحی زیرساخت‌ها، تدوین قوانین و تنظیم سیاست‌ها، به‌گونه‌ای که اصول توسعه مسئولانه از ابتدا در آنها لحاظ شود، وجود دارد.

از آنجا که پیشگیری از شکاف مسئولیت‌پذیری به اقداماتی در سطوح مختلف حاکمیتی، سازمانی و کسب‌وکار نیاز دارد، سازمان ملی هوش مصنوعی به‌عنوان محور تخصصی توسعه این فناوری در کشور باید در طراحی و اجرای سازوکارهای لازم نقش فعالی ایفا کند.

پیشنهادهای سیاستی برای پیشگیری از شکاف مسئولیت‌پذیری

گزارش مرکز پژوهش‌های مجلس مجموعه‌ای از پیشنهادهای سیاستی و تقنینی را برای سازمان ملی هوش مصنوعی مطرح می‌کند که هدف آنها، شفاف‌سازی مسئولیت‌ها، تقویت نظارت اخلاقی و افزایش مشارکت در توسعه مسئولانه این فناوری است.

نخستین پیشنهاد، تعریف شاخص‌های کمی برای سنجش عملکرد سازمان‌ها در زمینه پیشگیری از شکاف مسئولیت‌پذیری است. این شاخص‌ها می‌توانند امکان ارزیابی اقدامات انجام‌شده و مقایسه عملکرد سازمان‌ها را فراهم کنند.

پیشنهاد دیگر مستندسازی تجربه‌ها و ترسیم نقشه ساختارهای اجتماعی و فناورانه در سطوح درون‌سازمانی و فراسازمانی است. شناسایی روابط میان بازیگران و شفاف‌سازی نقش آنها می‌تواند به مشخص‌شدن زنجیره مسئولیت و جلوگیری از گم‌شدن آن در فرایند توسعه و استفاده از هوش مصنوعی کمک کند.

گزارش همچنین بر بررسی تجربه تشکیل کارگروه‌های ارزیابی اخلاقی یا ساختارهای مشابه تاکید می‌کند. مطالعه ترکیب و الگوهای سازمانی این کارگروه‌ها و تعیین جایگاه آنها، از جمله اقداماتی است که باید مورد توجه قرار گیرد. این ساختارها می‌توانند در سطوح سازمانی و فراسازمانی به ارزیابی پیامدهای اخلاقی و پاسخگویی در قبال آنها کمک کنند.

افزایش سواد علمی و آگاهی عمومی درباره توسعه هوش مصنوعی نیز از دیگر محورهای پیشنهادی است. بر اساس گزارش، باید ابزارهای مختلف آگاهی‌بخشی بررسی شوند تا مشخص شود کدام روش‌ها در تقویت مسئولیت‌پذیری کاربران و افزایش پاسخگویی توسعه‌دهندگان موثرتر هستند.

در کنار این اقدامات، بررسی روش‌های خط‌مشی‌گذاری مشارکتی در حوزه فناوری و ارزیابی تاثیر آنها بر شناسایی مخاطرات هوش مصنوعی و افزایش مشارکت عمومی در مواجهه با پیامدهای این فناوری ضروری دانسته شده است.

آخرین پیشنهاد مرکز پژوهش‌ها تعریف سازوکارهای تشویقی برای کسب‌وکارهای مبتنی بر هوش مصنوعی است تا آنها را به رعایت چارچوب‌های توسعه مسئولانه ترغیب کند. گزارش پیشنهاد می‌کند این تعهدات در قالب مسئولیت اجتماعی شرکت‌ها نیز تعریف شوند تا رعایت اصول مسئولیت‌پذیری به بخشی از عملکرد و تعهدات سازمانی کسب‌وکارها تبدیل شود.

گزارش کامل مرکز پژوهش‌های مجلس