گره‌گشایی از هوش مصنوعی؛ تدبیری در دستان سازمان فناوری اطلاعات

چندین سال است که توسعه‌دهندگان و مدیران در بخش‌های خصوصی و دولتی داده را پاشنه آشیل توسعه هوش مصنوعی در کشور می‌نامند. آما آیا واقعا هیچ راهکاری وجود ندارد؟

پروژه‌ای که قرار است اتلاف انرژی را کاهش دهد، خرابی تجهیزات را پیش‌بینی کند یا کیفیت یک خدمت عمومی را بهبود بخشد، ممکن است پیش از آزموده‌ شدن توانایی فنی‌اش، پشت درِ دسترسی به داده متوقف شود. داده وجود دارد، نیاز هم روشن است، اما دستگاه دارنده داده نگران افشا و مسئولیت آن است و شرکت توسعه‌دهنده، بدون امکان استفاده پایدار از داده، نمی‌تواند درباره ساخت و پشتیبانی محصول تعهد بدهد. هزینه این توقف به دو طرف قرارداد محدود نمی‌ماند؛ فرصتی برای حل مسئله‌ای واقعی از دست می‌رود.

بخش بزرگی از بحث‌های این حوزه به نقد قوانین، تعارض منافع و همکاری ‌نکردن دستگاه‌ها اختصاص دارد. این نقدها ضروری‌اند، اما تکرار آنها به‌تنهایی مسیر استفاده از داده را باز نمی‌کند. هدف این یادداشت، ارائه راهکاری بر پایه قوانین و ساختارهای موجود است؛ راهکاری که سازمان فناوری اطلاعات بتواند همین امروز طراحی و اجرای آن را در حدود صلاحیت خود آغاز کند و درباره نتیجه‌اش پاسخ‌گو باشد.

بحث «گره کور داده برای هوش مصنوعی؛ به دست باز کنیم یا دندان؟» به نسبت محرمانگی و بهره‌برداری اختصاص داشت. گفت‌وگوی اخیر پیوست با رضا باقری‌اصل با عنوان «اختلاف از مالکیت داده شروع می‌شود» نیز تعیین‌تکلیف ‌نشدن رابطه مردم، کسب‌وکارها و حاکمیت در حوزه داده را پیش می‌کشد. ادامه عملی این بحث، بررسی امکانی است که در کشمکش بر سر تحویل داده کمتر به آن توجه می‌شود: استفاده مجاز از داده، بدون آنکه مشاهده و دریافت آن توسط انسان، شرط انجام کار باشد.

اختیار اقدام، از پیش وجود داشته است

برای تعیین مسئولیت سازمان فناوری اطلاعات باید از متن مأموریت آن آغاز کرد. ماده ۷ اساسنامه سازمان، طراحی و اصلاح معماری فناوری اطلاعات، پیشنهاد ضوابط و استانداردها به مراجع صالح، مدیریت مخاطرات، ارائه مشاوره و فراهم‌ کردن ظرفیت ممیزی فناوری‌ها و فرآیندها را در قلمرو فعالیت آن قرار داده است. بنابراین، طراحی روش‌های استفاده از داده با حفظ الزامات حفاظتی، به موضوع فعالیت سازمان تعلق دارد.

آئین‌نامه استقرار چارچوب تعامل‌پذیری، مسئولیت را مشخص‌تر می‌کند. ماده ۴، سازمان را مسئول تأمین الزامات فنی مصوبات کارگروه می‌داند و ماده ۷ برای آن وظیفه ارزیابی بلوغ فنی و انطباق‌سنجی مقرر می‌کند. چارچوب مذکور نیز به ارتباط شبکه‌ای محدود نیست و سطوح فنی، معنایی، فرآیندی و قانونی را در بر می‌گیرد. در این صورت، ارائه الگوی فرآیند و سنجش قابلیت اجرای آن، ادامه همان مأموریت است.

پیوند مستقیم با هوش مصنوعی هم وجود دارد. در بند ۴ ماده یک آئین‌نامه اجرایی بند «الف» ماده ۱۰۷ برنامه هفتم توسعه، زیرساخت اجرا و آموزش مدل‌های هوش مصنوعی جزئی از ابر دولت تعریف شده است. ماده ۸ همین آئین‌نامه، تدوین و ابلاغ مشترک ضوابط معماری، امنیت و حفاظت از داده را به وزارت ارتباطات با همکاری وزارت اطلاعات می‌سپارد. تکلیف این ماده متوجه وزارت ارتباطات است و سازمان فناوری اطلاعات می‌تواند در چارچوب مأموریت خود و ترتیبات اجرایی وزارت، نقش فنی آن را پیش ببرد.

برای شروع طراحی الگوهای پردازش مجاز، ظرفیت حقوقی وجود داشته است؛ آغاز این کار را نمی‌توان صرفا به تصویب قانونی تازه یا تأسیس نهادی دیگر (حتی سازمان ملی هوش مصنوعی) موکول کرد. اصلاح قوانین ممکن است برای رفع برخی موانع لازم باشد، اما این ضرورت، جای اقدام در حدود اختیارات موجود را نمی‌گیرد.

از همین‌جا پرسش از عملکرد سازمان شکل می‌گیرد: این ظرفیت‌ها تا چه اندازه به مسیری تبدیل شده‌اند که دستگاه و شرکت بتوانند بر مبنای آن یک کاربست هوش مصنوعی را اجرا کنند؟ اگر الگوهایی تدوین و به‌کار گرفته شده‌اند، شرایط استفاده و نتایج قابل انتشار آنها باید برای متقاضیان روشن باشد. گزارش اتصال دستگاه‌ها و تعداد خدمات تبادلی، به‌تنهایی پاسخ این مطالبه نیست.

محمدمحسن صدر، رئیس سازمان، در گفت‌وگوی منتشرشده در پیوست نیز تأکید کرده که مسئله فقط اتصال نیست و از برنامه زیست‌بوم‌های دولت هوشمند سخن گفته است. این جهت‌گیری، زمانی برای توسعه‌دهنده هوش مصنوعی معنا پیدا می‌کند که بتواند از مجوز استفاده، به اجرای پردازش و سپس بهره‌برداری پایدار برسد. گره‌ای که همچنان در بحث‌های داده مطرح است، نشان می‌دهد این مأموریت هنوز کار ناتمام دارد. سهم سازمان در گشودن آن، باید در همین فاصله میان اختیار قانونی و نتیجه قابل استفاده سنجیده شود.

استفاده از داده را دوباره تعریف کنیم

در بسیاری از همکاری‌ها، نخست از دستگاه خواسته می‌شود دادگان خود را در اختیار تیم توسعه قرار دهد؛ سپس بحث حفاظت، محرمانگی و مسئولیت آغاز می‌شود. می‌توان از نقطه دیگری شروع کرد: برای حل مسئله، چه پردازشی لازم است و چه اطلاعاتی واقعا باید به مجری برسد؟

فرض کنیم هدف، ساخت مدل پیش‌بینی خرابی تجهیزات است. شرکت به امکان یادگیری از سابقه واقعی کارکرد نیاز دارد، اما این نیاز لزوما به معنای ضرورت مشاهده آن سابقه توسط کارکنان شرکت نیست. فرآیند می‌تواند چنان طراحی شود که داده در محیط حفاظت‌شده پردازش شود، شرکت نتایج مجاز ارزیابی را دریافت کند و مدل حاصل نیز در همان محیط به بهره‌برداری برسد. دریافت داده خام، اجرای آموزش و دریافت فایل مدل، سه اختیار متفاوت‌اند که نباید خودکار به یکدیگر گره بخورند.

هوش مصنوعی بدون اعتماد، ZTAI، در صورت‌بندی فرآیندمحور آن، دقیقا این وابستگی به دسترسی انسانی را هدف می‌گیرد. به‌جای آنکه اجرای روزمره به مشاهده، جابه‌جایی و دستکاری دستی داده حساس وابسته باشد، فرآیند در محدوده مجوز خودکار می‌شود. انسان همچنان هدف و سیاست را تعیین می‌کند و مسئولیت دارد، اما حضور او در مسیر پردازش داده، ضرورت معماری نیست.

دامنه امکان‌هایی که از این تغییر به دست می‌آید، قابل توجه است. با طراحی متناسب می‌توان مدلی را با داده واقعی آموزش داد، بدون آنکه تیم توسعه مجاز به دیدن آن داده باشد؛ کیفیت مدل را با داده محرمانه سنجید و فقط نتیجه مجاز ارزیابی را ارائه کرد؛ یا سابقه اجرای فرآیند را برای ممیزی ثبت کرد، بدون آنکه محتوای داده وارد گزارش شود. چند دستگاه نیز می‌توانند در یک تحلیل مشترک مشارکت کنند، در حالی که لزوما نسخه‌ای از داده خام خود را به یکدیگر یا مجری تحویل نمی‌دهند.

تحقق این قابلیت‌ها به معماری و کنترل اختیار وابسته است. حذف حساب کاربری پایگاه داده کافی نیست؛ اختیار تغییر کد، اداره زیرساخت و خروج نتیجه نیز باید با همان هدف سازگار شود. دامنه حفاظت باید روشن و ادعای آن قابل ارزیابی باشد.

این تغییر فنی، مجوز قانونی ایجاد نمی‌کند. مواد ۳ و ۴ قانون مدیریت داده‌ها و اطلاعات ملی برای پردازش و سطوح دسترسی، نقش کارگروه تعامل‌پذیری را تعیین کرده‌اند و ماده ۶ مسئولیت حفاظت را حفظ می‌کند. موضوع پیشنهاد، اجرای استفاده‌ای است که مجاز شده؛ با دسترسی انسانی محدودتر و شواهد روشن‌تر درباره رعایت حدود آن. داده عمومی قابل انتشار نیز باید همچنان از مسیر عمومی در دسترس بماند.

از اختیار قانونی تا الگویی که دستگاه بتواند اجرا کند

نقطه اثرگذاری سازمان فناوری اطلاعات، تبدیل این امکان به روش همکاری دستگاه‌ها و شرکت‌هاست. دستگاه دارنده داده نباید ناچار باشد برای هر درخواست، تمام مسائل معماری و مسئولیت را از ابتدا حل کند. شرکت نیز باید بتواند پیش از سرمایه‌گذاری، شرایط استفاده و حدود اختیار خود را بشناسد.

پیشنهاد، تدوین مجموعه‌ای از الگوهای مرجع برای کاربست‌های مشخص است؛ الگوهایی که در یک مسئله واقعی آزموده شوند و حاصل آنها، با رعایت تفاوت‌های بخشی، در دستگاه دیگری قابل استفاده باشد. برای هر الگو باید هدف مجاز، شرایط داده، محیط پردازش، حدود خروج اطلاعات، مسئولیت‌ها و معیار ارزیابی معلوم شود. ارزش این کار در آن است که یک مجوز کلی به فرآیندی تبدیل شود که بتوان درباره اجرای درست آن داوری کرد.

این مسیر با برنامه زیست‌بوم‌های دولت هوشمند قابل پیوند است. سازمان می‌تواند یک کاربست دارای اولویت را با مشارکت دستگاه میزبان، شرکت مجری و ظرفیت تخصصی دانشگاه‌ها پیش ببرد و تدوین الگوی مرجع را جزئی از همان پروژه قرار دهد. در پایان، علاوه‌بر نتیجه کاربست، معماری آزموده‌شده، شرایط استفاده و تجربه اجرای آن نیز به دست می‌آید. چنین خروجی‌ای می‌تواند هزینه و ابهام همکاری‌های بعدی را کاهش دهد.

در این تقسیم کار، سازمان فناوری اطلاعات مسئول معماری و فراهم‌کردن مسیر فنی در حوزه مأموریت خود است. سازمان ملی هوش مصنوعی می‌تواند در نقش راهبری، اولویت مشترک را پیگیری کند و در حدود اختیارات معتبر، اجرای تصمیم و رفع گره‌های میان دستگاه‌ها را دنبال کند. صلاحیت مراجع دسترسی و داوری موضوع قانون داده، مسئولیت سازمان اداری و استخدامی در اصلاح فرآیند و ساختار و مسئولیت دستگاه دارنده داده نیز باید در جای خود بماند.

آماده‌سازی داده و نگهداری محیط پردازش هزینه دارد. الگوی همکاری باید محل مجاز تأمین این هزینه و منفعت هر طرف را هم روشن کند. اگر دستگاه فقط مسئولیت و هزینه بپذیرد و نتیجه همکاری را در مأموریت خود نبیند، راهکار فنی به‌تنهایی رفتار آن را تغییر نمی‌دهد. همین ملاحظات است که طراحی فرآیند را از ارائه یک ابزار امنیتی فراتر می‌برد.

سازمان ملی، معاونت علمی و ستاد هوش مصنوعی؛ شریک اجرای راهکار

با تأیید طرح ملی توسعه هوش مصنوعی در شورای نگهبان، تقسیم کار پیشنهادی باید بر جایگاه سازمان ملی هوش مصنوعی در چارچوب جدید راهبری ملی استوار باشد. معاونت علمی، فناوری و اقتصاد دانش‌بنیان ریاست‌جمهوری می‌تواند ظرفیت‌های حمایتی و ارتباط خود با شرکت‌ها و دانشگاه‌ها را برای توسعه و آزمودن کاربست‌های ZTAI به کار گیرد. ظرفیت اجرایی موجود در ستاد هوش مصنوعی نیز، در حدود وظایف معتبر و هماهنگ با ترتیبات مصوبه جدید، می‌تواند به پیشبرد این همکاری کمک کند. سازمان فناوری اطلاعات در این میان، مسئولیت تخصصی خود را در طراحی معماری و فراهم ‌کردن مسیر پردازش حفاظت‌شده دنبال می‌کند. حاصل این تقسیم کار، اتصال راهبری ملی به توان تخصصی و اجرایی نهادهای موجود است؛ بدون آنکه مرجع موازی دیگری برای هدایت طرح ایجاد شود.

زمینه عملی این همکاری نیز فراهم است. پیوست در گزارش ۱۴ شهریور از فراخوان‌های ستاد، از حمایت معاونت علمی از طرح‌های حوزه پولی و بانکی و حمل‌ونقل و تأکید بر داشتن بهره‌بردار و ارزیابی فنی و اقتصادی خبر داده است. این برنامه‌ها می‌توانند محل آزمودن الگوهای ZTAI باشد. پروژه‌ای که مسئله، مجری و بهره‌بردار دارد اما استفاده از داده حساس یکی از موانع اجرای آن است.

برای آغاز، می‌توان از میان همین طرح‌ها یک کاربست مناسب انتخاب کرد و رفع مانع داده را به موضوع همکاری مشترک تبدیل کرد. دبیرخانه ستاد می‌تواند با مشارکت بهره‌بردار و متخصصان، نیاز پردازشی و معیار موفقیت کاربست را مشخص کند، هماهنگی‌های لازم را پی بگیرد و ضوابط پیشنهادی را از مسیر مراجع صالح پیش ببرد. سازمان فناوری اطلاعات، با مشارکت مجری، معماری و کنترل‌های لازم را طراحی و شرایط ارزیابی آنها را فراهم کند. معاونت علمی نیز در چارچوب ضوابط حمایتی موجود، به مشارکت شرکت‌ها و دانشگاه‌ها و تأمین هزینه توسعه و اجرای آزمایشی کمک کند. در این صورت، حمایت از پروژه با فراهم‌ شدن امکان استفاده مجاز از داده همراه می‌شود.

حاصل این همکاری، هم یک کاربست قابل بهره‌برداری است و هم الگویی آزموده‌شده که می‌توان آن را در پروژه‌های بعدی به کار گرفت. برای معاونت علمی و ستاد، چنین الگویی احتمال به‌ثمر رسیدن حمایت‌های فناورانه را افزایش می‌دهد؛ برای سازمان فناوری اطلاعات نیز نتیجه‌ای قابل ارائه از مأموریت معماری و تسهیل بهره‌برداری از داده فراهم می‌کند.

این تقسیم کار باید با جایگاه راهبری سازمان ملی هوش مصنوعی نیز سازگار باشد. نقش پیشنهادی آن، پیگیری اولویت‌های مشترک و رفع موانع میان دستگاه‌ها در حدود اختیارات معتبر است؛ مسئولیت اجرایی هر بخش باید روشن بماند و ارزیابی پروژه به زنجیره‌ای از تائیدهای تکراری تبدیل نشود. صلاحیت مراجع دسترسی و داوری موضوع قانون داده، مسئولیت سازمان اداری و استخدامی در اصلاح فرآیند و ساختار، و مسئولیت دستگاه دارنده داده نیز باید رعایت شود. تنظیم نسبت ساختارهای ملی، مانع آغاز همکاری در حدود صلاحیت‌های موجود نیست.

آماده‌سازی داده و نگهداری محیط پردازش هزینه دارد. الگوی همکاری باید محل مجاز تأمین این هزینه و منفعت هر طرف را هم روشن کند. اگر دستگاه فقط مسئولیت و هزینه را بپذیرد و نتیجه همکاری را در مأموریت خود نبیند، راهکار فنی به‌تنهایی رفتار آن را تغییر نمی‌دهد. همین ملاحظات است که طراحی فرآیند را از ارائه یک ابزار امنیتی فراتر می‌برد.

فرصتی برای نشان‌ دادن نتیجه

سازمان فناوری اطلاعات می‌تواند با همراهی معاونت علمی و ستاد هوش مصنوعی، از همین مأموریت ناتمام فرصتی برای نشان ‌دادن نتیجه همکاری دستگاه‌ها بسازد. یک کاربست عملیاتی که هم نتیجه اقتصادی یا خدماتی داشته باشد و هم حدود حفاظت آن قابل بررسی باشد و به دستگاه‌های مردد نشان می‌دهد چگونه می‌توان از داده استفاده کرد. تکرار همان الگو در دستگاه دوم، ارزش ملی این اقدام را آشکارتر می‌کند.

معیار داوری نیز روشن است: زمان رسیدن از درخواست به پردازش مجاز، هزینه همکاری، کیفیت نتیجه و میزان حذف نیاز به دسترسی انسانی در دامنه تعریف‌شده. انتشار این نتایج، همراه با محدودیت‌ها و تجربه‌های اجرا، مبنای قضاوت درباره موفقیت سازمان خواهد بود.

آنچه در این یادداشت مطرح شد، منطق یک مسیر اجرایی است. ادامه بحث می‌تواند بر سر معماری مرجع، سناریوی اجرای آزمایشی، تقسیم مسئولیت و معیار پذیرش همین طرح باشد؛ جزئیاتی که با انتخاب یک کاربست اولویت‌دار و دستگاه میزبان، می‌توان آنها را مستقیما روی میز بررسی فنی و حقوقی گذاشت. ظرفیت قانونی آن وجود دارد؛ اکنون نوبت تدبیری است که آن را به نتیجه برساند.