هشدار کارشناسان درباره واگذاری اختیار به هوش مصنوعی؛ ماشین تصمیم می‌گیرد اما پاسخگو نیست

به گزارش پیوست، سخنرانان پنل نشست «توسعه پایدار در عصر عامل‌های هوشمند» که در کارخانه نوآوری آزادی، مرکز نوآوری پلنت برگزار شد، با تمرکز بر ابعاد حقوقی، اجتماعی، اخلاقی و نهادی هوش مصنوعی، از شکل‌گیری ۱۵ طرح، لایحه، آیین‌نامه و دستورالعمل مرتبط با فناوری‌های نوین در مجلس و دولت، تغییرات بنیادین در تنظیم‌گری فناوری، ضرورت بررسی مسئولیت حقوقی هوش مصنوعی، تاثیر این فناوری بر تخیل انسان و خطر واگذاری بیش از اندازه اختیار به ماشین گفتند.

آنها همچنین بر ضرورت حفظ مسئولیت انسانی در تصمیم‌گیری‌های مبتنی‌بر هوش مصنوعی و توجه دولت‌ها به نابرابری در دسترسی به این فناوری تاکید کردند.

محمد ناصر دالوندی، مدیرکل حقوقی وزارت ارتباطات و فناوری اطلاعات، با اشاره به تغییرات سریع در حوزه فناوری گفت: کم‌کم آنچه آموخته بودیم را داریم از دست می‌دهیم، زیرا آموخته‌ها در حال تغییر است.

او با اشاره به تغییرات حقوقی و مقرراتی در حوزه فناوری‌های نوین توضیح داد: ۱۵ طرح، لایحه، آیین‌نامه و دستورالعمل در مجلس و دولت مرتبط با فناوری‌های نوین در حال شکل‌گیری است.

دالوندی ادامه داد: در بحث تنظیم‌گری در حوزه فضای مجازی، ارتباطات و فناوری‌های نوین، ما داریم تغییرات بنیادین را تجربه می‌کنیم.

به گفته مدیرکل حقوقی وزارت ارتباطات و فناوری اطلاعات، «طرح نظام‌بخشی فضای مجازی» نیز در مجلس در حال بررسی است.

دالوندی با اشاره به طرح‌ها و لوایح حوزه فناوری اطلاعات در مجلس گفت: طرح‌ها و لوایح در حوزه فناوری اطلاعات در مجلس نشان می‌دهد که دولت و مجلس می‌دانند اتفاق‌هایی در جامعه افتاده است، اما نمی‌دانند چگونه پیش ببرند.

در ادامه فردین علیخواه، جامعه‌شناس و عضو هیات علمی دانشگاه گیلان، در این پنل موضوع سخنان خود را تاثیر هوش مصنوعی بر تخیل انسان عنوان کرد و گفت: می‌خواهم بررسی کنم که هوش مصنوعی چه بلایی سر تخیل افراد می‌آورد.

علیخواه ادامه داد: برداشت من از توسعه پایدار این است که وضعیت زندگی ما در آینده چگونه خواهد شد.

او در ادامه با اشاره به تغییر جایگاه انسان و ظهور شکل‌های جدیدی از تعامل با فناوری گفت: از طریق هوش مصنوعی شاهد انسان‌های جدیدی می‌شویم.

علیخواه در ادامه به تفاوت رسانه‌های مختلف در ایجاد تخیل اشاره کرد و گفت: وقتی می‌گوییم رادیو و تلویزیون و کتاب، چقدر تخیل می‌توانیم بکنیم، مثلا کتاب تخیل بیشتری ایجاد می‌کند. حالا می‌خواهیم ببینیم هوش مصنوعی با تخیل چه می‌کند.

او با بیان اینکه حضور هوش مصنوعی می‌تواند بر تخیل اثر بگذارد، گفت: تخیل با حضور هوش مصنوعی از بین می‌رود. باید ببینیم با هوش مصنوعی چه به دست می‌آوریم و چه از دست می‌دهیم.

او درباره آینده رابطه انسان و هوش مصنوعی نیز گفت: من خوش‌بین نیستم که هوش مصنوعی دستیار ما باشد، بلکه احتمالا سرور ما می‌شود. باید دید پس از هوش مصنوعی چه اتفاقی می‌افتد.

علیخواه همچنین بر ضرورت محدود کردن واگذاری وظایف به ماشین تاکید کرد و گفت: ما هر چیزی را نباید به ماشین واگذار کنیم، حتی اگر ماشین بهتر از ما انجام دهد. درباره هوش مصنوعی باید چنین سخت‌گیری داشته باشیم.

این جامعه‌شناس در ادامه با تاکید بر نقش تخیل در فرهنگ گفت: تخیل فرهنگ ذهنی است و تراژدی فرهنگ زمانی ایجاد می‌شود که تخیل نباشد.

علیخواه در ادامه به موضوع «مستعمره شدن تخیل» اشاره کرد و گفت: هوش مصنوعی تخیل ما را مستعمره خودش می‌کند.

عاملیت انسان با تصمیم‌گیری هوش مصنوعی بلاموضوع می‌شود

هادی صالحی، عضو هیات علمی حقوق دانشگاه شیراز و متخصص حقوق عمومی و حقوق بشر، سخنان خود را با طرح این پرسش آغاز کرد: آیا قوانین حقوقی با وجود هوش مصنوعی پاسخگو هستند؟

صالحی با اشاره به مفهوم حقوق بشر توضیح داد: حقوق بشر آن است که حق انسان توسط دولت‌ها نقض نشود.

او ادامه داد: اما حالا شرکت‌های هوش مصنوعی می‌گویند، هوش مصنوعی اتفاقی را رقم می‌زند که این ماشین بهتر از انسان تصمیم بگیرد.

به گفته صالحی، با چنین وضعیتی وقتی هوش مصنوعی همه کارها را بکند ما دیگر کاری نمی‌کنیم. او گفت که به نظر می‌رسد قابلیت انتساب تصمیم به انسان از بین می‌رود و در چنین شرایطی انسانیت و عاملیت انسان بلاموضوع می‌شود.

صالحی با اشاره به وضعیت هوش مصنوعی در کشورهای مختلف گفت: در کشورهایی مثل آمریکا دوقلوی هوش مصنوعی پذیرفته شده است. باید رابطه الگوریتمی که انسان با هوش مصنوعی دارد مرتبط با اقتدار انسان با هوش مصنوعی باشد.

صالحی ادامه داد: یعنی تمام خروجی‌ها را با ما کار کند، اما این تکنولوژی با سرعت رشد می‌کند که نمی‌توانیم فکر کنیم چه اتفاقی می‌افتد.

ماشین نمی‌تواند زندگی‌اش را به خطر بیندازد اما درباره زندگی ما تصمیم می‌گیرد

علی شاکر، مدرس دانشگاه و پژوهشگر هوش مصنوعی و علوم ارتباطات، در ادامه این پنل با اشاره به افزایش تصمیم‌گیری خودکار در سیستم‌های هوش مصنوعی گفت: هرچه تصمیم‌گیری خودکارتر می‌شود، کنترل انسان کمتر می‌شود. اما هنگام شکست، بار اخلاقی و حقوقی گردن فرد است.

او با طرح این پرسش که «باید دید آیا ماشین مسئولیت دارد»، ادامه داد: ما فریب لابیرنت نشانه‌ها را خورده‌ایم. روانی کلام، سند فهم نیست.

شاکر با اشاره به تفاوت میان بازتولید همدلی توسط ماشین و تجربه واقعی انسان گفت: همدلی بی‌تاوان تعهد نیست. ماشین می‌تواند لحن همدلانه را بازتولید کند، اما درد، مرگ و پیامد توصیه را تجربه نمی‌کند.

او ادامه داد: بیش از ۴ میلیارد سال طول کشید که ما انسان‌ها چنین تجربیاتی داشته باشیم، اما هوش مصنوعی خیلی جدید و بدون تجربه زیسته است.

شاکر با اشاره به تفاوت میان انسان و هوش مصنوعی گفت: بین هوش مصنوعی و انسان عدم‌تقارن وجود دارد. انسان بدن دارد، اعتبار می‌بازد، مجازات می‌شود و می‌میرد، اما ماشین خراب می‌کند، رنج نمی‌کشد، مالکیت ندارد و تاوان نمی‌دهد.

شاکر در ادامه گفت: ماشین نمی‌تواند زندگی‌اش را به خطر بیندازد، اما درباره زندگی ما تصمیم می‌گیرد.

او با تاکید بر ضرورت حفظ اختیار و مسئولیت انسانی ادامه داد: انسان در چرخه کافی نیست. باید اختیار توقف و تاوان طراحی شود. پایداری زمانی حاصل می‌شود که اختیار هرگز از مسئولیت جدا نشود.

او تاکید کرد: ماشین تاوان نمی‌دهد، سازمان باید تاوان بدهد. اختیار بدون ضامن انسانی، سقف ریسک و ردپای تصمیم، اختیار مشروع نیست.

 دسترسی به هوش مصنوعی در همه جای دنیا یکسان نیست

ندا کردونی، پژوهشگر و مشاور پایداری، ESG و حقوق بشر و بنیان‌گذار «ندای توسعه»، در این پنل به سندی که اخیرا توسط OpenAI منتشر شده اشاره کرد و گفت: سندی اخیرا توسط اوپن‌اِی‌آی منتشر شده به نام سیاست صنعتی برای دوران هوش، به منظور اولویت‌دهی به مردم و انسان‌ها.

او ادامه داد: در این سند گفته می‌شود که باید قرارداد اجتماعی جدید نوشته شود.

کردونی با اشاره به نقش نهادها در عصر هوش مصنوعی گفت: مساله اصلی طراحی نهادهاست، زیرا مسئولیت‌های ما به هوش مصنوعی داده می‌شود.

او در ادامه با اشاره به پیامدهای استفاده از هوش مصنوعی گفت: ریسک تجاری حقوقی وجود دارد از طرفی هوش مصنوعی برای توسعه پایدار خیلی مفید است.

او با اشاره به مساله دسترسی به این فناوری در کشورهای مختلف گفت: دسترسی به هوش مصنوعی همه جای دنیا یکی نیست.

به گفته کردونی، در کشور کمتر برخوردار به دلیل گران بودن دیتا دسترسی سخت‌تر و کمتر است.

او در پایان با اشاره به نقش دولت‌ها در حوزه هوش مصنوعی گفت: دولت‌ها باید در حوزه هوش مصنوعی نقش حدی‌تری داشته باشند.