سخنرانی TED رومان چودری: مشارکت عمومی می‌تواند آینده هوش مصنوعی را شکل دهد 

به گزارش پیوست، رومان چودری در این سخنرانی بر الزام همکاری مردم عادی با فناوران برای توسعه هوش مصنوعی اهتمام ورزید. چودری در این سخنرانی داستان‌هایی از کشاورزان، معماران و دانشمندان را به اشتراک گذاشت تا نشان دهد چگونه فناوری‌های پیشرفته می‌تواند همزمان هم مفید و هم محدودکننده باشند و همچنین چگونه مشارکت عمومی می‌تواند این تعادل را بهبود بخشد.

این دانشمند علم داده همچنین به نظرسنجی‌هایی اشاره می‌کند که نشان می‌دهند تعداد افرادی که نگران تأثیرات منفی هوش مصنوعی هستند، بیشتر از کسانی است که از آن هیجان‌زده‌اند. او بر این باور است که این نگرانی‌ها ناشی از احساس ناتوانی در کنترل سیستم‌هایی است که به‌طور فزاینده روی زندگی آنها تاثیر می‌گذارد.

هوش مصنوعی و کشاورزی؛ داستانی از فناوری و مقاومت

رومان چودری سخنرانی خود را با داستانی درباره کشاورزان و فناوری آغاز کرد. او توضیح داد که چگونه کشاورزی مدرن به شدت به فناوری‌هایی مانند بینایی کامپیوتری، هوش مصنوعی و تحلیل‌های پیش‌بینانه وابسته شده است. این فناوری‌ها به کشاورزان کمک می‌کنند تا میزان محصولات را پیش‌بینی کنند، آفات را شناسایی و از بین ببرند. همچنین این فناوری باعث می‌شود کشاورزان و فعالان این حوزه با شرایط آب‌وهوایی شدید مانند خشکسالی و طوفان مقابله کنند. اما این فناوری‌ها همچنین باعث شده‌ که کشاورزان احساس کنند از فرآیندهای اصلی کشاورزی دور شده‌اند.

چودری به‌طور خاص به ماجرای شرکت جان دیر (John Deere) و تراکتورهای هوشمند اشاره کرد. در سال ۲۰۱۷، این شرکت تراکتورهایی تولید کرد که کشاورزان اجازه تعمیر آنها را نداشتند. اگر تراکتوری خراب می‌شد، کشاورزان مجبور بودند هفته‌ها منتظر بمانند تا یک تکنسین مجاز آن را تعمیر کند.

در این مدت، محصولات آنها در معرض فساد و آفات قرار می‌گرفت. این محدودیت باعث شد برخی کشاورزان دست به کار شوند و با یادگیری برنامه‌نویسی و همکاری با هکرها، روش‌هایی برای تعمیر تراکتورهای خود بیابند. این اقدامات، اگرچه غیرقانونی بود اما نشان دادند که کاربران باید حق تعمیر تجهیزات خود را داشته باشند.

این داستان، پایه‌ای برای معرفی جنبش «حق تعمیر» شد. چودری توضیح می‌دهد که این جنبش بر این اصل استوار است که اگر شما صاحب یک فناوری هستید، باید حق تعمیر آن را نیز داشته باشید، چه این فناوری یک تراکتور باشد، چه یک ماشین لباس‌شویی یا یک مسواک هوشمند.

هوش مصنوعی و کاهش اعتماد عمومی

چودری سپس در ادامه به موضوع هوش مصنوعی پرداخت و اشاره کرد که با وجود نوآوری‌های شگفت‌انگیز در این حوزه، اعتماد عمومی به این فناوری در حال کاهش است.

او به نظرسنجی‌هایی اشاره کرد که نشان می‌دهند مردم در سراسر جهان نگران تأثیرات منفی هوش مصنوعی هستند. به عنوان مثال، نظرسنجی مؤسسه پیو (Pew) نشان داد که تعداد آمریکایی‌هایی که نگران هوش مصنوعی هستند بیشتر از کسانی است که از آن هیجان‌زده‌اند.

همچنین، نظرسنجی جهانی ریسک (The World Risk Poll) نشان داد که مردم در آمریکای مرکزی و جنوبی و همچنین آفریقا معتقدند هوش مصنوعی بیشتر از اینکه مفید باشد، به آنها آسیب می‌رساند.

رومان چودری توضیح داد که این نگرانی‌ها ناشی از احساس بیگانگی مردم از فرآیند توسعه هوش مصنوعی است. او معتقد است مردم می‌دانند داده‌هایشان بدون اجازه آنها جمع‌آوری می‌شود تا سیستم‌های پیچیده ساخته شوند.

آنها همچنین می‌دانند که این سیستم‌ها بر فرصت‌های زندگی آنها تأثیر می‌گذارند، اما هیچ‌کس از آنها نپرسیده است که این سیستم‌ها چگونه باید ساخته شوند یا اگر مشکلی پیش آمد، چگونه باید آن را حل کنند.

تیم قرمز: راه‌حلی برای بهبود هوش مصنوعی

چودری برای حل این مشکل، فرآیندی به نام «تیم قرمز»(Red Teaming)  را معرفی کرد. این فرآیند که در ابتدا در ارتش و امنیت سایبری استفاده می‌شد، شامل ورود متخصصان خارجی برای آزمایش سیستم‌ها و شناسایی نقاط ضعف آنهاست.

چودری توضیح می‌دهد که تیم قرمز می‌تواند به بهبود سیستم‌های هوش مصنوعی کمک کند، زیرا به توسعه‌دهندگان اجازه می‌دهد مشکلات را قبل از وقوع شناسایی و رفع کنند.

او به نمونه‌هایی از تیم قرمز اشاره کرد که سازمان او با همکاری شرکت‌های بزرگی مانند اوپن اِی‌آی (OpenAI)، متا (Meta)، انتروپیک (Anthropic) و گوگل انجام داده است.

به عنوان مثال، در یک پروژه با انجمن سلطنتی لندن، دانشمندان دریافتند که سیستم‌های هوش مصنوعی در برابر اطلاعات نادرست درباره ویروس کووید-۱۹، محافظت‌های خوبی دارند، اما در مورد بیماری‌هایی مانند سرخک و آنفلونزا این محافظت‌ها وجود نداشت. این مشکلات گزارش و برطرف شدند.

معماران و هوش مصنوعی؛ مساله اعتماد است

این دانشمند حوزه داده همچنین به تجربه‌ای با معماران اشاره کرد. در این پروژه، از معماران پرسیده شد که آیا هوش مصنوعی می‌تواند جایگزین آنها شود یا خیر.

پاسخ معماران منفی بود، زیرا آنها معتقد بودند که طراحی ساختمان‌ها تنها بخشی از کار آنهاست. معماران باید فیزیک، علم مواد و قوانین ساختمان‌سازی را درک کنند و در عین حال، ساختمان‌هایی طراحی کنند که احساسات را برانگیزند.

اما بزرگترین نگرانی معماران مساله اعتماد بود. آنها توضیح دادند که اگر مشکلی در ساختمان‌هایشان پیش بیاید، ممکن است مجوز خود را از دست بدهند، جریمه شوند یا حتی به زندان بیفتند. بنابراین، آنها نمی‌توانند به سیستم‌های هوش مصنوعی اعتماد کنند، مگر اینکه بتوانند در صورت پیدا کردن اشتباه، آن را برطرف کند.

هوش مصنوعی عاملی و حق تعمیر

چودری در بخش پایانی سخنرانی خود به موج بعدی هوش مصنوعی، یعنی «هوش مصنوعی عاملی» (Agentic AI) اشاره کرد. این سیستم‌ها مانند دستیاران شخصی عمل می‌کنند و می‌توانند تصمیمات مهمی مانند تنظیم قرارهای پزشکی یا ارسال پرونده‌های پزشکی در مواقع اورژانس را بگیرند.

اما چودری تأکید کرد که این سیستم‌ها نمی‌توانند بدون حق تعمیر وجود داشته باشند. او پرسید: چه کسی سلامت کودک خود را به یک سیستم هوش مصنوعی می‌سپارد، اگر نتواند برخی آزمایش‌های اولیه را انجام دهد؟

آینده هوش مصنوعی در دستان عموم مردم

چودری در پایان سخنرانی خود تأکید کرد که برای تحقق وعده‌های هوش مصنوعی، باید ابزارهایی ایجاد شود که به مردم امکان دهد تا این فناوری را برای خود مفید کنند. او گفت: «فناوران به تنهایی نمی‌توانند این کار را انجام دهند و فقط با همکاری افراد می‌توان به این هدف دست یافت.» چودری با ترکیب داستان‌های واقعی و تحلیل‌های دقیق، نشان داد که آینده هوش مصنوعی در گرو همکاری بین فناوران و عموم مردم است.