پدرخوانده هوش مصنوعی پس از ترک گوگل گفت: از خلق این تکنولوژی پشیمان است

به گزارش پیوست، جفری هینتون معروف به پدر خوانده هوش مصنوعی که حدود نیم‌قرن برای توسعه شبکه‌های عصبی، قلب تپنده چت‌بات‌های معروفی مثل ChatGPT، زمان گذشته است می‌گوید از کرده خود پشیمان است.

هینتون در سال ۲۰۱۲ به همراه دو تن از دانش‌آموزانش در دانشگاه تورنتو شبکه‌ای عصبی را ساختند که قادر بود با تجزیه و تحلیل هزاران تصویر شناسایی اشیائی مثل گل، حیوان یا خودرو را به خود آموزش دهد.

گوگل را ترک کردم تا از خطرات هوش مصنوعی بگویم

ترک گوگل فصل جدیدی از زندگی هینتون را رقم می‌زند و پدرخوانده هوش مصنوعی حالا رسما به جمع منتقدان این تکنولوژی پیوسته است. او با بیش از یک دهه فعالیت در گوگل به عنوان یکی از چهره‌های مهم این صنعت شناخته می‌شود.

هینتون می‌گوید شغلش در گوگل را کناره گذاشته است تا بتواند آزادانه درمورد خطرات هوش مصنوعی صحبت کند و بخشی از وجودش در حال حاضر از ماحصل یک عمر کارش پشیمان است.

پدرخوانده هوش مصنوعی هفته گذشته در یک مصاحبه طولانی در ناهارخوری خانه‌اش در تورنتو که فاصله کمی با محل اولین کشف مهم دانش آموزانش دارد گفت: «من خودم را اینطور توجیه می‌کنم: اگر من انجامش نمی‌دادم، کس دیگری این کار را می‌کرد.»

با اینکه سوندار پیچای، مدیرعامل گوگل هم درمورد هوش مصنوعی هشدار داده است و از جامعه خواسته تا خود را برای این تکنولوژی آماده کند، اما پیش از ترک گوگل نام هینتون در هیچکدام از هشدارهای جدی درمورد این تکنولوژی دیده نمی‌شد.

پدرخوانده هوش مصنوعی نه نامه درخواست توقف شش ماهه توسعه هوش مصنوعی را که در آن بیش  از ۱۰۰۰ محقق و رهبر تکنولوژی در آن از خطرات احتمالی AI ابراز نگرانی کرده بودند امضا کرده است و نه با نامه اخیر ۱۹ رهبر فعلی و سابق اتحادیه توسعه هوش مصنوعی (AAAI) درمورد خطرات این تکنولوژی همراهی کرده است.

هینتون دلیل بی تفاوتی پیشین خود را فعالیتش در گوگل عنوان کرده و می‌گوید نمی‌خواست پیش از ترک این شرکت از گوگل یا دیگر شرکت‌ها به صورت علنی انتقاد کند. او در نهایت ماه گذشته قصد جدایی خود را به گوگل اطلاع داد و پنج‌شنبه هفته پیش هم در همین باره در تماسی با سوندار پیچای صحبت کرد که البته جزئیاتی از این تماس ارائه نکرد هاست.

 از ساخت شبکه عصبی تا پیوستن به گوگل

هینتون پس از خلق شبکه عصبی خود‌آموز به همراه دو دانش آموزش، ایلیا سوتسکروئر (هم‌بنیان‌گذار اوپن‌ای‌آی) و الکس کریشفسکی، شرکت تحقیقاتی DNN Research را خلق کرد.

گوگل یک سال بعد و در سال ۲۰۱۳ این شرکت را به قیمت ۴۴ میلیون دلار خریداری کرد. تکنولوژی ساخته این سه نفر به خلق چت‌بات‌های امروزی از جمله ChatGPT و بارد منتهی شد و سوتسکروئر هم پس از ترک RNN Research، اوپن‌ای‌آی را هم‌بنیان‌گذاری کرد.

هینتون و دو شریک دیرینه‌اش در سال ۲۰۱۸ به تقدیر از فعالیت‌های خود در زمینه شبکه‌های عصبی Turning Award، جایزه‌ای که به «نوبل رایانشی» معروف است را دریافت کردند.

از تورنتو تا سیلیکون‌ولی و رقابتی میلیارد دلاری

چندی پس از آنکه هینتون و همکارانش موفق به ساخت شبکه عصبی خودآموز شدند، گوگل، اوپ‌ای‌آی و چند شرکت دیگر ساخت شبکه‌های عصبی خاص خود را آغاز کردند. این شبکه‌های عصبی قدرت یادگیری داشتند و می‌توانستند با تجزیه و تحلیل حجم زیادی از متون دیجیتالی خود را آموزش دهند. هینتون معتقد بود که با وجود قدرت بالای این تکنولوژی و با اینکه شبکه عصبی به ماشین‌ها در درک و تولید زبان کمک می‌کند اما توان همپایی با انسان را ندارد.

اما نظر هینتون اواخر سال گذشته میلادی تغییر کرد. گوگل و اوپن‌ای‌آی هردو سیستم‌هایی را عرضه کردند که با تجزیه و تحلیل حجم عظیمی از داده‌ها خروجی مشابه انسان را ارائه می‌کرد. با اینکه از نظر هینتون این سیستم‌ها هنوز در بسیاری موارد ضعیف‌تر از مغز انسان هستند، اما در برخی موارد با قدرتی نزدیک به هوش انسانی عمل می‌کنند.

او می‌گوید: «شاید آنچه در این سیستم‌ها اتفاق می‌افتد در واقع از آنچه در مغز اتفاق می‌افتد بهتر باشد.»

موج نوظهور تکنولوژی هوش مصنوعی که علاوه بر تغییر نظر هینتون عموم مردم را هم حیرت زده کرد فرسنگ‌ها از شرکت ۴۴ میلیون دلاری هینتون و همکارانش فاصله گرفته و بازیگرانی با میلیارد‌ها دلار سرمایه‌ مشغول توسعه آن هستند.

وسعت بازار به حدی است که شرکت‌هایی مثل فیسبوک و توییتر به عنوان بازیگران کوچک آن شناخته می‌شوند و فعلا مایکروسافت، با میلیارد‌ها دلار سرمایه‌گذاری روی اوپن‌ای‌آی و گوگل اصلی‌ترین مهره‌های آن هستند. علاوه بر غول‌های سیلیکون‌ولی، بازیگرانی از سراسر جهان، از چین تا روسیه نیز به این عرصه ورود کرده‌اند.

گوگل و مایکروسافت هردو ابزارهای هوشمندی را به صورت قوای کمکی برای موتور جستجو، چت‌بات و حتی مولد تصویر عرضه کرده‌اند.

از نگرانی شغلی گرفته تا تهدیدی برای بشریت

هینتون نگران است که هوش مصنوعی بازار کار را متحول کرده و جایگزین بسیاری از مشاغل شود. ابزارهای هوشمندی مثل ChatGPT فعلا به عنوان یک ابزار کمکی به بهبود روند کار کمک می‌کنند اما در آینده ممکن است جایگزین یک سری مشاغل شوند.

او نگران است که نسخه‌های بعدی این تکنولوژی حتی به تهدیدی برای بشریت تبدیل شوند زیرا این تکنولوژی معمولا رفتار غیرمنتظره‌ای را از داده‌های آموزشی خود یاد می‌گیرد. به گفته هینتون این مساله در آینده مشکل ساز می‌شود. در آینده علاوه بر اینکه افراد و شرکت‌ها به این سیستم‌ها اجازه می‌‌دهند تا کد کامپیوتری تولید کنند بلکه بحث اجرا هم احتمالا به همین ابزار واگذار می‌شود.

هینتون حراسان است که در آینده سلاح‌های تمام خودکار-مثلا روبات‌های قاتل- به واقعیت بدل شوند.

او می‌گوید: «این مساله که [هوش مصنوعی] می‌تواند واقعا هوشمند‌تر از انسان شوند را یک سری باور داشتند. اما اکثر افراد چنین چیزی را خیلی پرت می‌دانستند. من هم آن را پرت می‌دانستم. من فکر می‌کردم ۳۰ تا ۵۰ سال یا حتی بیشتری زمان نیز است. روشن است که الان دیگر چنین نظری ندارم.»

با وجود نگرانی عمیق هینتون، بسیاری از جمله برخی از دانش آموزان و همکارانش او، چنین خطری را دور از واقعیت قلمداد می‌کنند. با این همه هینتون باور دارد که رقابت گوگل و مایکروسافت و دیگر شرکت‌ها نیازمند مقررات بین‌المللی است و نباید به حال خود رها شود.

قانون‌گذاری دشوار و حتی غیرممکن است

هینتون می‌گوید که با وجود الزام به قانون‌گذاری در حوزه هوش مصنوعی چنینی کاری بسیاری دشوار و شاید غیر ممکن است.

او می‌گوید برخلاف سلاح‌های هسته‌ای، نمی‌توان فهمید که کدام شرکت‌ها یا کشور‌ها در خفا روی این تکنولوژی کار می‌کنند. امید ما به این است که دانشمندان به گونه‌ای برای کنترل این تکنولوژی همکاری کنند.

هینتون می‌گوید: «به نظر من تا وقتی از توانایی خود در کنترل آن مطمئن نشدند نباید بیشتر از این آن را توسعه دهند.»

منبع: NYTimes