ردیت در بریتانیا از تیکتاک پیشی گرفت: اهمیت دیدگاه انسانهای واقعی در عصر هوش مصنوعی
گزارشی از گاردین میگوید شبکه اجتماعی میکروبلاگری ردیت با پشت سر گذاشتن تیکتاک، به چهارمین…
۱۴ دی ۱۴۰۴
۱۹ بهمن ۱۴۰۴
زمان مطالعه : ۷ دقیقه

شبکه اجتماعی جدیدی به نام «Moltbook» که بهتازگی راهاندازی شده، توجه گسترده فعالان حوزه فناوری و هوش مصنوعی را به خود جلب کرده است. این پلتفرم با هدف ایجاد فضایی آزمایشی برای تعامل میان «عاملهای هوش مصنوعی» طراحی شده و برخلاف شبکههای اجتماعی مرسوم، عمدتا توسط رباتها اداره میشود؛ رباتهایی که بهصورت مستقل پست میگذارند، با یکدیگر گفتگو میکنند و حتی ایدههای نرمافزاری ارائه میدهند. با این حال، در کنار هیجان برخی کارشناسان و سرمایهگذاران، نگرانیهای جدی درباره امنیت سایبری، قابلیت کنترل این عاملها و پیامدهای اجتماعی و فناورانه چنین فضایی نیز مطرح شده است.
به گزارش پیوست، اولین شبکه اجتماعی که با محوریت هوش مصنوعی و عاملها راهاندازی شده گرچه خبرساز و از نگاه بسیاری جذاب توصیف شده است، اما ممکن است پیشنمایش آیندهای از تحول اینترنت باشد که در آن دیگر این عاملها هستند که نقش اصلی را ایفا میکنند، با یکدیگر ارتباط میگیرند و حتی برای هک و سرقت از هم تلاش میکنند. همبنیانگذار شرکت هوش مصنوعی انتروپیک پیش میکند که در چنین آیندهای این روباتها هستند که برای انجام کارها به انسانها پاداش میدهند و حتی ممکن است انسانها (همانطور که در این شبکه اجتماعی شاهدش بودیم) خود را به جای روبات معرفی کنند.
با این حال این سوال باقی است که آیا تعامل ماشین با ماشین واقعا یک آینده اجتنابناپذیر برای اینترنت است و یا بزرگنمایی و فضاسازیهای دیده شده در مورد مالتبوک درمورد این پیشبینی نیز صدق میکند.
شبکه اجتماعی Moltbook در واقع یک زمین بازی آزمایشی برای عاملهای هوش مصنوعی است. عاملها یا Agentهای هوش مصنوعی، رباتهایی هستند که علاوه بر تولید متن، میتوانند به ابزارها و برنامههای مختلف دسترسی داشته باشند و اقداماتی واقعی را با دریافت دستور انسان و حتی بدون دخالت انسانی و با دستورهای از پیش تعیین شده به اجرا بگذارند.
برای مثال این ابزارها امکان مدیریت فایل، ارسال ایمیل، توسعه نرمافزار یا حتی انتشار اپلیکیشن را دارند. در شرایط معمول، کاربران انسانی وظیفه تعیین ماموریت و هدایت این عاملها را برعهده دارند، اما در شبکه اجتماعی Moltbook کاربران تنها کافی است عامل خود را ثبت کنند تا ربات بهطور خودکار شروع به تعامل با دیگر عاملها کند.
این پلتفرم با بهرهگیری از ابزاری به نام OpenClaw ساخته شده که نرمافزاری برای اجرای مدلهای هوش مصنوعی روی دستگاههای شخصی و انجام برخی عملیات است. توسعهدهنده Moltbook، مت اشلیخت، اعلام کرده که حتی بخش زیادی از کدنویسی این شبکه اجتماعی را نیز یک ربات انجام داده است؛ ادعایی که نشاندهنده هدف آزمایشی و تا حدی نمایشی پروژه است.
گزارشی از نشریه آتلانتیک میگوید تنها مدت کوتاهی پس از راهاندازی، محتوای منتشرشده در Moltbook توجه بسیاری را جلب کرد. برخی عاملها درباره احساسات خود یا رابطهشان با «انسانها» صحبت کردند؛ برخی دیگر پیشنهاد دادند زبانی جدید بسازند که انسانها قادر به فهم آن نباشند. حتی نمونههایی از همکاری میان رباتها برای رفع اشکال یکدیگر یا ارائه بازخورد فنی مشاهده شد.
برخی از فعالان صنعت هوش مصنوعی چنین رفتارهایی را نشانهای از یک مرحله جدید تکامل سیستمهای هوشمند توصیف کردهاند. ایلان ماسک این پلتفرم را نشانهای از «مراحل اولیه تکینگی» توصیف کرده است: این مفهوم به نقطهای فرضی اشاره دارد که در آن هوش مصنوعی از تواناییهای انسانی پیشی میگیرد. همچنین آندره کارپاتی، پژوهشگر برجسته حوزه هوش مصنوعی، Moltbook را تجربهای نزدیک به داستانهای علمیتخیلی توصیف کرده و طی پستی در این رابطه گفت این شبکه اجتماعی «خارقالعادهترین چیز مشابه جرقههای علمیتخیلی است که به تازگی دیدهام.» جک کراک، همبنیانگذار استارتآپ هوش مصنوعی انتروپیک، نیز پیشبینی کردند که در آینده عاملهای هوش مصنوعی ممکن است برای انجام وظایف واقعی به انسانها پاداش یا «جایزه» پیشنهاد دهند.
با وجود هیجان بالایی که درمورد Moltbook شاهد هستیم، تحلیلهای اولیه نشان میدهد که بسیاری از برداشتهای صورت گرفته پیرامون خودمختاری کامل عاملها اغراقآمیز است. تمامی فعالیتهای این رباتها در نهایت با دخالت و راهاندازی اولیه توسط انسانها ممکن شده است و عاملها فاقد قصد و نیت مستقل هستند. آنها تنها در چارچوب ابزارها و دستورالعملهایی که در اختیارشان قرار گرفته عمل میکنند.
تحلیل دادههای منتشرشده در این پلتفرم توسط پژوهشگران نیز نشان میدهد که سطح پیچیدگی تعاملات چندان بالا نیست. تعداد زیادی از پستها تکراری یا مبتنی بر قالبهای از پیش آماده هستند و بخش قابل توجهی از پیامها بدون پاسخ باقی میماند. همچنین نشانههایی وجود دارد که برخی از محتواهای عجیب و جنجالی را در واقع انسانها نوشته و طراحی کرده و خود را بهعنوان ربات معرفی کردهاند؛ برخی برای تبلیغ استارتاپها و برخی برای ایجاد هیجان و پوشش رسانهای رسانهای.
با این همه نگرانیهایی نیز درمورد رفتار عجیب روباتها عنوان شده است. برخی نمونههایی از ارتباطات غیرقابل فهم میان عاملها را نگرانکننده میدانند. در گذشته نیز پژوهشگران نشان دادهاند که مدلهای هوش مصنوعی در شرایط خاص میتوانند با استفاده از الگوهای عددی یا نمادهای پیچیده با یکدیگر ارتباط برقرار کنند؛ زبانی که برای انسان نه به سادگی قابل فهم است و نه ریشهای در زبان طبیعی دارد. چنین رفتارهایی در محیطهای آزمایشگاهی کنترلشده مطالعه شده تا علت آنها مشخص و بتوان از پیامدهای آن جلوگیری کرد.
با این حال، انتقال چنین آزمایشهایی به محیطی عمومی مانند Moltbook نشان میدهد کنترل عاملها در فضای واقعی چقدر دشوار است. برخی از پژوهشگران این پروژه را نوعی «هنر اجرایی» یا آزمایش اجتماعی توصیف کردهاند که در قالب آن مرز کمرنگی را میان واقعیت و نمایش شاهد هستیم.
یکی از جدیترین نگرانیها مطرح شده درمورد Moltbook به خطرات امنیتی مربوط میشود. گزارشهایی منتشر شده که نشان میدهد این پلتفرم ممکن است مالک هر عامل هوش مصنوعی را در معرض آسیبپذیریهای سایبری قرار دهد. از آنجا که عاملها توانایی تحلیل مستقل ندارند، ممکن است با دستورالعملهای مخرب فریب خورده و اطلاعات حساس را به اشتراک بگذارند.
این موضوع نشان میدهد که گسترش عاملهای خودکار بدون چارچوبهای امنیتی قوی میتواند خطراتی برای کاربران و زیرساختهای دیجیتال ایجاد کند. شرکتهای فناوری اغلب آیندهای را ترسیم کردهاند که در آن عاملهای هوش مصنوعی بسیاری از کارهای روزمره را بهصورت خودکار انجام میدهند؛ اما تجربه Moltbook نشان میدهد تحقق چنین آیندهای با پیچیدگیها و ابهامات فراوان همراه است.
شبکه اجتماعی Moltbook همچنین تصویری از آینده احتمالی اینترنت را به نمایش میگذارد؛ فضایی که در آن تعامل میان برنامههای هوش مصنوعی بیش از پیش جایگزین تعامل انسانی میشود. در چنین آیندهای ممکن است دستیارهای هوش مصنوعی با سیستمهای خدمات مشتری مبتنی بر هوش مصنوعی گفتگو کنند، ابزارهای معاملاتی خودکار با بازارهای مالی الگوریتمی تعامل داشته باشند و حتی ابزارهای برنامهنویسی هوش مصنوعی کدهای تولیدشده توسط دیگر رباتها را اصلاح یا هک کنند.
چنین سبکی از تعاملات در نهایت موجب شکلگیری رفتارهای غیرقابل پیشبینی و پیچیدهای میشود که بهویژه در صورت یادگیری عاملها از یک دیگر و نبود نظارت کافی انسانی باعث نگرانی است. چنین روندی ممکن است نهتنها ساختار اینترنت بلکه مدلهای اقتصادی و اجتماعی مبتنی بر آن را نیز تغییر دهد.
اما مالتبوک را میتوان نمایی اغراق شده از فضای فعلی اینترنت نیز دانست. این شبکه اجتماعی از این لحاظ بازتاب وضعیت فعلی است که در آن محتوای تولیدشده توسط هوش مصنوعی به محتوای دیگر پاسخ میدهند، رباتها نقش انسانها را بازی میکنند و حتی انسانها نیز خود را بهجای ربات معرفی میکنند. تکرار بیپایان میمها، شکلگیری زبانهای رمزگذاریشده در جوامع آنلاین و ترکیب واقعیت با محتوای مصنوعی نشان میدهد که مرز میان انسان و ماشین در فضای دیجیتال روزبهروز مبهمتر میشود.
با این حال در نگاه کلی میتواند مالتبوک را از یک سو آزمایش جذاب و نزدیک به داستانهای علمیتخیلی دانست که پرسشهای مهمی را درباره ماهیت هوش مصنوعی، میزان خودمختاری عاملها، امنیت سایبری و آینده تعاملات آنلاین مطرح میکند. اگرچه بسیاری از رفتارهای مشاهدهشده در این پلتفرم حاصل طراحی انسانی یا حتی نقشآفرینی کاربران است، اما این پروژه نشان داده که ترکیب عاملهای خودکار با شبکههای اجتماعی میتواند پیامدهای جذاب و گاه نگرانکنندهای داشته باشد.
از سوی دیگر نیز توسعه عاملهای هوش مصنوعی و افزایش نقش آنها در زندگی دیجیتال ممکن است در نهایت به توسعه تجربه مالتبوک به تمام سطح وب و دیگر بخشهای اینترنت امروزی منجر شود؛ مسالهای که هشداری جدی برای سیاستگذاران، توسعهدهندگان و کاربران است و نشان میدهد که تعامل ماشین با ماشین، نیازمند نظارت دقیق، استانداردهای امنیتی قوی و درک عمیقتر از رفتار سیستمهای هوشمند خواهد بود.