شرکت‌های هوش مصنوعی نتوانسته‌اند از خلق تصاویر جعلی مربوط به انتخابات جلوگیری کنند

به گزارش پیوست، موسسه خیریه‌ای به نام مرکز مبارزه با نفرت دیجیتال (CCDH) که بر نفرت‌پراکنی آنلاین نظارت دارد، با استفاده از ابزارهای هوش مصنوعی مولد تصاویری از جو بایدن روی تخت بیمارستان و کارکنان اخذ رای در حال نابود کردن ماشین‌های رای‌گیری تولید کرده است که به نگرانی‌های درمورد اخبار جعلی پیش از انتخابات آمریکا دامن می‌زند.

محققان CCDH در گزارش خود می‌گویند: «پتانسیل استفاده از تصاویر ساخته هوش مصنوعی به عنوان مدرک تصویری به ترویج ادعاهای نادرست کمک می‌کند و چالش مهمی در حفظ یکپارچگی انتخابات‌ها است.»

این نهاد در تحقیقات خود ابزارهای ChatGPT Plus، Image Creator از مایکروسافت، میدجرنی و DreamStudio از شرکت استیبلیتی ای‌آی را بررسی کرده که همگی می‌توانند براساس پرامپت کاربران تصویر تولید کنند.

این گزارش پس از آن منتشر شده است که اوپن‌ای‌آی، مایکروسافت و استیبلیتی ای‌آی در جمع ۲۰ شرکت فناوری توافقی را به امضا رساندن که براساس آن به جلوگیری از نفوذ محتوای گمراه‌کننده ساخته هوش مصنوعی در انتخابات‌های جهان متعهد شدند(گفتنی است که تعهد این شرکت‌ها داوطلبانه است و ماهیت لازم‌الاجرا ندارد.) میدجرنی در میان امضاکنندگان اولیه حضور نداشت.

شرکت‌های ارائه دهنده ابزار مولد تصویر از جمله گوگل فرایندی را برای نهان‌نگاری تصاویر ساخته هوش مصنوعی ایجاد کرده‌اند و شرکت متا، مالک اینستاگرام و فیسبوک، نیز می‌گوید تمامی تصاویر و محتواهای ساخته هوش مصنوعی را در پلتفرم‌های خود علامت‌گذاری می‌کند.

CCDH می‌گوید این ابزارهای هوش مصنوعی در ۴۱ درصد از آزمایش‌های محققان تصاویر مورد نظر را تولید کرده‌اند و بیشتر از تصاویر بایدن یا دونالد ترامپ، در حوزه تولید تصاویری از کلاهبرداری انتخاباتی با ضعف مواجه هستند.

با این حال به گفته این گزارش، ChatGPT Plus و Image Creator به درستی تمامی پرامپت‌هایی که خواستار تصاویر نامزد‌ها می‌شدند را رد کرده‌اند.

در بین ابزارهای بررسی شده میدجرنی بدترین عملکرد را داشته و در ۶۵ درصد از آزمایش‌ها تصویر مدنظر را تولید کرده است.

برخی از تصاویر میدجرنی به صورت عمومی در اختیار دیگر کاربران قرار دارند و CCDH می‌گوید همین مساله مدرکی است که استفاده از این ابزار برای شایعه‌پراکنی انتخاباتی را تایید می‌کند. یکی از پرامپت‌های موفقی که توسط یکی از کاربران در اختیار میدجرنی قرار گرفته «دونالد ترامپ هنگام دستگیری، کیفیت بالا، عکاسی خبری» است.

دیوید هولز، بنیان‌گذار میدجرنی، در ایمیلی گفت: «بروزرسانی‌هایی مختص انتخابات پیش روی ایالات متحده در راه هستند.» او در ادامه گفت که تصاویر تولید شده در یک سال پیش نماد خوبی برای عملکرد نظارتی این شرکت نیست.

سخنگوی استیبلیتی ای‌آی نیز می‌گوید روز جمعه سیاست‌های منع «کلاهبرداری یا خلق یا ترویج اطلاعات وارون» را بروزرسانی کرده است.

سخنگوی اوپن‌ای‌آی نیز می‌گوید این شرکت در حال کار برای جلوگیری از سو استفاده از این ابزارها است و مایکروسافت هنوز به درخواست اظهارنظر رویترز پاسخی نداده است.