هوش مصنوعی ایلان ماسک در ایکس تصاویر زنان را دستکاری می‌کند

به گزارش پیوست، کولینا کولتای، محقق شرکت Bellingcat که اولین بار به استفاده از گراک برای چنین هدفی اشاره کرده است می‌گوید کاربران تنها با ارائه درخواست «Remove her clothes» به گراک در شبکه اجتماعی ایکس می‌توانند حتی پوشیده‌ترین تصاویر زنان را به تصاویری با لباس شنا و نیمه‌عریان تبدیل کنند.

استفاده از هوش مصنوعی برای تولید محتوای جنسی و به ویژه سو استفاده از تصاویری که کاربران به صورت عمومی در پلتفرم‌های شبکه اجتماعی منتشر می‌کنند یکی از مهمترین نگرانی‌های کاربران و فعالان اجتماعی است.

هوش مصنوعی گراک که توسط شرکت xAI ایلان ماسک عرضه و در پلتفرم ایکس ترکیب شده است برخلاف دیگر فعالان هوش مصنوعی محدودیت‌های کمتری برای تولید محتوا دارد که به گفته ماسک در جهت حفظ آزادی بیان در عصر هوش مصنوعی است.

با این حال کاربرد‌های نگران‌کننده همانند آنچه در این نمونه شاهدش هستیم از جمله موضوعاتی هستند که شرکت‌های هوش مصنوعی به عنوان دلیل اصلی اعمال محدودیت‌ها عنوان می‌کنند.

البته که پس از شهرت گرفتن ابزارهای هوش مصنوعی مولد و به ویژه ابزارهای تولید تصویر و ویدیوی به سرعت اپلیکیشن‌ها و روبات‌هایی برای تولید محتوای جنسی در اینترنت پدیدار شدند اما تولید این سبک از محتوا توسط هوش مصنوعی گراک به ویژه با توجه به ادغام و دسترسی پذیری آن در شبکه اجتماعی ایکس، احتمال آسیب را تا حد زیادی افزایش می‌دهد.

علاوه بر این کاربران شبکه اجتماعی ایک می‌توانند در پاسخ به پستی که دیگران در این پلتفرم منتشر کرده‌اند از گراک بخواهند که تصویر منتشر شده را عریان کند و این تصویر معمولا در زیر همان پست منتشر می‌شود که جنبه آزاردهنده چنین محتوایی را بیش از پیش تشدید می‌کند.