فعالان یوتیوب باید استفاده از هوش مصنوعی در محتوای خود را به پلتفرم اطلاع دهند

به گزارش پیوست به نقل از بلومبرگ، این سیاست جدید که در سال جاری به اجرا گذاشته می‌شود تمام ویدیو‌هایی که از ابزارهای هوش مصنوعی مولد برای نمایش واقع‌گرایانه یک رخداد غیرواقعی استفاده می‌کنند را در بر می‌گیرد.

شبکه‌های اجتماعی و پلتفرم‌های ویدیوی همچون گوگل با موج جدید ابزارهای هوش مصنوعی مساله جدیدی را پیش روی خود دارند، از سویی گوگل خود سازنده یکی از قدرتمندترین ابزارها است و از سوی دیگر این شرکت‌ باید از انتشار و فراگیر شدن اطلاعات جعلی، که با هوش مصنوعی مولد تولید آنها بسیار ساده‌ شده است، جلوگیری کند.

گوگل و دیگر فعالان هوش مصنوعی پیش از این راهکاری مثل نهان‌نگاری را برای شناسایی تصاویر ساخته AI پیشنهاد داده‌اند اما هنوز یک پروژه کامل و فراگیر برای نهان‌نگاری اجرایی نشده و حتی در صورت اجرا نیز شرکت‌ها و دیگر فعالان می‌توانند با استفاده از ابزارهای شخصی خود به تولید محتوای جعلی بپردازند.

در حالی که جهان در حال حاضر صحنه دو درگیری بزرگ است و ایالات متحده به انتخابات ریاست جمهوری سال ۲۰۲۴ نزدیک می‌شود، جلوگیری از انتشار اطلاعات وارونه و جعلی از اهمیت بالایی برخوردار است و سیاست جدید یوتیوب یکی از اقدامات غول‌های تکنولوژی در این رابطه است. جنیفر فلنری اوکانر و امیلی ماکسلی، نایب روسای مدیریت محصول یوتیوب، در یک پست وبلاگی در این باره گفتند: «این مساله به ویژه برای مواردی که محتوای یک موضوع حساس، مثل انتخابات، درگیری و بحران سلامت عمومی یا مقامات عمومی را مورد بحث قرار می‌دهد اهمیت دارد.»

براساس این سیاست، تولیدکنندگان محتویای که چندین مرتبه استفاده از محتوای مصنوعی در ویدیو‌های خود را گزارش ندهند در معرض مجازات‌هایی مثل حذف محتوا، تعلیق از طرح کسب درآمد یا دیگر جریمه ها قرار می‌گیرند.

زمانی که محتوا به صورت دیجیتالی دستکاری یا تولید شده، فرد باید گزینه‌ای را انتخاب کند تا هشدار جدیدی از یوتیوب در کنار محتوا به نمایش گذاشته شود. یوتیوب برای برخی از محتواهای حساس مربوط به انتخابات، درگیری و بحران‌های سیاسی، این نشان را به صورت نمایان‌تری برروی ویدیو به نمایش می‌گذارد.

با این حال به گفته یوتیوب پیش از اجرایی شدن این سیاست، پلتفرم با تولیدکنندگان محتوا همکاری دارد تا مطمئن شود که آنها پیش‌نیاز‌های جدید را متوجه می‌شوند. همچنین این شرکت در حال توسعه ابزارهای جدیدی برای شناسایی نقض قوانین است. یوتیوب به صورت خودکار، محتوای ساخته هوش مصنوعی گوگل را نیز نشانه‌گذاری می‌کند.