ابزارهای جدید اوپن‌ای‌آی برای جلوگیری از شایعات انتخاباتی

به گزارش پیوست، اقدام اوپن‌ای‌آی را در حالی شاهد هستیم که چند روز پیش مجمع جهانی اقتصاد در گزارشی سو استفاده و شایعه‌پراکنی با هوش مصنوعی را بزرگترین تهدید سال ۲۰۲۴ اعلام کرد.

حال بلومبرگ گزارش داده است که این استارت‌آپ از ابزارهای جدیدی رونمایی کرده است و برای مثال اطلاعاتی را از ChatGPT گرفته و به رخداد‌های روز نسبت می‌دهد و کاربر بتواند ساختگی بودن یک تصویر و استفاده از هوش مصنوعی در آن را تشخیص دهد. نگرانی درمورد «دیپ‌فیک‌ها» و دیگر انواع محتوای ساخته هوش مصنوعی در حال حاضر یکی از بزرگترین دغدغه‌های مقامات کشوری در روزها و ماه‌های منتهی به انتخابات است.

انتشار اطلاعات ساختگی و وارونه در لحظات مهم ممکن است رای تعداد زیادی از مردم را تغییر داده و حتی سرنوشت کشوری را عوض کند.

اوپن‌ای‌آی روز دوشنبه (۱۵ ژانویه)، طی یک پست وبلاگی نوشت: «برای محافظت از سلامت انتخابات‌ها به همکاری تمامی جبهه‌های فرایند دموکراتیک نیاز است و ما می‌خواهیم اطمینان حاصل کنیم تا نتوان از فناوری ما برای اخلال در این فرایند استفاده کرد.»

این استارت‌آپ از این پس تصاویر تولید شده با ابزار مولد تصویر DALL-E3 را با اطلاعاتی درمورد منبع کدنگاری می‌کند و در کنار آن محتوای تکمیلی را جای می‌دهد که مثلا تصویر چه زمانی و توسط چه کسی تولید شده است. هدف این است که رای دهندگان بتوانند ساختگی بودن یک تصویر را درک کرده و براساس آن قضاوتش کنند. این فرایند از استاندارد رمزنگاری ارائه شده توسط C2PA (ائتلافی برای ثبت منشا و سندیت محتوا) استفاده می‌کند. این ائتلاف را در سال ۲۰۲۱ شرکت‌های ادوبی، مایکروسافت، اینتل و چند شرکت دیگر پایه‌گذاری کردند.

اوپن‌ای‌آی همچنین از ابزار تشخیص تصویری رونمایی می‌کند که با استفاده از آن افراد می‌توانند یک تصویر را بررسی کرده و ببیند که آیا توسط DALL-E تولید شده یا خیر. این شرکت در ابتدا و برای دریافت بازخورد، ابزار خود را در اختیار روزنامه‌نگاران، پلتفرم‌ها و محققان قرار می‌دهد. ابزارهای تشخیص هوش مصنوعی در گذشته از دقت کافی برخوردار نبوده‌اند اما میرا موراتی، مدیرارشد تکنولوژی اوپن‌ای‌آی، در ماه اکتبر اعلام کرده ابزار تشخیص تصویر این شرکت براساس آزمایش‌های داخلی به دقت ۹۹ درصدی دست یافته است.

کاربران از طریق ChatGPT نیز می‌توانند اطلاعات لحظه‌ای رخداد‌های روز را دریافت کنند. نتایجی که این ابزار ارائه می‌کند قرار است اسنادی را در بر رگفته و با لینک‌هایی شما را به مقالات مربوطه ارجاع دهند، قابلیتی که در حالت پیش فرض آن را در اپلیکیشن مشاهده نمی‌کنید. شرکت می‌گوید همبستگی خود با منابع اطلاعاتی را تقویت می‌کند.

شرکت اوپن‌ای‌آی در حال حاضر با ده‌ها نشریه و روزنامه در حال مذاکره است و منابعی مثل فاکس، CNN و مجله تایم چند مورد از آنها هستند. این استارت‌آپ تا به اینجای کار با خبرگذاری AP و Axel Springer SE به توافق رسیده است.

این شرکت طی پستی نوشت: «در رابطه با تصویر، شفاف‌سازی پیرامون منبع اطلاعات می‌تواند به ارزیابی بهتر رای‌دهندگان از اطلاعات کمک کند تا براساس اطلاعات مطمئن برای خودشان تصمیم‌گیری کنند.»