ابزاری از اوپن‌ای‌آی که متون نوشته ChatGPT را با دقت بالایی شناسایی می‌کند

به گزارش پیوست، این ابزار می‌تواند با سیستم نهان‌نگاری متون ساخته ChatGPT را با دقت ۹۹.۹ درصدی تشخیص دهد. اما با وجود اصرار کارکنانی که توسعه این ابزار را برعهده داشته‌اند، اوپن‌ای‌آی به دلیل نگرانی‌های مختلف از جمله ریزش کاربران و تاثیر متفاوت بر غیرانگلیسی زبان‌ها، هنوز مایل به عرضه آن نیست.

سخنگوی اوپن‌ای‌آی می‌گوید این ابزار گروه‌هایی همچون غیر انگلیسی زبان‌ها را بیش از حد تحت تاثیر قرار می‌دهد و احتمال خطرات دیگری نیز وجود دارد. از سوی دیگر نظرسنجی اوپن‌ای‌آی از کاربران وفادار ChatGPT نیز نشان می‌دهد که حدود یک سوم آنها به عرضه این فناوری ضدتقلب واکنش منفی نشان می‌دهند.

بسیاری از اساتید و معلمان در صنعت آموزش نگران سو استفاده از این ابزارها و به ویژه ChatGPT به عنوان یکی از قدرتمندترین چت‌بات‌ها هستند. این چت‌بات به لطف هوش مصنوعی مولد می‌تواند مقاله تحقیقاتی کاملی را تنها طی چند ثانیه تولید کند و تشخیص آن از نوشته‌های انسانی با پیشرفت فناوری سخت‌تر و سخت‌تر می‌شود.

تشخیص با واترمارک (نهان‌نگاری)

چت‌بات‌هایی همچون ChatGPT قدرت خود را از یک سیستم هوش مصنوعی می‌گیرند که براساس احتمالات، توالی کلمات یا بخش‌هایی از آن را که به عنوان توکن شناخته می‌شوند، پیش‌بینی کرده و به صورت یک متن پیوسته در کنار هم قرار می‌دهد. این سیستم ضد تقلب تغییر کوچکی در نحوه انتخاب توکن‌ها ایجاد می‌کند. همین تغییرات کوچک الگوی پنهانی را ایجاد می‌کنند که واترمارک یا نهان‌نگاری نام دارد.

چنین الگویی برای انسان قابل تشخیص نیست اما فناوری اوپن‌ای‌آی آن را با دقت بالایی شناسایی می‌کند. این ابزار در نهایت با تشخیص الگو‌ها، امتیازی به متن می‌دهد که احتمال استفاده از هوش مصنوعی را مشخص می‌کند.

براساس مستندات داخلی اوپن‌ای‌آی، در صورتی که متن تولید شده توسط ChatGPT به اندازه کافی بزرگ باشد، این نهان‌‌نگاری‌ها بازدهی ۹۹.۹ درصدی دارند.

با این حال کارکنان شرکت نگرانی‌هایی درمورد بازدهی واقعی این سیستم دارند. به گفته آنها سیستم واترمارک را می‌توان با ترفند‌های ساده‌ای مثل ترجمه متن با گوگل ترنزلیت و سپس بازگرداندن آن به زبان اولیه، فریب داد و بی اثر کرد. همچنین به گفته یکی از کارکنان، اگر فرد از ChatGPT بخواهد تا ایموجی‌هایی به متن اضافه کند، در آخر با حذف این شکلک‌ها، سیستم واترمارک بی اثر می‌شود.

درمورد نحوه عرضه این سیستم نیز داخل شرکت‌های بحث‌های زیادی در جریان است. در صورتی که این ابزار تنها در اختیار افراد بسیار کمی قرار گیرد، بازدهی کافی را نخواهد داشت. در صورت دسترسی بیش از حد نیز تبهکاران می‌توانند راهکار نهان‌نگاری شرکت را تشخیص داده و به راحتی آن را دور بزنند.

یکی از گزینه‌هایی که کارکنان اوپن‌ای‌آی تحت بررسی دارند ارائه این ابزار به فعالان حوزه آموزش از جمله اساتید و معلمان و یا به شرکت‌های شخص ثالثی است که در تشخیص استفاده از هوش مصنوعی به مدارس و دانشگاه‌ها کمک می‌کنند.

شرکت گوگل نیز پیش از این ابزار مشابهی به نام SynthID را برای نهان‌نگاری متون تولید شده با جمنای توسعه داده است که البته هنوز در مرحله بتا قرار دارد و عرضه آن بسیار محدود است.

اوپن‌ای‌آی نیز ابزاری برای تشخیص تصاویر تولید شده با DALL-E 3 دارد که بهار امسال عرضه شد و در حال طی کردن فرایند آزمایش است. شرکت می‌گوید نهان‌نگاری صوت و تصویر را به دلیل خطرات بیشتر سو استفاده از این سبک محتوایی در اولویت خود دارد.