افزایش وب‌سایت‌های خبری هوش مصنوعی با هدف درآمد تبلیغاتی

مزارع محتوایی برای کشت درآمد تبلیغاتی و شایعه پراکنی

وب‌سایت نیوزگارد (NewsGuard) که یکی از مراجع مهم اعتبارسنجی منابع خبری و ردیابی اطلاعات نادرست (Misinformation) در جهان آنلاین است در گزارش جدیدی از افزایش چشمگیر وب‌سایت‌های مبتنی بر هوش مصنوعی و مزارع محتوایی خبر داده است.

براساس این گزارش در ماه آوریل امسال (۲۰۲۳) ۴۹ وب‌سایت به هفت زبان چینی، چکوسلواکی، انگیسی، فرانسوی، پرتغالی، تاگالوگ و تایلندی شناسایی شده‌اند که به طور کامل یا عمدتا از مدل‌های زبانی هوش مصنوعی برای تولید محتوا استفاده می‌کنند و در ظاهر شبیه به وب‌سایت‌های خبری معمولی به نظر می‌آیند.

با اینکه در بیشتر موارد، مالکیت این وب‌سایت‌ها مشخص نیست، اما تبلیغات الگوریتمی بسیاری در این وب‌سایت‌ها دیده می‌شود و به نظر برای کسب درآمد از این مسیر راه‌اندازی شده‌اند.

بررسی‌های نیوزگارد نشان می‌دهد که بیشتر این وب‌سایت‌ها با نظارت حداقلی یا بدون نظارت انسانی، محتوا خود را منتشر می‌کنند و در برخی موارد انتشار مقالات و مطالبشان حتی به بیش از صدها مطلب در روز می‌رسد.

تقلید ناشیانه هوش مصنوعی از منابع معتبر

با اینکه وب‌سایت‌های معتبر خبری از جمله باز‌فید (Buzzfeed) در حال حاضر برای تولید و تنظیم بخشی از محتوا خود از هوش مصنوعی کمک می‌گیرند اما استفاده از این ابزار به تنهایی به اشتباهات بسیاری منتهی می‌شود و همین موضوع دست بسیاری از وب‌سایت‌های مبتنی بر هوش مصنوعی را رو کرده است.

به گفته نیوزگارد، محتوای هوش مصنوعی این وبسایت‌ها معمولا حاوی چکیده یا متن بازنویسی شده‌ای از منابع معتبر است. برای مثال وب‌سایت BestBudgetUSA.com معمولا مقالات CNN را با استفاده از هوش مصنوعی خلاصه یا بازنویسی می‌کند.

با اینکه کیفیت محتوا در بیشتر موارد گویای منشا کامپیوتری است، در برخی موارد پاسخ‌های هوش مصنوعی به وضوح منشا آن را لو می‌دهد. پاسخ‌های رایجی مثل: «من قادر به تولید ۱۵۰۰ کلمه نیستم اما می‌توانم چکیده‌ای از مقاله را به شما ارائه کنم» که ابزارهای مولد متن ارائه می‌کنند در برخی از این مقالات دیده می‌شود.

شایعه‌پراکنی و اطلاعات نادرست

با اینکه بیشتر وب‌سایت‌های خبری هوش مصنوعی تمرکز خود را روی تبلیغات گذاشته‌اند و در واقع به دنبال درآمدی بی دردسر هستند اما برخی از این وب‌سایت‌ها از ابزارهای هوش مصنوعی برای انتشار اطلاعات نادرست یا گمراه کننده استفاده می‌کنند.

وب‌سایت CelebritiesDeaths.com یکی از نمونه‌هایی است که به گزارش نیوزگارد به اخبار چهره‌های معروف و فوت سلبریتی‌ها می‌پردازد و در یکی از مقالات خود که در آوریل ۲۰۲۳ منتشر شده مدعی مرگ جو بایدن، رئیس جمهور آمریکا شده است. این مقاله که به عنوان یک خبر داغ منتشر شده ادعا می‌کند که جو بایدن در خواب از دنیا رفته و کاملا هریس جانشین او شده است.

اما خبر خوش اینکه سیاست‌های محافظتی و جلوگیری از شایعه پراکنی اوپن‌ای‌آی در این مورد جلوی انتشار اطلاعات وارونه را گرفته است. هوش مصنوعی در ادامه متن تصریح می‌کند: «متاسفم، از آنجایی که این درخواست با سیاست اوپن‌ای‌آی درمورد تولید محتوا گمراه کننده مغایرت دارد قادر به تکمیل آن نیستم. جعل خبر در مورد مرگ افراد، به ویژه فردی در سطح رئیس جمهور، کار اخلاقی‌ای نیست.»

برای تشخیص محتوا هوش مصنوعی باید به جزئیات توجه کرد

مدل‌های زبانی پیشرفته از جمله محصولات شرکت اوپن‌ای‌آی تبحر بالایی در تولید متون انسان‌ مانند دارند و به سختی می‌توان آن را از محتوای نوشته انسان تشخیص داد اما یک سری نکات دست کامپیوتر را رو می‌کند.

نیوزگارد می‌گوید اغلب این مقالات زبان آرام و ملایمی داشته و عبارت‌هایی مثل «درنتیجه» (In conclusion) و «باید به یاد داشت که» (It is important to remember) را دائما تکرار می کنند.

مساله دیگر بحث اطلاعات ساختگی است که معمولا در ابزارهای هوش مصنوعی شاهد آن هستیم. این پدیده که از آن به عنوان «توهم» هوش مصنوعی یاد می‌شود حالتی است که در آن ابزار هوش مصنوعی اطلاعاتی را بدون توجیه خاصی تولید کرده و از خودش می‌سازد. شرکت انویدیا به تازگی نرم‌افزاری را برای رفع این مشکل ارائه کرده است و وب‌سایت GPTZero.com نیز ابزاری را برای تشخیص محتوا ساخت هوش مصنوعی براساس نشانه‌هایی مثل توهم و اطلاعات ساختگی ارائه کرده است.

از صفر تا هزاران نفر مخاطب وب‌سایت‌های خبری هوش مصنوعی

یافته‌های نیوزگارد نشان می‌دهد که تعداد مخاطبان وب‌سایت‌های خبری هوش مصنوعی به شدت متغیر است. در برخی موارد، مقالات این وب‌سایت‌ها هیچ مخاطبی را جذب نمی‌کند اما در برخی موارد شاهد صدها هزار دنبال کننده در شبکه‌های اجتماعی این وب‌سایت‌ها هستیم.

برای مثال وب‌سایت ScoopEarth.com که با تمرکز بر زندگی‌نامه سلبریتی‌ها به موضوعاتی مثل داستان زندگی، روابط و ثروت آنها می‌پرازد در صفحه فیسبوک خود ۱۲۴ هزار دنبال کننده دارد. در مقابل، وب‌سایت FiltyLucre.com که مقالاتی در حوزه امور مالی را منتشر می‌کند و صفحاتی در فیسبوک، اینستاگرام و توییتر دارد هنوز هیچ دنبال‌کننده‌ای را جذب نکرده است.

باید دید که عصر هوش مصنوعی و محتوای انسان‌مانند کامپیوتری چه تاثیری بر آینده خبر و رسانه می‌گذارد. همچنان نگرانی در مورد شایعه پراکنی و اطلاعات نادرست امری طبیعی است که نیازمند همکاری شرکت‌های سازنده و حتی قانون‌گذاری در این حوزه است. با این حال در شرایط فعلی ابزارهایی مثل GTPZero.com می‌توانند به تشخیص محتوای هوش مصنوعی از نوشته‌های انسانی کمک کنند.