ترند میکرو: ابزار جدید شناسایی محتوای جعلی معرفی شد

به گزارش پیوست، ترند میکرو از نوآوری‌های جدید خود در پلتفرم‌های سازمانی و محصولات امنیت سایبری مصرف‌کننده رونمایی کرد که به حفاظت از تمام محیط‌ها در برابر تهدیدات در حال رشد مبتنی بر هوش مصنوعی و کلاهبرداری متمرکز است.

تحقیقات ترند میکرو نشان می‌دهد که مجرمان سایبری به سرعت در حال ساخت ابزارهای هک جدید با استفاده از هوش مصنوعی هستند که به‌راحتی در دسترس و ارزان‌تر از گذشته شده‌اند. این ابزارها به مجرمان اجازه می‌دهد تا به راحتی حملات گسترده‌ای را راه‌اندازی کرده و قربانیان را با هدف اخاذی، دزدی هویت، کلاهبرداری یا انتشار اطلاعات نادرست فریب دهند.

برای مقابله با این تهدیدات، ترند میکرو ابزار جدیدی به نام Deepfake Inspector معرفی کرده است که می‌تواند تشخیص دهد آیا فردی در مکالمات ویدیویی زنده از فناوری دیپ‌فیک استفاده می‌کند یا خیر و به کاربران هشدار دهد. همچنین، این شرکت به زودی فناوری جدیدی برای شناسایی دیپ‌فیک در پلتفرم Trend Vision One™ ارائه خواهد داد که از روش‌های پیشرفته برای شناسایی محتوای تولید شده با هوش مصنوعی استفاده می‌کند.

دکتر موتاز بن‌علی، معاون ارشد و مدیر اجرایی منطقه MMEA در ترند میکرو، گفت: «هوش مصنوعی مولد، نوآوری را در منطقه متحول کرده است، با اتوماسیون وظایف، بهبود تجربه مشتریان و کمک به تصمیم‌گیری‌های حیاتی صورت گرفته است. با این حال، این فناوری همچنین ابزارهای دیپ‌فیک جدیدی را به وجود آورده که به طرز نگران‌کننده‌ای امکان راه‌اندازی کلاهبرداری‌های آسیب‌زننده، حملات مهندسی اجتماعی و تلاش‌های دور زدن امنیت را برای مجرمان سایبری با هر سطحی از مهارت، فراهم کرده است.»

او افزود: «با تاکید بر مأموریت ما برای تأمین امنیت تحول دیجیتال و آینده مبتنی بر هوش مصنوعی مشتریانمان، ترند میکرو در خط مقدم صنعت قرار دارد و قابلیت‌های جدیدی را برای شناسایی دیپ‌فیک و سایر کلاهبرداری‌های مبتنی بر هوش مصنوعی برای هر دو بخش سازمانی و مصرف‌کننده در منطقه ارائه می‌دهد و به آنها کمک می‌کند تا به‌طور ایمن در دنیای دیجیتال در حال تحول حرکت کنند.»

دیپ‌فیک‌ها تهدیدی جدی برای شرکت‌ها و افراد مدرن به شمار می‌روند. نظرسنجی اخیر PwC نشان می‌دهد که بیش از ۵۰٪ از پاسخ‌دهندگان معتقدند این فناوری ممکن است در سال آینده به حملات سایبری منجر شود. دیپ‌فیک‌های تشخیص‌داده‌نشده می‌توانند عواقب وخیمی  از جمله مشکلات مالی، از دست دادن شغل، چالش‌های قانونی، آسیب به شهرت، دزدی هویت، و آسیب‌های بالقوه به سلامت روانی یا جسمی داشته باشند. با توجه به جدیت این تهدید، مقامات دولتی متخصص در امنیت سایبری در حال افزایش آگاهی و آموزش عمومی درباره خطرات دیپ‌فیک‌ها و حملات سایبری مبتنی بر هوش مصنوعی هستند.

ترند میکرو با فراتر رفتن از تکنیک‌هایی مانند تحلیل نویز تصویر و تشخیص رنگ، عناصری از رفتار کاربر را تحلیل می‌کند تا رویکردی بسیار قوی‌تر برای شناسایی و متوقف کردن دیپ‌فیک‌ها ارائه دهد. با تشخیص دیپ‌فیک، شرکت به‌طور فوری تیم‌های امنیتی سازمانی را مطلع می‌کند و به آنها این امکان را می‌دهد تا یاد بگیرند، آموزش دهند و اقدامات پیشگیرانه برای جلوگیری از حملات آینده انجام دهند. این فناوری نه تنها برای دور زدن احراز هویت انسانی بلکه همچنین تدابیر امنیتی بیومتریک مانند شناسایی چهره سوءاستفاده می‌شود.

دیپ‌فیک ها

دو نوع اصلی دیپ‌فیک، ویدئویی و صوتی هستند. دیپ‌فیک‌های ویدئویی ظاهر یک شخص را تغییر می‌دهند در حالی که دیپ‌فیک‌های صوتی صدای او را تغییر می‌دهند. دیپ‌فیک‌های ویدئویی و صوتی اغلب با هم ترکیب می‌شوند تا محتوای گمراه‌کننده‌ای ایجاد کنند.

دیپ‌فیک‌های ویدئویی رایج‌ترین نوع هستند. افرادی که این ویدئوها را تولید می‌کنند از هوش مصنوعی برای جایگزین کردن صورت یا بدن کسی در تصاویر ویدیویی موجود استفاده می‌کنند. مثال‌هایی از این شامل جعل گفتار یک سلبریتی به چیزی جنجالی یا گزارش داستان‌های ساختگی توسط یک گوینده اخبار است.

در برخی دیپ‌فیک‌های ویدئویی، یک صداپیشه صدای سلبریتی یا صدای اصلی را تقلید می‌کند تا صدای جدید را ارائه دهد. احتمالا اخیرا نمونه‌هایی از آن‌ها را در شبکه های اجتماعی دیده‌اید.

منبع: cxoinsightme