مسموم‌سازی داده‌ها امنیت هوش مصنوعی را به خطر انداخته است

به گزارش پیوست به نقل از نیسوس، حملات تخریب داده به‌عنوان یکی از خطرناک‌ترین تهدیدات امنیتی برای سیستم‌های هوش مصنوعی شناخته شده است. این حملات به مهاجمان اجازه می‌دهد تا داده‌های مخرب یا گمراه‌کننده را وارد مجموعه‌ داده‌های آموزشی کنند، که منجر به تولید نتایج اشتباه و آسیب‌پذیری در تصمیم‌گیری‌های کلیدی می‌شود.

طبق گزارش جدید شرکت نیسوس، حتی درصد کمی از داده‌های آلوده (مانند ۰.۰۰۱ درصد از داده‌های آموزشی) می‌تواند عملکرد هوش مصنوعی را مختل کند. این حملات می‌توانند تصمیم‌گیری‌های کلیدی را در بخش‌هایی مانند سلامت و امنیت ملی تحت تاثیر قرار دهند.

برای مثال، در سال ۲۰۱۶، فیلتر هرزنامه جی‌میل گوگل مورد حمله قرار گرفت. مهاجمان توانستند ایمیل‌های مخرب را با دور زدن فیلتر ارسال کنند. همچنین، چت‌بات Microsoft Tay پس از آلوده شدن با داده‌های مخرب، پاسخ‌های نامناسب و اشتباهی تولید کرد.

برای مقابله با این تهدیدات، نیسوس پیشنهاد می‌کند از تکنیک‌های پیشرفته‌تری مانند آموزش با نمونه‌های متخاصم، اعتبارسنجی داده‌ها و سیستم‌های شناسایی تهدید مبتنی بر هوش مصنوعی استفاده شود. همچنین، چارچوب‌های مقرراتی برای افزایش امنیت هوش مصنوعی ضروری است.

استراتژی‌های کاهش حملات مسموم‌سازی داده‌ها

منبع: WORLD TECH NEWS