۱۲ غول تکنولوژی می‌خواهند از بشر در مقابل هوش مصنوعی دفاع کنند

به گزارش پیوست، کسانی را که نگران یورش هوش مصنوعی و ربات‌ها و حاکمیت ماشین‌ها بر جهان هستند با شنیدن این خبر می‌توانند کمی آسوده تر باشند. اقدامات احتیاطی جدید قرار است از احتمال یورش هوش مصنوعی جلوگیری کند.

شرکت خیریه MITRE با همکاری ۱۲ شرکت بزرگ تکنولوژی از جمله مایکروسافت، IBM و انویدیا قرار است ماتریکس تهدید ناشی از یادگیری ماشینی متخاصم (Adversarial ML Threat Matrix) را راه اندازی کند.

طبق گفته این گروه سیستم طراحی شده یک چارچوب باز است که قرار شده تحلیلگران امنیتی را در شناسایی، هشدار و پاسخ به تهدید‌های مربوط به سیستم‌های یادیگری ماشینی (ML) کمک کند.

ماتریکس یادگیری ماشینی

مایکروسافت می‌گوید که انتشار این چارچوب در نتیجه افزایش حملات به سیستم‌های یادگیری‌ ماشینی تجاری در جهان صورت گرفته است. مایکروسافت منتخبی از ۲۸ شرکت بزرگ را مورد بررسی قرار داد و یافته‌ها نشان می‌دهد که تقریبا تمامی این شرکت‌ها هیچ اطلاعی از تهدیدی که برای یادگیری ماشینی وجود داشته است ندارند و پنج مورد از ۲۸ شرکت گفته‌اند که ابزار مناسب برای ایمن سازی سیستم‌های یادیگری ماشینی خود را ندارند.

ماتریکس تهدید ناشی از یادگیری ماشینی متخاصم قرار است تیم‌های امنیتی را تقویت کند.

این ماتریکس حاوی یک سری رفتار‌های خصمانه و آسیب پذیری‌هایی است که شرکت مایکروسافت و MIRTE در طول سال‌ها مشاهده کرده‌اند.

مایکروسافت در پستی در وبلاگ خود گفت: «ما همچنین دریافتیم که مهاجمان هنگام حمله به یک سیستم یادگیری ماشینی از ترکیبی از «تکنیک‌های سنتی» همچون فیشینگ در کنار تکنیک‌های یادگیری ماشینی متخاصم استفاده می‌کنند».

مایکل رودریگز مسئول تحقیقات یادگیری ماشینی در MITRE نیز می‌گوید: «زمانی که پای امنیت یادگیری ماشینی در میان باشد، مرز مشخصی بین بخش دولتی و خصوصی وجود ندارد و مسئولیت‌های آنها نیز در هم آمیخته می‌شود؛ بخش دولتی باید با موضوعاتی همچون امنیت ملی سر و کار داشته باشد که نیازمند همکاری بخش‌های خصوصی و البته سرمایه گذاری دولتی خواهد بود.»

او ادامه می‌دهد: «از همین رو برای رفع این مشکلات ما در MITRE سعی داریم با سازمان‌هایی همچون مایکروسافت و جامعه‌ای وسیع‌تر برای شناسایی نقاط ضعف در زنجیره عرضه تلاش کنیم. این چارچوب اولین گام برای کمک به یکپارچگی و همکاری جوامع مختلف است تا سازمان‌ها بتوانند با چالش‌های امنیتی یادگیری ماشینی به گونه‌ای کلی تر مقابله کنند.»