پاشنه آشیل

یکی از پیشرفت‌های چشمگیر در علم مدرن ظهور بینایی ماشین است. تنها در طول چند سال نسل جدیدی از فنون یادگیری ماشین نحوه عملکرد بینایی کامپیوترها را متحول ساخته است. ماشین‌ها اکنون در شناسایی چهره و اشیا از انسان‌ها پیشی گرفته‌اند و در مسیر تحول وظایف متعدد مبتنی بر بینایی قرار دارند، همچون رانندگی، نظارت بر امنیت و... بینایی انسان اکنون ابرانسان است. اما مشکلاتی بر سر راه قرار دارد. محققان بینایی ماشین متوجه شده‌اند پیشرفت‌های اخیر نقایص نگران‌کننده‌ای دارند. مشخص شده است که الگوریتم‌های بینایی ماشین، پاشنه آشیلی است که سبب می‌شود تصاویر طوری دستکاری شوند که انسان نتواند کاستی آنها را تشخیص دهد. تصاویری را که توسط محققان به کار رفته است تصاویر خلف می‌نامند که تهدیدی جدی است. الکسی کوراکین و سمی بنیجیو در Google Brain و یان گودفلو از OpenAI، شرکت تحقیقات هوش مصنوعی، معتقدند: «نمونه خلف برای حوزه شناسایی چهره از خطوط ظریفی تشکیل می‌شود که روی چهره فرد مشهود است، در نتیجه ناظر انسانی می‌تواند هویت آنها را به درستی تشخیص دهد ولی سامانه یادگیری ماشین آنها را به عنوان فردی دیگر شناسایی می‌کند.» به علت جدید بودن سامانه‌های بینایی ماشین تصاویر خلف کمتر مورد توجه قرار گرفته است. هیچ کس نمی‌داند چگونه می‌توان این تصاویر را ساخت یا چگونه به راحتی می‌توان سامانه‌های بینایی ماشین را فریب داد. راه مقابله با این نوع فریب نیز مشخص نیست. امروز این روند در حال تغییر است، چرا که کوراکین و همکاران اخیراً به مطالعه دقیق و منظم تصاویر خلف پرداخته‌اند. این محققان نشان می‌دهند سامانه‌های بینایی ماشین تا چه حد در برابر حملات آسیب‌پذیر هستند. این گروه کار خود را با پایگاه‌داده استاندارد برای تحقیقات بینایی ماشین آغاز می‌کنند که با نام ImageNet شناخته می‌شود. تصاویر طبقه‌بندی‌شده بر اساس محتوا شالوده پایگاه‌داده مذکور را تشکیل می‌دهند. آزمون استاندارد این است که الگوریتم بینایی ماشین را...