آزمایشی نگران‌کننده در انگلستان که مسافران قطار را با هوش مصنوعی زیر نظر می‌گیرد

به گزارش پیوست،‌ مجله وایرد می‌گوید در این آزمایش از ترکیب دوربین‌های هوشمند در کنار دوربین‌های قدیمی استفاده شده است و داده‌های ثبت شده برای پردازش به ابر ارسال می‌شوند. این در حالی است که استفاده از هوش مصنوعی برای نظارت بر جامعه و مردم یکی از موضوعات بحث‌برانگیز و نگران کننده عصر هوش مصنوعی است و اتحادیه اروپا در قانون هوش مصنوعی خود بندی را به محدودیت استفاده از این فناوری برای نظارت بر عموم اختصاص داده است.

براساس مستندات منتشر شده، دو سال از آغاز این آزمایش در هشت ایستگاه قطار بخش‌های مختلف انگلستان از جمله در لندن و منچستر می‌گذرد و مجریان آن قصد دارند با ترکیب فناوری نظارتی هوش مصنوعی با دوربین‌های مداربسته، حوادث ایمنی را به کارکنان اطلاع داده و از جرایم احتمالی جلوگیری کنند.

جیک هرفورت، رئیس بخش تحقیق و بررسی‌های گروه Big Brother Watch، می‌گوید: «استفاده و عادی‌سازی نظارت با هوش مصنوعی در این فضاهای عمومی، بدون مشاوره و مکالمه، گام بسیار نگران‌کننده‌ای است.»

در این آزمایش بین پنج تا هفت دوربین یا سنسور در هر ایستگاه مستقر شده است که تاریخ نصب آن‌ها به آوریل ۲۰۲۳ باز می‌گردد. در مستندات منتشر شده به ۵۰ کاربرد احتمالی هوش مصنوعی اشاره می‌شود که البته همه آنها در این آزمایش‌ها اجرایی نشده‌اند.

برای مثال در ایستگاه Euston لندن، سیستمی برای تشخیص «خطر خودکشی» آزمایش شده است. اما به گفته هرفورت «نگران‌کننده‌ترین» بخش این آزمایش‌ها «ویژگی‌های جمعیت‌شناختی مسافر» تمرکز دارد و دوربین‌ها می‌توانند با استفاده از تصاویر «یک تجزیه‌تحلیل آماری از ویژگی‌های جمعیت شناختی از لحاظ بازه سنی و مرد/زن» ارائه کنند و حتی قادر به «تجزیه‌تحلیل احساس» به صورت «شاد، غمگین و خشمگین» هستند.

این در حالی است که پژوهشگران در گذشته درمورد عدم اعتبار این سیستم‌ها در تشخیص احساسات هشدار داده و برخی معتقدند که به دلیل سختی تشخیص احساس از صوت یا تصویر باید استفاده از این فناوری را ممنوع کرد.

با این حال مشخص نیست که سیستم تجزیه‌تحلیل احساسات به چه اندازه در این آزمایش استفاده شده است و مستندات در برخی موارد به «بررسی با احتیاط بیشتر» اشاره می‌کنند و گزارش‌هایی از ایستگاه‌های قطار می‌گویند که «تایید دقت [این تجزیه‌تحلیل‌ها] غیرممکن است.»

در طول اجرای آزمایش‌ها، تصویر مسافران هنگام پس از عبور از یک مرز فرضی در کنار بخش بلیط‌ها ثبت و سپس برای بررسی بیشتر به سیستم Rekognition از شرکت آمازون ارسال می‌شد. این سیستم سپس میزان «رضایت» مسافر را بررسی می‌کند و طبق مستندات «از این داده‌ها می‌توان برای افزایش حداکثری درآمد تبلیغات و خرده‌فروشی» استفده کرد.

اطلاعات مربوط به آزمایش‌های هوش مصنوعی که از مستندات Network Rail به دست آمده است، به چندین کاربرد احتمالی برای استفاده از دوربین و ارسال هشدار خودکار به کارکنان پس از تشخیص یک سری رفتار‌های خاص اشاره می‌کند. با این حال هیچکدام از سیستم‌ها به فناوری بحث‌برانگیز تشخیص چهره که قرار است هویت افراد را با توجه به تصاویر ذخیره شده در دیتابیس تشخیص دهد مجهز نیستند.

با وجود ابراز نگرانی جدی پژوهشگران و حامیان حریم خصوصی از بکارگیری سیستم‌های نظارتی هوش مصنوعی برای نظارت بر جمعیت‌های عظیم، به نظر استفاده از آنها در حال افزایش است. برای مثال کشور فرانسه قصد دارد در طول بازی‌های المپیک پاریس، از هوش مصنوعی برای نظارت بر جمعیت استفاده کند تا حرکت‌های عظیم جمعیت، استفاده از سلاح و اشیا را تشخیص دهد.