پلیس پیش‌بینی‌گر: فناوری آینده یا تهدیدی برای عدالت؟

به گزارش پیوست به نقل از فست‌کمپانی، این فناوری‌ها که تحت عنوان «پلیس پیش‌بینی‌گر» یا «Predictive Policing» شناخته می‌شوند، با هدف پیش‌بینی محل وقوع جرایم یا شناسایی افرادی به کار می‌روند که ممکن است مرتکب جرم شوند. با این حال استفاده از چنین فناوری‌هایی با نگرانی‌های بسیار همراه است و بکارگیری نادرست آن می‌تواند نقض گسترده آزادی و حقوق شهروندان را به دنبال داشته باشد.

منظور پلیس پیش‌بینی‌گر چیست؟

پلیس پیش‌بینی‌گر بر اساس تحلیل داده‌های گسترده‌ای مانند گزارش‌های جرائم، سوابق بازداشت، و اطلاعات جغرافیایی یا اجتماعی عمل می‌کند. دو رویکرد عمده در این زمینه وجود دارد: پیش‌بینی مبتنی بر مکان، که نواحی دارای ریسک بالای وقوع جرم را شناسایی می‌کند، و پیش‌بینی مبتنی بر فرد، که افراد پرخطر را هدف قرار می‌دهد.

در نگاه اول، چنین فناوری‌هایی ممکن است کارآمد به نظر برسند. اما در عمل، مسائل اخلاقی و حقوقی متعددی پیرامون آن‌ها وجود دارد. در ایالت فلوریدا، برنامه‌ای موسوم به «پلیس اطلاعات‌محور» در شهرستان پاسکو اجرا شد که طی آن پلیس لیستی از افراد مشکوک تهیه کرد و به طور مکرر به منازل آن‌ها مراجعه می‌کرد. این بازدیدها شامل افرادی حتی زیر ۱۸ سال بود و افراد به خاطر موضوعات پیش پا افتاده‌ای همچون چمن بلند یا نبود شماره صندوق پستی اخطار دریافت می‌کردند. در نهایت، پس از شکایت چهار تن از ساکنان و اثبات نقض حقوق قانون اساسی آن‌ها، این برنامه متوقف شد.

در شیکاگو نیز فهرست موسوم به «لیست افراد استراتژیک» که برای پیش‌بینی وقوع جرایم توسط افراد سابقه‌دار طراحی شده بود، در سال ۲۰۲۰ کنار گذاشته شد. در لس‌آنجلس، نرم‌افزار PredPol که مکان‌های پرخطر را شناسایی می‌کرد، به دلیل دقت پایین و ایجاد تبعیض نژادی و طبقاتی در سال ۲۰۲۱ کنار گذاشته شد.

جعبه سیاهی که حتی قدرت اعتراض به آن را نداریم

یکی از اصلی‌ترین مشکلات سیستم‌های پیش‌بینی‌گر، عدم شفافیت آن‌هاست. اکثر پلیس‌های محلی فاقد سیاست‌های مشخص برای استفاده از الگوریتم‌ها هستند و اطلاعاتی درباره داده‌های مورد استفاده، نحوه آموزش مدل‌ها یا سنجش دقت آن‌ها منتشر نمی‌کنند.

در واقعی یکی از مشکلات اصلی چنین سیستم‌هایی این است که ماهیتی شبیه به «جعبه سیاه» دارند و هیچ‌کس، حتی خود مجریان قانون، دقیقا نمی‌دانند که این سیستم چگونه و بر چه اساسی تصمیم‌گیری می‌کند.

همچنین مشخص نیست که در صورت برچسب خوردن یک شهروند به عنوان فرد پرخطر، چه حق اعتراضی برای او وجود دارد؟ چه نهادی مسئول نظارت بر عادلانه بودن این سیستم‌هاست؟ عدم پاسخ به این پرسش‌ها، اعتماد عمومی را تضعیف می‌کند و خطر سلب حقوق شهروندی را افزایش می‌دهد.

نمونه‌ای متفاوت در شهر سن‌خوزه

در حالی که بسیاری از شهرها یا به طور کامل به این فناوری‌ها متکی شده‌اند یا پس از شکست آن‌ها را کنار گذاشته‌اند، شهر سن‌خوزه در ایالت کالیفرنیا رویکرد متفاوتی را در پیش گرفته است. این شهر مجموعه‌ای از اصول اخلاقی برای استفاده از هوش مصنوعی تدوین کرده است و این اصول بر شفافیت، عدالت و ارزیابی پیشینی خطرات تاکید دارند.

بر اساس این اصول، هرگونه استفاده از ابزارهای هوش مصنوعی توسط نهادهای دولتی باید به اطلاع عموم برسد، عملکرد آن‌ها شفاف باشد و آثار آن بر گروه‌های مختلف اجتماعی مورد ارزیابی قرار گیرد. مقامات شهر سن‌خوزه با چنین رویکردی در تلاشند تا «جعبه سیاه» الگوریتم‌ها را باز کنند و اجازه بررسی عمومی داده‌های آموزشی و ساختار تصمیم‌گیری را فراهم سازند.

تحقیقات نشان می‌دهد که در صورت شفافیت و رفتار منصفانه نهادهای دولتی، مشارکت شهروندان نیز در طرح‌های مختلف افزایش می‌یابد و اجرای سیاست‌ها با حمایت بیشتری همراه می‌شود. استفاده از فناوری باید به عنوان ابزاری برای کمک به اجرای عدالت در نظر گرفته شود، نه جایگزینی برای آن.

سن‌خوزه نمونه‌ای است از اینکه چگونه می‌توان هم‌زمان با بهره‌گیری از قابلیت‌های نوین، از ارزش‌های دموکراتیک مانند شفافیت، پاسخگویی و عدالت محافظت کرد.

اقدامات مثبت شهر سن‌خوزه و رویکرد متفاوت مقامات انتظامی و امنیتی این شهر نشان می‌دهد که پلیس پیش‌بینی‌گر را می‌توان به عنوان یکی از عوامل تحول در آینده امنیت شهری به کار برد، اما اگر این فناوری همانطور که در نمونه‌های دیگر شاهدش بودیم، به درستی مدیریت نشود، به ابزاری برای نقض حقوق شهروندی و تبعیض تبدیل خواهد شد.

حرکت به سوی الگوریتم‌های شفاف، قابل نظارت و پاسخگو، همانند آنچه در سن‌خوزه در حال وقوع است، می‌تواند راهی برای استفاده ایمن و اخلاق‌مدار از این فناوری باشد با این حال همچنان بسیاری نگران سو استفاده نهاد‌های قدرت از چنین فناوری‌هایی هستند و باید دید آیا در عمل استفاده مسئولانه از این فناوری به اثبات می‌رسد و یا اینکه رویکرد‌های پیش‌گویانه از آینده پلیس کنار می‌روند.