New Orleans polisi, görünüşe göre yıllarca şehir sokaklarının canlı yayınlarını tarayarak ve şüphelileri gerçek zamanlı olarak belirlemek için yüz tanımayı gizlice kullanarak, yanlış tutuklamaları önlemek ve vatandaşların medeni haklarını korumak için tasarlanmış bir belediye yönetmeliğine meydan okudu.
Yapılan bir araştırma, bu tartışmalı uygulamayı ortaya çıkardı. Uygulama, olası bir şüpheli eşleşmesi tespit edildiğinde polislerin telefonlarına otomatik olarak bildirim göndermek için 200'den fazla kameradan oluşan özel bir ağa dayanıyordu. Mahkeme kayıtları ve kamu verileri, bu kameraların "düzinelerce tutuklamada rol oynadığını" gösteriyor, ancak kullanımların çoğu polis raporlarında asla açıklanmadı.
Araştırmaya göre bu durum bir sorun teşkil ediyor, zira 2022 tarihli bir belediye meclisi yönetmeliği teknoloji için çok daha fazla denetim gerektiriyordu. Polisler, canlı yayınlarda görünen kişileri anında gözaltına almak yerine, teknolojiyi yalnızca "şiddet içeren suç soruşturmalarında belirli şüphelileri bulmak" için kullanmalıydı. Ve bu sınırlı vakalarda, polislerin görüntüleri, yapay zeka yazılımı kullanarak yüz tanımlama konusunda "eğitimli en az iki uzmanın" iddia edilen eşleşmeler üzerinde anlaşması gereken bir merkeze göndermesi gerekiyordu.
Ancak, araştırmada "tutuklamaların hiçbirinin dairenin belediye meclisine sunduğu zorunlu raporlara dahil edilmediği" tespit edildi. Ayrıca, tutuklanan en az dört kişi şiddet içermeyen suçlarla itham edildi. Görünüşe göre bazı polisler, belediye meclisi sürecini çok yavaş buldu ve teknolojiden en iyi şekilde yararlanmak için bunu görmezden gelmeyi seçti.
Şimdi, New Orleans polisi, bir sivil özgürlükler grubu temsilcisinin "ABD'de şimdiye kadarki en tartışmalı yüz tanıma kullanımı" olabileceğini öne sürdüğü tepkiler üzerine programı durdurdu. Temsilci, bunun "büyük bir ABD şehrinde polisin, anında tutuklama yapmak amacıyla canlı kamera görüntülerindeki kişileri yapay zeka kullanarak belirlemeye yönelik bilinen ilk yaygın çabası" olduğunu belirtti.
New Orleans Polis Departmanı yetkilileri, programı gözden geçireceklerini ve "uygulamanın kullanımının tüm yasal ve politik gereklilikleri karşıladığından emin olana kadar" tüm otomatik uyarıları kapatacaklarını ifade etti.
Sivil özgürlükler grupları ise daha güçlü bir yanıt talep ediyor; kaç tutuklama yapıldığına dair tam bir soruşturma açılmasını ve polisin yapay zeka destekli görüntü akışlarını kalıcı olarak kullanmayı bırakmasını istiyor. Yapılan bir açıklamada, tam bir soruşturma olmadan, gizli yapay zeka gözetiminin topluma verebileceği potansiyel zararın boyutunu bilmenin mümkün olmayacağı belirtildi.
Açıklamada ayrıca, "Bu aracın, özellikle göçmenler, aktivistler ve tek suçu konuşmak veya hükümet politikalarına karşı çıkmak olan marjinal topluluklara karşı silah olarak kullanılması olasılığını göz ardı edemeyiz" dendi. "Bu kişiler, halkın bilgisi olmadan ve polis teşkilatları nezdinde hesap verebilirlik veya şeffaflık olmaksızın izleme listesine eklenebilirler."
Bazı eyaletler anında tutuklama için yüz tanımayı yasaklıyor
New Orleans'taki kameralar, eski bir polis tarafından kurulan ve polisin şehrin "suç oranı yüksek bölgelerini" daha yakından izlemesine yardımcı olmak isteyen kar amacı gütmeyen bir kuruluş tarafından işletiliyor. Kurum, sosyal medya paylaşımlarında, "aranan şüphelilerin listesindeki kişileri canlı görüntülerde tarayacak şekilde yapılandırılmış" kamera ağının 2023'ten bu yana en az 34 tutuklamaya yardımcı olduğunu iddia etti. Ancak yapılan araştırma bu iddiayı doğrulamakta zorlandı, çünkü "şehir bu tür verileri takip etmiyor ve kar amacı gütmeyen kuruluş davalarının tam bir dökümünü yayınlamıyor."
Belediye meclisine sunulan polis kayıtlarına göre, ağ "yalnızca tek bir vakada faydalı oldu". Bu iddialar arasındaki çelişkiyi inceleyen araştırma, kaç şüphelinin yanlış tespit edildiğini veya polisin tartışmalı canlı yayınların sorumlu kullanımını sağlamak için hangi adımları attığını asla bilemeyebileceğimizi öne sürdü.
Araştırmada, New Orleans'ın canlı yayınları kullanarak anında tutuklama yapmak suretiyle diğer bölgelerdeki kolluk kuvvetlerinden bir adım daha ileri gitmesiyle öne çıktığı belirtildi. Bir güvenlik sektörü kuruluşu, dört eyalet (Maryland, Montana, Vermont ve Virginia) ve ülke çapında 19 şehrin bu uygulamayı "açıkça yasakladığını" aktardı.
Yetkililer, polisin kamera ağında şüphelileri "doğrudan" arayamayacağını veya şüphelileri gerçek zamanlı olarak izleme listesine ekleyemeyeceğini belirtti. Bir polis sözcüsü ise departmanının, "geniş suç kamerası ağıyla ilişkili herhangi bir yapay zeka sisteminin kullanımını kendi bünyesinde bulundurmadığını, bunlara güvenmediğini, yönetmediğini veya üyeleri tarafından kullanımını onaylamadığını" söyledi.
Federal olarak zorunlu tutulan 2023 denetiminde, New Orleans polisi yönetmeliğe uymanın çok uzun sürdüğünden ve "genellikle" eşleşme sağlamadığından şikayet etti. Bu, teknolojinin kusurlu olabileceği anlamına gelebilir veya sürecin yanlış tutuklamaları önlemek için amaçlandığı gibi çalıştığına dair bir işaret olabilir.
Araştırmada, "polis ve yapay zeka yazılımı tutuklamaları aceleye getirdiğinde hataların meydana gelmesi muhtemeldir" denerek, toplamda "yüz tanıma nedeniyle en az sekiz Amerikalının haksız yere tutuklandığı" not edildi.
Bir sivil özgürlükler grubu temsilcisi, "Bu sistemi—gizlice, güvenceler olmaksızın ve gizliliğimiz ve güvenliğimiz için büyük bir tehdit oluşturarak—benimseyerek, New Orleans Şehri kalın bir kırmızı çizgiyi aştı" dedi. "Bu, otoriter gözetim devletlerinin işidir ve Amerikan polisliğinde yeri yoktur."
