Emniyet güçlerinin kullandığı bir yapay zeka aracının, raporlarda yapay zeka kullanımına dair kanıtları otomatik olarak sildiği ve şeffaflığı baltaladığı iddiaları gündeme bomba gibi düştü. Büyük bir dijital haklar grubu tarafından yürütülen kapsamlı bir araştırma, bu tür yapay zeka destekli polis raporlarının denetlenmesinin neredeyse imkansız olduğunu ve memurların yalan ifade vermesini kolaylaştırabileceğini öne sürüyor.
Geçtiğimiz yaz bir emniyet teşkilatında denemelerine başlanan Axon’un Draft One adlı aracı, vücut kamerası ses kayıtlarına dayanarak polis raporları oluşturuyor. Aracın temel amacı, memurların rapor yazma süreçlerini hızlandırmak ve onlara zaman kazandırmak. Ancak bu aracın ceza adalet sistemi üzerindeki olumsuz etkileri konusunda anında sorular ortaya çıktı.
Söz konusu dijital haklar grubu, yaptığı incelemede bu teknolojinin “denetim, şeffaflık ve hesap verebilirliği engellemek üzere tasarlandığını” tespit etti. Elde edilen bulgulara göre, birçok teşkilatta polisin yapay zeka kullanıp kullanmadığını açıklaması zorunlu değil. Daha da endişe verici olanı, Draft One aracının taslakları kaydetmemesi veya raporun hangi kısımlarının yapay zeka tarafından oluşturulduğuna dair bir kayıt tutmaması. Teşkilatlar ayrıca taslakların farklı sürümlerini de saklamıyor. Bu durum, bir yapay zeka raporunun farklı versiyonlarını karşılaştırmayı ve teknolojinin “çöp” olup olmadığını belirlemeyi neredeyse imkansız hale getiriyor. Grup, “Bir kurum neden teknolojinin doğruluğunu kanıtlayacak bir kayıt tutmak istemesin ki?” sorusunu yöneltiyor.
Araştırmanın sonuçlarına göre, memurların bu raporları gerçekten düzenleyip düzenlemediğini veya “olabildiğince hızlı ilerlemek için taslakları otomatik olarak onaylayıp onaylamadığını” bilmek zor. Bu durum, özellikle Axon’un en az bir emniyet teşkilatına, mühendislerin, memurların yapay zeka tarafından oluşturulan raporları okumadan göndermelerini engelleyen ‘koruyucu önlemleri’ aşmalarına olanak tanıyan bir hata keşfettiğini bildirmesiyle daha da endişe verici hale geldi.
Yapay zeka aracının ayrıca ses kayıtlarını “yorumlamada aşırıya kaçabileceği”, argo terimleri yanlış yorumlayabileceği veya hiç yaşanmamış bağlamlar ekleyebileceği de belirtiliyor. En büyük endişelerden biri ise, yapay zeka raporlarının memurlara bir “sis perdesi” sağlayabilmesi. Bu durum, memurların raporlarındaki “önyargılı dil, yanlışlıklar, yanlış yorumlamalar veya yalanlar” için yapay zeka aracını suçlayarak yalan ifade verme gibi durumlarda sorumluluktan kaçmasına yol açabilir. Grup, “Suçlunun memur mu yoksa yapay zeka mı olduğunu gösteren hiçbir kayıt yok. Bu durum, sistemin zaman içinde adalet sonuçlarını nasıl etkilediğini değerlendirmeyi son derece zor, hatta imkansız hale getiriyor” ifadelerini kullanıyor.
Dijital haklar grubuna göre, Draft One aracı “halka hesap verebilirlik sağlayabilecek denetimleri kasıtlı olarak önlemek için tasarlanmış” gibi görünüyor. İncelenen bir video kaydında, Axon’un üretken yapay zekadan sorumlu kıdemli ürün yöneticilerinden biri, Draft One’ın taslakları kaydetmeme özelliğini bir avantaj olarak sunarak, “Orijinal taslağı saklamıyoruz ve bu bilinçli bir tasarım. Çünkü isteyeceğimiz en son şey, müşterilerimiz ve avukatlık ofislerimiz için daha fazla açıklama baş ağrısı yaratmaktır” şeklinde açıklamalarda bulunuyor. Dijital haklar grubu bu açıklamayı, Axon’un “memurların bu verileri (örneğin bir hakime, savunma avukatına veya sivil özgürlükler STK’sına) kimseye sağlamak zorunda kalmasını istemediği” şeklinde yorumluyor.
Grup, “Kamu yararına hizmet etmek ve korumak için, yapay zeka çıktısının kullanıldığı her yerde sürekli ve agresif bir şekilde değerlendirilmesi gerekiyor. Ancak Axon bunu kasıtlı olarak zorlaştırdı” ifadeleriyle eleştirilerini sürdürüyor. Dijital haklar grubu, önümüzdeki birkaç yıl içinde birçok şehirde yaygınlaşması beklenen yapay zeka destekli polis raporlarını izlemek için ulusal çapta bir çaba gösterilmesi çağrısında bulunuyor. Ancak “ne yazık ki, bu kayıtları elde etmek kolay değil. Çoğu durumda düpedüz imkansız” olduğu da belirtiliyor.
Konuyla ilgili bir açıklama yapan Axon sözcüsü ise şu ifadeleri kullandı: “Draft One, memurların vücut kamerası kaydının sesli dökümünden kesinlikle ilk rapor anlatısını taslak haline getirmelerine yardımcı olur ve kritik noktalarda zorunlu insan karar verme süreçleri ve kullanımı hakkında şeffaflık dahil olmak üzere bir dizi güvence içerir. Tıpkı Draft One tarafından oluşturulmayan anlatı raporlarında olduğu gibi, içerikten tamamen memurlar sorumludur. Her raporun insan bir memur tarafından düzenlenmesi, gözden geçirilmesi ve onaylanması hem doğruluk hem de hesap verebilirliği sağlar. Draft One, mevcut polis anlatı sürecini yansıtacak şekilde tasarlandı; burada uzun süredir standart olduğu üzere, yalnızca nihai, onaylanmış rapor kaydedilir ve keşfedilebilir, memur veya amir incelemesi sırasında yapılan geçici düzenlemeler, eklemeler veya silmeler değil.”
Sözcü ayrıca, “İlk günden itibaren, Draft One ilk anlatıyı oluşturmak için kullanıldığında, kullanımı Axon Evidence’ın değiştirilemez dijital denetim izinde saklanır ve kurumlar tarafından herhangi bir rapor üzerinde alınabilir. Varsayılan olarak, her Draft One raporu ayrıca kurum politikasına uygun olarak raporun başında veya sonunda görünebilen özelleştirilebilir bir feragatname içerir. Yakın zamanda, kurumların Draft One kullanım raporlarını (kullanıcı başına kaç taslağın oluşturulduğunu ve gönderildiğini gösteren) dışa aktarma ve hangi belirli kanıt öğelerinin Draft One ile kullanıldığına dair raporlar çalıştırma yeteneği ekledik, bu da şeffaflığı ve denetimi daha da destekliyor. Axon, adalet sisteminde Draft One ve yapay zeka teknolojilerinin sorumlu evrimine rehberlik etmek ve yasalardaki değişiklikler de dahil olmak üzere girdi toplamak için emniyet teşkilatları, savcılar, savunma avukatları, topluluk savunucuları ve diğer paydaşlarla sürekli işbirliğine kararlıdır” dedi.
Dijital haklar grubu, Axon’un aracının hızla yayılmasını beklerken, bu yeni teknolojinin benimsenmesini takip etmek için hızlıca bir plan oluşturdu. Grubun kıdemli politika analisti, yapılan araştırmanın “ürünün yetersiz denetim özellikleri sunduğunu” ve veri saklama konusunda polis normlarıyla çelişen, pratikte işe yaramaz bir “denetim günlüğü” işlevi içerdiğini doğruladı.
Belki de en çarpıcı olanı, Axon’un aracının teşkilatlara “Draft One’ı kullanan tüm polis memurlarının listesini” veya “teşkilat süreci özelleştirmediği sürece Draft One tarafından oluşturulan tüm raporların listesini dışa aktarmasına” izin vermemesi. Bunun yerine, Axon yalnızca belirli bir raporda yapılan eylemleri veya bireysel bir kullanıcının sistemdeki girişler ve yüklemeler gibi temel etkinliklerini gösteren basit günlüklerin dışa aktarılmasına izin veriyor. Bu durum, “en temel istatistiksel analizi bile yapmayı neredeyse imkansız hale getiriyor: teknolojiyi kaç memur kullanıyor ve ne sıklıkla” diye belirtiyor grup.
Dijital haklar grubu, sayıları analiz etmeye yönelik herhangi bir çabanın zaman alıcı olacağını tespit etti. Bazı teşkilatlarda, memurların bireysel kayıtlarına bakarak Draft One’ı ne zaman kullandıklarını belirlemek mümkün. Ancak bu, “düzinelerce, yüzlerce, hatta bazı durumlarda binlerce bireysel kullanıcı günlüğünü taramak” anlamına gelebilir. Ve “belirli bir kurum tarafından oluşturulan raporların salt sayısını” göz önünde bulundurulduğunda, raporları tek tek ayıklamak da benzer şekilde “muazzam miktarda zaman” alacaktır.
Bazı yargı bölgelerinde, polis memurlarının rapor oluşturmak için yapay zeka kullandıklarını açıklamaları zorunlu kılınıyor. Grup, bazı teşkilatların bunu gerektirdiğini ve bu durumun belgeleri daha kolay aranabilir hale getirdiğini, dolayısıyla bazı emniyet teşkilatlarının aşırı ücret talep etmeden veya önemli gecikmeler gerektirmeden kamuya açık kayıt taleplerine yanıt verme olasılığını artırdığını tespit etti. Ancak en az bir teşkilat, “Draft One aracılığıyla oluşturulan raporların bir listesini oluşturma yeteneğimiz yok. Aranabilir değiller” yanıtını verdi.
Dijital haklar grubu, her polisin Draft One raporlarını arayamasa da, Axon’un bunu yapabileceğini bildirerek, şirketin aracı polisin kendisinden daha iyi takip edebileceğini öne sürdü. Grup, raporlarının, müdahale edilmediği takdirde ABD polisliğinde daha da yaygınlaşma riski taşıyan, gölgeli yapay zeka destekli polis raporlarına olan artan bağımlılığı dizginlemesini umuyor. Şu anda bazı memurların Draft One’ı uzun süredir kullandığı yerlerde, polis raporlarının hangi kısımlarının yapay zeka tarafından oluşturulduğunu açıklığa kavuşturacak bir yasa tasarısı sunuldu. Geçmesi halinde, bu yasa “oluşturulan ilk taslağın nihai rapor saklandığı sürece saklanmasını gerektirecek” ve bu durum, Draft One’ı mevcut tasarımıyla otomatik olarak yasa dışı hale getirecek.
Kamu savunucuları, yapay zeka destekli polis raporlarının yaygınlaşmasının, memurlara ifade verirken yalan söylemekle suçlandıklarında kolay bir günah keçisi sunarak “çapraz sorgulamayı nasıl etkileyeceği” konusunda endişeler taşıyor. Bu sorunu tamamen önlemek için en az bir savcılık, “piyasadaki bazı ürünler hakkındaki meşru endişeleri” gerekçe göstererek yapay zeka polis raporlarını yasakladı. Dijital haklar grubunun aktardığına göre, bu savcılığın başlıca endişelerinden biri, yapay zeka aracının kullanılmasının “davaları tehlikeye atabileceğiydi”. Grup şimdi “diğer savcıları da örnek almaya ve kendi yargı bölgelerindeki polisten bu yeni, hesapsız ve kasıtlı olarak opak yapay zeka ürününü kullanmamalarını talep etmeye” çağırıyor.
Dijital haklar grubu, “Polisler, polis raporları yazmak için yapay zeka kullanmamalıdır. Yapay zekanın durumların sesini nasıl çevireceği, polisin bu taslakları gerçekten düzenleyip düzenlemeyeceği ve halkın neyin bir insan tarafından neyin bir bilgisayar tarafından yazıldığını asla söyleyip söyleyemeyeceği konusunda çok fazla cevapsız soru var. Bu, bu raporların zaten adaletsiz ve şeffaf olmayan bir ceza adalet sisteminde nasıl sorunlara yol açabileceği sorusuna gelmeden önce bile geçerli” diyerek endişelerini dile getiriyor.
