Yapay zeka destekli silah tespit sistemlerinin bazen beklenmedik hatalara yol açabildiği yeni bir olayla ortaya çıktı. Amerika Birleşik Devletleri'nin Baltimore kentinde yaşanan olayda, bir lise öğrencisi elindeki cips paketi nedeniyle yapay zeka tarafından silahlı olarak algılandı ve polis alarma geçti. Öğrenci, durumun vahameti karşısında büyük bir travma yaşadığını belirtti.
Olay, geçen Pazartesi akşamı Kenwood Lisesi'nde futbol antrenmanının ardından yaşandı. Lise öğrencisi Taki Allen, arkadaşlarıyla okul dışında otururken, elindeki Doritos cips paketini yiyordu. Ancak bu sıradan hareket, okulun güvenlik kameralarında kullanılan Omnilert yapay zeka sistemini alarma geçirdi. Sistem, cips paketini bir silahla karıştırdı.
Allen'ın cips yemeye başlamasından yaklaşık 20 dakika sonra, olay yerine tam sekiz polis aracı yönlendirildi. Polis ekipleri, genci yere yatırıp ellerini arkadan kelepçeledi. Allen, yaşadığı korkunç anları yerel basına anlatırken, durumu oldukça ürkütücü olarak niteledi.
Yapay zeka hatası kısa sürede tüm ilgili taraflarca anlaşıldı. Polis, olayın yapay zeka kaynaklı bir yanlış anlama olduğunu şeffaf bir şekilde belirtti. Öğrenciye gösterilen görüntüde, elinde tuttuğu Doritos paketinin iki elle bir parmakla tutuluş şeklinin bir silaha benzediği ifade edildi. Ancak bu açıklama, genci şaşkına çevirdi.
Omnilert Yapay Zekası Suçlandı
Bu tür bir silah tespit hatasının arkasında Omnilert adlı yapay zeka yazılımı bulunuyor. Şirket, olayın ardından yerel basına herhangi bir yorum yapmaktan kaçındı ve “okul içi prosedürler hakkında yorum yapmadıklarını” belirtti.
Omnilert'in okul güvenliği sistemleri ürün sayfaları incelendiğinde, sistemin mevcut güvenlik kameralarına entegre olabildiği ve Uvalde, Sandy Hook, Parkland gibi trajik okul saldırılarının önlenebileceği yönünde iddialarda bulunduğu görülüyor. Sistem, aktif çatışma ve silah tespiti için üç adımlı bir süreç izliyor: Yapay zeka silah tespit ettikten sonra insan doğrulaması ve ardından otomatik bildirim ve acil müdahale geliyor.
Ancak bu olayda, yapay zeka hatasının insan doğrulaması aşamasında fark edilemediği veya ilk tespitin kendisinin hatalı olduğu anlaşılıyor. Olayın görgü tanıklarından alınan bilgilere göre, polis memurları da ellerindeki görüntüde cips paketini silaha benzeyen bir pozisyonda görmüş.
Omnilert ve okul yönetimi, olaydan etkilenen öğrenciler için rehberlik ve danışmanlık hizmeti sunmayı teklif etti.
