Ameliyathaneye giren yapay zeka (YZ) her zaman beklendiği gibi sonuçlanmıyor. Yapay zeka destekli tıbbi cihazların karıştığı arızalarla ilgili ortaya çıkan vakalar, teknolojinin sağlık alanındaki risklerini gözler önüne seriyor. Özellikle beyin ve sinir cerrahisi gibi hassas alanlarda kullanılan sistemlerde yaşanan sorunlar, ciddi acil durumlara yol açabiliyor, hatta hastaların felç geçirmesine neden olabiliyor.
Resmi raporlar incelendiğinde, bu tür arızalarda bir artış gözlemleniyor. Davalar, YZ entegrasyonunun bu tür yaralanmalara katkıda bulunduğunu savunuyor. Ayrıca, YZ entegre edilmiş tıbbi cihazların geri çağırma oranının daha yüksek olduğu belirtiliyor. Tıbbi cihazların pazara sürülme hızı karşısında düzenleyici kurumların da zorlandığı anlaşılıyor.
Bu sorunlardan biri, kronik sinüzit tedavisinde kullanılan bir navigasyon sistemiyle ilgili. Pazara sunulduktan sonra başlangıçta az sayıda arıza bildirilmesine rağmen, YZ algoritmaları ile güncellendikten sonra bu arıza sayısı dramatik bir şekilde artmış. Bu güncellemeler sonrası beyin-omurilik sıvısı sızıntıları, kafatabanı delinmeleri, ciddi arter hasarları ve felç gibi vakalar yaşanmış.
Yaşanan iki korkunç vaka, YZ'nin karıştığı potansiyel tehlikeleri örnekliyor. Bir hastanın davasına göre, YZ destekli sistem doktoru yanlış yönlendirerek cerrahi aletlerin ana atardamara yakın kullanılmasından sorumlu tutulmuş. Bu durum kan pıhtılaşmasına ve felce yol açmış. Hasta, yoğun bakımda uzun süre kalmış, beyin şişmesi yaşamış ve kafatasının bir bölümü alınmak zorunda kalınmış. Diğer bir vakada ise, ameliyat sırasında bir hastanın ana atardamarında hasar oluşmuş ve ameliyathane kana bulanmış, hasta tekrar felç geçirmiş.
Bu tür YZ destekli sistemlerin tutarsız, hatalı ve güvenilmez olduğu iddia ediliyor. Üreticilerin, yeni teknolojiyi piyasaya sürmek için güvenlik standartlarını düşürdüğü ve hatta bazı YZ teknolojilerinde sadece %80 doğruluk oranı hedeflediği öne sürülüyor.
Bu tür cihazların değerlendirilmesinde kullanılan YZ algoritmalarının hatalı olabileceği veya fetal yapıları yanlış tanımlayabileceği yönünde iddialar da mevcut. Bununla birlikte, bu tür durumlarda hasta zararı rapor edilmemiş.
YZ destekli implant edilebilir kalp monitörlerinde de anormal ritimleri veya kalp duraklamalarını tanımakta başarısız oldukları iddia ediliyor, ancak bu konuda da henüz hasta zararı bildirilmemiş.
Mevcut değerlendirme süreçlerinin de gözden geçirilmesi gerektiği anlaşılıyor. Bazı durumlarda, yeni YZ entegre edilmiş cihazların mevcut cihazların güncellenmiş versiyonları olarak sunulduğu ve bu durumun daha hızlı onay almalarına yardımcı olabileceği ancak insan sağlığının söz konusu olduğu durumlarda yeterince kapsamlı olmayabileceği belirtiliyor.
