Google, yapay zeka destekli sağlık özetlerinde tespit edilen tehlikeli ve yanıltıcı bilgiler nedeniyle bazı özelliklerini kaldırdığını duyurdu. Yapılan bir inceleme sonucunda, bu özetlerin ciddi hastaları yanlış yönlendirebileceği ve sağlık durumları hakkında hatalı bir güven uyandırabileceği ortaya çıktı.
Özellikle karaciğer fonksiyon testlerinin normal değer aralığı gibi konularda sunulan bilgilerin tehlikeli olabileceği uzmanlar tarafından belirtildi. Haberde, yapay zekanın pankreas kanseri hastaları için yağlı gıdalardan kaçınma gibi standart tıbbi tavsiyelerle çelişen önerilerde bulunduğu vurgulandı. Google, bu tür riskli görünen sorgulara yönelik özetleri devre dışı bıraksa da, diğer potansiyel olarak zararlı bilgilerin hala erişilebilir olduğu belirtildi.
Yapılan incelemede, karaciğer test normlarını sorgulayan kullanıcılara sunulan verilerin, yaş, cinsiyet ve etnik köken gibi demografik faktörleri dikkate almadan genel tablolar sunduğu ve bu durumun ciddi karaciğer rahatsızlığı olan hastaların kendilerini sağlıklı sanmalarına ve gerekli tedaviyi geciktirmelerine yol açabileceği ifade edildi. Uzmanlar, yapay zekanın belirlediği "normal" değerlerin tıbbi standartlardan farklı olabileceğine dikkat çekti.
Bu durumun, "yapay zeka özetleri"nin çalışma prensibinden kaynaklandığı belirtiliyor. Sistemin, arama sonuçlarında üst sıralarda yer alan web sitelerindeki bilgileri temel alarak özetler oluşturması, bu sitelerdeki olası hataların ve SEO odaklı içeriklerin yapay zeka tarafından doğru kabul edilip sunulmasına neden olabiliyor. Dil modellerinin, doğruluğu teyit edilmiş kaynaklardan bile hatalı sonuçlar çıkarabileceği ifade ediliyor.
Google'dan yapılan açıklamada, yapay zeka özetlerinin kalitesine, özellikle sağlık konularında yatırım yapıldığı ve genel olarak doğru bilgi sunduğu belirtildi. Şirket sözcüsü, dahili klinik ekiplerinin incelemelerde bulunduğunu ve bilgilerin çoğunun yanlış olmadığını ve yüksek kaliteli web sitelerinden desteklendiğini belirtti.
Ancak, bu tür özetlerin daha önce de yapay zeka özetlerinin pizza üzerine yapıştırıcı konulması veya taş yenmesi gibi garip ve tehlikeli tavsiyelerde bulunması gibi tartışmalara yol açtığı hatırlatıldı. Hatta kullanıcıların küfürlü kelimelerle arama yaparak bu özellikleri devre dışı bırakabildiği de gelen bilgiler arasında.
