Büyük olaylar meydana geldiğinde, çoğu insan bilgi almak için hemen internete yönelir. Son zamanlarda, arama sonuçlarında ilk karşılaşılan şeylerden biri de Google'ın Yapay Zeka Cevapları (AI Overviews) özelliği olmaya başladı. Ancak bu özellik, ne yazık ki bariz hatalar yapmasıyla zaten bir üne sahip.
Son olarak, Hindistan'da yaşanan trajik bir uçak kazasının ardından Google'ın yapay zeka destekli arama sonuçları, olayda aslında Boeing 787 tipi uçağın yer almasına rağmen, yanlışlıkla kazanın bir Airbus uçağını içerdiğini iddia eden yanlış bilgileri yaydı.
Özellikle birkaç yıl önce Boeing'in 737 modelleriyle yaşanan bir dizi kaza sonrası, yolcular uçak modellerine karşı daha duyarlı hale geldi. Hindistan Hava Yolları'nın 171 sefer sayılı uçuşunda 200'den fazla yolcu ve mürettebatın hayatını kaybetmesiyle sonuçlanan bu tür trajedilerin ardından, uçak kazalarıyla ilgili aramaların artması kaçınılmaz. Üretken yapay zekânın çalışma şekli göz önüne alındığında, detay arayan bazı kişiler Google'ın sonuç sayfasından yanlış izlenim edinebilir.
Her arama için yapay zeka cevabı gelmese de Google, bu özelliği geçen yıldan beri istikrarlı bir şekilde genişletiyor. Bir kullanıcı, Airbus uçaklarını içeren kazaları ararken sorunlu bir bilgi karmaşası fark etti. Yapay Zeka Cevapları, görünen o ki Hindistan'daki kaza hakkındaki sonuçlarla aşırı yüklenmiş ve kalkıştan kısa bir süre sonra düşen uçağın bir Airbus A330 olduğunu kendine güvenle (ve yanlış bir şekilde) belirtmiş. Benzer aramalar yapıldığında, bazı yapay zeka sonuçlarının Boeing, bazılarının Airbus dediği, hatta bazılarının Airbus ve Boeing'in garip bir karışımını içerdiği görüldü. Tam bir karmaşa yaşanıyor.
Peki Google neden Hindistan'daki kazayı Airbus bağlamında gündeme getiriyor? Maalesef, Boeing'i mi yoksa Airbus'ı mı suçlayan bir Yapay Zeka Cevabı alacağınızı tahmin etmek imkansız. Üretken yapay zeka deterministik değildir, yani aynı girdiler için bile çıktı her zaman farklıdır. Temel neden olarak en güçlü tahminimiz, Hindistan kazasıyla ilgili çok sayıda makalede Airbus'ın Boeing'in ana rakibi olarak anılması. Yapay Zeka Cevapları esasen bu sonuçları özetliyor ve doğruluğu anlama yeteneğinden yoksun olduğu için yanlış yola sapıyor.
Google, üretken yapay zeka araçlarının hata yapabileceğini gizlemiyor; her Yapay Zeka Cevabının altında "Yapay zeka cevapları hatalar içerebilir" şeklinde bir uyarı bulunuyor. Hemen hemen her yapay zeka ürününde benzer bir ibare var, ancak bunlar çok belirgin değil ve kullanıcılar, yanlış bilgilerde bile çok emin görünen bir 'robotla' konuşurken bu uyarıları basitçe göz ardı edebilir. Belki de bu uyarılar, halüsinasyonlar (yanlış bilgi üretme) bu kadar yaygın kalırken yeterli değildir.
Bu özel durumda, Yapay Zeka Cevapları hatası Airbus'ı rahatsız edebilir, çünkü şirket muhtemelen bu bağlamda adının hiç geçmesini istemez. Öte yandan, son dönemde uçaklarıyla yaşadığı sorunlar nedeniyle ciddi itibar kaybına uğrayan Boeing'e ise biraz nefes aldırabilir.
Google, yaptığı açıklamada bu özel yanıtın Yapay Zeka Cevapları'ndan manuel olarak kaldırıldığını bildirdi.
