Avustralya'da yayımlanan bir teknoloji haberine göre, Deloitte'un hazırladığı ve yapay zekanın ürettiği gerçek dışı atıflarla dolu bir raporda hata yaptığı ortaya çıktı. Bu gelişme üzerine şirket, Avustralya hükümetine söz konusu rapor için kısmi bir geri ödeme yapacağını duyurdu.
Deloitte tarafından hazırlanan ve Avustralya İstihdam ve İşgücü İlişkileri Bakanlığı (DEWR) tarafından Ağustos ayında yayımlanan raporda, yapay zekanın oluşturduğu, var olmayan araştırmalara ve alıntılara yer verildiği belirlendi. Yaklaşık 440 bin Avustralya doları (yaklaşık 290 bin ABD doları) tutan rapor, hükümetin refah sistemi kapsamındaki cezaları otomatikleştirmek için kullandığı teknik çerçeve üzerine odaklanıyordu.
Rapor yayımlandıktan kısa bir süre sonra, bir üniversite akademisyeni, raporda atıfta bulunulan birçok yayının ve makalenin gerçek olmadığını fark etti. Bu durum, özellikle Sidney Üniversitesi Hukuk Fakültesi'nde görev yapan gerçek bir profesöre ait olduğu belirtilen ancak aslında var olmayan yayınlara yapılan atıflarla daha da belirginleşti.
Akademisyenler, raporun bu şekilde kendilerine atfedilen araştırmalarla dolu olmasının endişe verici olduğunu belirterek, Deloitte'tan bu atıfların nasıl oluşturulduğuna dair bir açıklama talep ettiler.
“Küçük Düzeltmeler” Adı Altında Yapılan Açıklama
Deloitte ve DEWR, bu durumu Cuma günü yayımlanan raporun güncellenmiş bir versiyonunda, “atıflar ve dipnotlardaki küçük bir dizi düzeltmeyi ele almak” amacıyla açıkladı. Raporun 273 sayfalık güncellenmiş versiyonunun 58. sayfasında, Deloitte'un, iş gereksinimleri ve uyumluluk ihtiyaçlarıyla eşleşip eşleşmediğini değerlendirmek amacıyla teknik çalışma sürecinin bir parçası olarak kullanıldığını belirttiği bir yapay zeka aracına (Azure OpenAI GPT-4o tabanlı bir araç zinciri) atıfta bulunulduğu görüldü.
Orijinal raporda yer alan 141 kaynağın sadece 127'si güncellenmiş raporda bulunuyor. Var olmayan yayınlara yapılan atıfların yanı sıra, güncellenmiş raporda federal yargıç Jennifer Davies'e (orijinal raporda 'Davis' olarak yazılmış) atfedilen uydurma bir alıntı da kaldırıldı.
Deloitte Avustralya, hükümetle olan sözleşmesinin son taksitini geri ödeyeceğini belirtti. DEWR sözcüsü ise raporun bağımsız incelemesinin özünün korunduğunu ve tavsiyelerde herhangi bir değişiklik olmadığını söyledi.
Ancak, raporun temelinin hatalı, başlangıçta açıklanmayan ve uzman olmayan bir metodoloji üzerine kurulduğu düşünüldüğünde, tavsiyelere güvenilemeyeceği yönünde görüşler de dile getirildi. Deloitte'un yapay zeka kullandığını ilk başta gizlemesi, konuyu daha da karmaşık hale getirdi.
