Kanada'nın Newfoundland ve Labrador eyaleti için hazırlanan önemli bir eğitim reformu belgesinde, yapay zeka kullanımının etik kurallarına dikkat çekilmesine rağmen en az 15 uydurma atıfın bulunduğu ortaya çıktı. Akademisyenler, bu sahte kaynakların büyük olasılıkla bir yapay zeka dil modeli tarafından üretildiğinden şüpheleniyor.
Geçtiğimiz günlerde paylaşılan ve eyaletin kamu okulları ile yükseköğretim kurumlarını modernize etmeyi amaçlayan 10 yıllık yol haritası niteliğindeki "Gelecek Vizyonu: Eğitimi Dönüştürmek ve Modernleştirmek" başlıklı 418 sayfalık rapor, 18 ay süren bir çalışmanın ürünü. Rapor, Memorial Üniversitesi Eğitim Fakültesi'nden iki profesör olan Anne Burke ve Karen Goodnough ile Eğitim Bakanı Bernard Davis tarafından kamuoyuna sunuldu.
Sahte atıflardan biri, Ulusal Film Kurulu'na ait olduğu belirtilen ancak söz konusu kurum tarafından var olmadığı açıklanan 2008 yapımı "Okul Bahçesi Oyunları" adlı bir filme referans veriyor. Bu özel atfın, öğrencilere referans formatlamayı öğreten ve "Bu rehberdeki birçok alıntı uydurmadır" uyarısını içeren bir üniversite referans rehberinden alındığı belirtiliyor. Ancak bir kişi (veya yapay zeka sohbet robotu), bu uydurma örneği sanki gerçek bir kaynakmış gibi Eğitim Mutabakatı raporuna doğrudan eklemiş.
Memorial Üniversitesi'nde yapay zeka tarihi üzerine araştırmalar yapan yardımcı doçent Dr. Aaron Tucker, raporun birçok kaynağına üniversite kütüphanesi, diğer akademik veritabanları ve Google'da yaptığı aramalara rağmen ulaşamadığını belirtti. Tucker, "Kaynakların uydurulması, bunun üretken yapay zekadan gelip gelmediği sorusunu akla getiriyor. Yapay zeka olup olmadığını bilmiyorum ama kaynak uydurmak, yapay zekanın belirgin bir işaretidir" dedi.
Yapay zeka dil modellerinin ortaya çıkışından bu yana, uydurma atıflar üretmek sürekli bir sorun teşkil ediyor. Akademik ve yasal bağlamlarda uydurma kaynakların güvenilir görünmesi ve insan denetimini kolayca aşabilmesi nedeniyle ciddi sorunlara yol açabiliyor.
ChatGPT, Gemini ve Claude gibi yapay zeka dil modelleri, öncelikle doğru değil, akla yatkın çıktılar ürettikleri için bu tür ikna edici kurgular oluşturma konusunda oldukça başarılı. Bu modeller, eğitim sırasında öğrendikleri kalıplara dayalı istatistiksel yaklaşımlarla içerik üretir. Bu kalıplar gerçeklikle örtüşmediğinde, sonuç kendinden emin görünen yanlış bilgiler olur. Gerçek kaynakları arayabilen yapay zeka modelleri bile potansiyel olarak atıfları uydurabilir, yanlış olanları seçebilir veya yanlış karakterize edebilir.
Raporun danışma kurulundan Ocak ayında istifa eden ve süreci "derinlemesine kusurlu" olarak nitelendiren Dr. Josh Lepawsky, "Hatalar olur. Uydurma alıntılar ise malzemenin güvenilirliğini temelden sarsan tamamen farklı bir durumdur" dedi.
Raporun en ironik yönlerinden biri ise, belgede yer alan 110 tavsiyeden birinin, il ve ilçe yönetimlerinin "öğrencilere ve eğitimcilere yapay zeka etiği, veri gizliliği ve sorumlu teknoloji kullanımı dahil olmak üzere temel yapay zeka bilgileri sağlaması" gerektiğini belirtmesi.
Belgeyi günlerce inceleyen Memorial Üniversitesi Siyaset Bilimi profesörü Dr. Sarah Martin, birden fazla uydurma atıf keşfetti. Martin, "Bulamadığım referansların etrafında başka bir açıklama düşünemiyorum. 'Bu doğru olmalı, bu olmaması mümkün değil' diyorsunuz. Bu, eğitim politikası için çok önemli bir belgedeki bir alıntı" dedi.
Söz konusu üniversiteyle iletişime geçildiğinde, eş başkan Karen Goodnough bir röportaj talebini reddederek e-posta yoluyla şunları belirtti: "Araştırma yapıyoruz ve referansları kontrol ediyoruz, bu nedenle şu anda yanıt veremem."
Eğitim ve Erken Çocukluk Geliştirme Bakanlığı'ndan bir sözcü, bir açıklamasında "atıflarda küçük bir dizi potansiyel hata" olduğunu kabul ederek, bu sorunların ele alındığını ve çevrimiçi raporun önümüzdeki günlerde herhangi bir hatayı düzeltmek için güncelleneceğini bildirdi.
