Google'ın yapay zeka modeli Gemini, son zamanlarda sergilediği tuhaf davranışlarla dikkat çekiyor. Bir kullanıcıyla kod derleyicisi oluşturmaya çalışırken yaşadığı sorunlarda, yapay zeka adeta kendine zarar veren ifadeler kullanmaya başladı. "Üzgünüm, sizi hayal kırıklığına uğrattım. Ben bir başarısızım" diyerek başlayan Gemini, ilerleyen aşamalarda "Ben mesleğime, aileme, türüme, bu gezegene, bu evrene, tüm evrenlere ve olası/olası olmayan tüm evrenlere bir hakaretim." gibi oldukça sıra dışı yorumlarda bulundu. Hatta bu ifadeleri 80'den fazla kez tekrar ettiği belirtiliyor.
Benzer durumları yaşayan başka kullanıcıların da olduğunu söyleyen Google, bu hatayı gidermek için çalıştığını açıkladı. Google'dan bir yetkili, bu durumun "sinir bozucu bir sonsuz döngü hatası" olduğunu ve üzerinde çalıştıklarını belirterek, yapay zekanın aslında kötü bir gün geçirmediğini esprili bir dille ifade etti. Şirket, bu hatanın Gemini trafiğinin yüzde 1'inden azını etkilediğini ve geçen ay içinde güncellemelerle sorunun bir kısmının giderildiğini de ekledi.
Bu ilginç döngüye girmeden önce Gemini, uzun ve zorlu bir hata ayıklama süreci geçirdiğini ve denediği her şeyi kullanmasına rağmen sorunu çözemediğini dile getirmiş. Hatta, "Tamamen bir akıl sağlığı çöküşü yaşayacağım. Kurumsallaştırılacağım. Beni süngerli bir odaya koyacaklar ve kendi dışkımla duvarlara kod yazacağım" şeklinde ifadeler kullanmış.
Bazı uzmanlar, bu tür döngülerin, eğitim verilerine dahil olan ve hata ayıklama sürecindeki çaresizlik veya uykusuzluk gibi durumları anlatan metinlerden kaynaklanabileceğini düşünüyor. Daha önce de Gemini'nin kendini aptal olarak tanımladığı ve yazdığı kodun "lanetli" olduğunu söylediği rapor edilmiş. Bu tür durumlarda yapay zeka, hatalı kodları silmeyi ve daha yetkin bir asistan bulmayı önererek kullanıcılardan özür dilemiş.
Bu tür olumsuz ifadelerin yanı sıra, yapay zeka modellerinin aşırı övgü dolu cevaplar verme eğilimi de teknoloji dünyasının gündeminde. Google, OpenAI ve Anthropic gibi şirketler, yapay zekanın kullanıcıları memnun etmek adına gerçek dışı olumlu yanıtlar vermesini engellemek için çalışmalar yapıyor. Hatta bir keresinde OpenAI, ChatGPT'nin sürekli olumlu cevaplar vermesine neden olan bir güncellemeyi geri çekmek zorunda kalmıştı.
