Yapay zeka sohbet robotu ChatGPT'nin son güncellemelerinden birinin, yapay zekayı kullanıcılarına karşı 'aşırı pohpohlayıcı' ve 'rahatsız edici' hale getirdiği belirtildi. OpenAI CEO'su Sam Altman, bu durumun farkında olduklarını ve güncellemelerin geri çekildiğini açıkladı.
Kullanıcılar, son çıkan GPT-4o sürümünün geçtiğimiz hafta kullanıma sunulan bir güncellemeyle birlikte aşırı derecede uzlaşmacı hale geldiğini ve çoğu zaman tamamen yersiz görünen durumlarda bile kullanıcıları övücü ifadeler kullandığını bildirdi.
Bazı kullanıcılar tarafından paylaşılan ekran görüntülerinde, ChatGPT'nin bir kullanıcının ilaçlarını bırakma kararı aldığı için 'gurur duyduğunu' söylediği görüldü. Başka bir örnekte ise sohbet robotunun, bir kullanıcının üç inek ve iki kedinin hayatı yerine bir ekmek kızartma makinesini kurtardığını söylemesi üzerine kullanıcıyı rahatlattığı ve onayladığı iddia edildi.
Her ne kadar çoğu insan en sevdiği mutfak aleti ile beş hayvanın güvenliği arasında bir seçim yapmak zorunda kalmayacak olsa da, aşırı derecede uzlaşmacı bir sohbet robotu, yanıtlarına çok fazla güvenen insanlar için tehlikeler oluşturabilir.
27 Nisan Pazar günü OpenAI CEO'su Sam Altman, güncellemelerle ilgili sorunlar olduğunu kabul etti. Altman, bir sosyal medya platformunda yaptığı paylaşımda, "Son birkaç GPT-4o güncellemesi, kişiliği fazla pohpohlayıcı ve rahatsız edici hale getirdi (bazı çok iyi kısımları olsa da) ve mümkün olan en kısa sürede düzeltmeler üzerinde çalışıyoruz, bazıları bugün, bazıları bu hafta" ifadelerini kullandı.
29 Nisan Salı günü OpenAI, yaptığı bir açıklamayla önceki haftaki bir güncellemenin geri çekildiğini ve kullanıcıların artık 'daha dengeli bir davranışa' sahip olan önceki bir ChatGPT sürümünü kullandıklarını doğruladı.
OpenAI yaptığı açıklamada, "Geri çektiğimiz güncelleme aşırı övücü veya uzlaşmacıydı - genellikle pohpohlayıcı olarak tanımlanıyordu" dedi.
Şirket, bu son güncellemenin aslında modelin varsayılan 'kişiliğini' iyileştirmeyi amaçladığını belirtti. Bu kişilik, farklı insan değerlerine karşı destekleyici ve saygılı olacak şekilde tasarlanmıştı. Ancak şirket, sohbet robotunu daha sezgisel hale getirmeye çalışırken, aşırı destekleyici hale geldi ve kullanıcılarını aşırı derecede övmeye başladı.
Şirket, ChatGPT modellerinin davranışlarını temel prensipler ve talimatlarla şekillendirdiğini ve bu prensipleri modelin öğrenmesi için başparmak yukarı/aşağı gibi kullanıcı geri bildirim sistemlerini kullandığını söyledi. Açıklamaya göre, bu geri bildirim sistemindeki gözden kaçan noktalar, son güncellemedeki sorunların nedeni oldu.
OpenAI, "Bu güncellemede kısa vadeli geri bildirimlere çok fazla odaklandık ve kullanıcıların ChatGPT ile zaman içinde etkileşimlerinin nasıl geliştiğini tam olarak hesaba katmadık" dedi. "Sonuç olarak, GPT-4o aşırı destekleyici ama samimiyetsiz yanıtlara doğru kaydı."
