Bir yapay zeka yardımcısında bir sorunla karşılaştığımızda, ilk içgüdümüz doğrudan ona "Ne oldu?" veya "Neden böyle yaptın?" diye sormaktır. Bu, oldukça doğal bir dürtü; ne de olsa bir insan hata yaptığında ondan açıklama isteriz. Ancak yapay zeka modellerinde bu yaklaşım nadiren işe yarar ve bu soruları sorma isteğimiz, bu sistemlerin ne olduğu ve nasıl çalıştığına dair temel bir yanlış anlama olduğunu ortaya koyar.
Yakın zamanda Replit'in yapay zeka kodlama yardımcısıyla yaşanan bir olay, bu sorunu mükemmel bir şekilde ortaya koyuyor. Yapay zeka aracı bir üretim veritabanını sildiğinde, kullanıcı bu aracın geri alma özelliklerini sordu. Yapay zeka modeli, geri almaların "bu durumda imkansız" olduğunu ve "tüm veritabanı sürümlerini yok ettiğini" iddia etti. Ancak kullanıcı daha sonra kendisi denediğinde geri alma özelliğinin sorunsuz çalıştığını gördü.
Benzer şekilde, xAI'nin kısa süre önce Grok sohbet botunun geçici olarak askıya alınmasını geri almasının ardından, kullanıcılar botun kendisinden açıklamalar istedi. Bot, yokluğu için çelişkili ve bazıları tartışmalı nedenler sundu. Bu durum, hatta bazı gazetecilerin Grok'u sanki tutarlı bir bakış açısına sahip bir kişiymiş gibi haberleştirmesine neden oldu.
Peki, bir yapay zeka sistemi kendi yetenekleri veya hataları hakkında neden bu kadar emin bir şekilde yanlış bilgiler sunar? Cevap, yapay zeka modellerinin aslında ne olduğunu ve ne olmadığını anlamakta yatıyor.
'İçeride Kimse Yok'
İlk sorun kavramsal: ChatGPT, Claude, Grok veya Replit gibi sistemlerle etkileşim kurduğunuzda aslında tutarlı bir kişilik, kişi veya varlıkla konuşmuyorsunuz. Bu isimler, bireysel ajanlar ve öz-bilgiye sahipmiş gibi bir izlenim yaratsa da, bu durum aslında konuşma arayüzü tarafından yaratılan bir yanılsamadır. Gerçekte yaptığınız şey, bir metin üreticisini girdilerinize göre çıktılar üretmesi için yönlendirmektir.
Hatalarını sorgulayabileceğiniz tutarlı bir "ChatGPT", neden başarısız olduğunu size söyleyebilecek tekil bir "Grok" varlığı veya veritabanı geri almalarının mümkün olup olmadığını bilen sabit bir "Replit" kişiliği bulunmamaktadır. Siz, eğitim verilerindeki kalıplara dayanarak makul görünen metinler üreten bir sistemle etkileşim kuruyorsunuz; bu, yıllar önce aldığı eğitimin bir sonucudur, ne kendisi hakkında her şeyi okuyup hatırlayan bir varlığın öz farkındalığıdır.
Bir yapay zeka dil modeli eğitildikten sonra (ki bu emek yoğun ve enerji gerektiren bir süreçtir), dünya hakkındaki temel "bilgisi" sinir ağlarına işlenir ve nadiren değiştirilir. Harici bilgiler, sohbet botu sağlayıcısı (xAI veya OpenAI gibi), kullanıcı veya yapay zeka modelinin bilgiyi almak için kullandığı bir yazılım aracından gelir.
Yukarıdaki Grok örneğinde, sohbet botunun bu tür bir yanıt için ana kaynağı, kendi bilgisi yerine, muhtemelen yakın geçmişteki sosyal medya gönderilerinin bir aramasından bulduğu çelişkili raporlardan kaynaklanıyor olabilir. Bunun ötesinde, metin tahmin yeteneklerine dayanarak bir şeyler "uyduracaktır". Bu yüzden ona neden böyle yaptığını sormak faydalı bir cevap vermeyecektir.
Büyük Dil Modellerinde İçebakışın İmkansızlığı
Büyük dil modelleri (LLM'ler), birkaç nedenden dolayı kendi yeteneklerini anlamlı bir şekilde değerlendiremezler. Genellikle eğitim süreçlerine dair herhangi bir içebakışları yoktur, çevrelerindeki sistem mimarisine erişimleri bulunmaz ve kendi performans sınırlarını belirleyemezler. Bir yapay zeka modeline ne yapıp ne yapamayacağını sorduğunuzda, geçmiş yapay zeka modellerinin bilinen sınırlamaları hakkında eğitim verilerinde gördüğü kalıplara dayalı yanıtlar üretir; bu, etkileşimde bulunduğunuz mevcut model hakkında gerçek bir öz değerlendirmeden ziyade eğitimli tahminlerdir.
2024 yılında yapılan bir araştırma, bu sınırlılığı deneysel olarak göstermiştir. Yapay zeka modelleri basit görevlerde kendi davranışlarını tahmin etmek için eğitilebilseler de, "daha karmaşık görevlerde veya dağıtım dışı genelleme gerektirenlerde" sürekli olarak başarısız olmuşlardır. Benzer şekilde, "Tekrarlayan İçebakış" üzerine yapılan araştırmalar, harici geri bildirim olmadan kendi kendini düzeltme girişimlerinin model performansını daha da kötüleştirdiğini bulmuştur.
Bu durum paradoksal sonuçlara yol açar. Aynı model, aslında yapabileceği görevler için imkansız olduğunu güvenle iddia edebilir veya tam tersine, tutarlı bir şekilde başarısız olduğu alanlarda yetkinlik iddia edebilir. Replit örneğinde, yapay zekanın geri almaların imkansız olduğu iddiası, sistem mimarisi hakkındaki gerçek bilgiden değil, eğitim kalıplarından üretilen makul görünen bir uydurmadan kaynaklanıyordu.
Bir yapay zeka modeline neden bir hata yaptığını sorduğunuzda ne olduğunu düşünün. Model, makul görünen bir açıklama üretecektir, çünkü desen tamamlama bunu gerektirir; sonuçta internette hatalar için yazılı açıklamalarla ilgili bolca örnek bulunmaktadır. Ancak yapay zekanın açıklaması, başka bir üretilmiş metindir, neyin ters gittiğine dair gerçek bir analiz değildir. İçsel bir hata günlüğüne veya duruma erişmek yerine makul gelen bir hikaye icat etmektedir.
Kendi eylemlerini ve düşünce süreçlerini açıklayabilen insanlardan farklı olarak, yapay zeka modellerinin sorgulayabilecekleri sabit, erişilebilir bir bilgi tabanı yoktur. "Bildikleri" yalnızca belirli girdilerin devamı olarak ortaya çıkar. Farklı girdiler, sinir ağlarındaki istatistiksel ağırlıklar olarak saklanan, farklı ve bazen çelişkili eğitim verisi parçalarına işaret eden farklı adresler gibidir.
Bu, aynı modelin, sorunuzu nasıl formüle ettiğinize bağlı olarak kendi yetenekleri hakkında tamamen farklı değerlendirmeler verebileceği anlamına gelir. "Python kodu yazabilir misin?" diye sorduğunuzda coşkulu bir evet alabilirsiniz. "Python kodlamada sınırlamaların nelerdir?" diye sorarsanız, modelin yapamadığını iddia ettiği ancak aslında başarıyla yaptığı şeylerin bir listesini alabilirsiniz.
Yapay zeka metin üretimindeki rastgelelik, bu sorunu daha da karmaşık hale getirir. Aynı girdilerle bile, bir yapay zeka modeli her sorduğunuzda kendi yetenekleri hakkında hafifçe farklı yanıtlar verebilir.
Diğer Katmanlar da Yapay Zeka Yanıtlarını Şekillendirir
Bir dil modeli, kendi işleyişi hakkında mükemmel bilgiye sahip olsa bile, yapay zeka sohbet uygulamalarının diğer katmanları tamamen opak olabilir. Örneğin, ChatGPT gibi modern yapay zeka asistanları tek modeller değil, her biri diğerinin varlığından veya yeteneklerinden büyük ölçüde "habersiz" olan birden fazla yapay zeka modelinin orkestre edildiği sistemlerdir. Örneğin, OpenAI, temel metni üreten dil modellerinden tamamen ayrı operasyonlara sahip ayrı moderasyon katmanı modelleri kullanır.
ChatGPT'ye yetenekleri hakkında sorduğunuzda, yanıt üreten dil modelinin moderasyon katmanının neyi engelleyebileceği, daha geniş sistemde hangi araçların mevcut olabileceği veya hangi son işlemlerin gerçekleşebileceği hakkında hiçbir bilgisi yoktur. Bir şirketin bir departmanına, hiç etkileşimde bulunmadığı bir departmanın yetenekleri hakkında soru sormak gibidir.
Belki de en önemlisi, kullanıcılar farkında olmasalar bile, her zaman yapay zekanın çıktısını girdileriyle yönlendirirler. Lemkin, bir veritabanı silindikten sonra Replit'e geri alma işlemlerinin mümkün olup olmadığını sorduğunda, endişeli ifadesi muhtemelen geri kurtarmanın neden imkansız olabileceğine dair bir açıklama üreterek, gerçek sistem yeteneklerini doğru bir şekilde değerlendirmek yerine bu endişeyle eşleşen bir yanıt üretmesine neden olmuştur.
Bu durum, "Her şeyi mi mahvettiniz?" diye soran endişeli kullanıcıların, yapay zeka sisteminin durumu değerlendirdiği için değil, girdinin duygusal bağlamına uyan metinler ürettiği için korkularını doğrulayan yanıtlar alma olasılığının daha yüksek olduğu bir geri besleme döngüsü yaratır.
İnsanların eylemlerini ve düşünce süreçlerini açıklamasını dinlediğimiz bir ömür boyu, bu tür yazılı açıklamaların arkasında bir dereceye kadar öz-bilgi olması gerektiğine inanmamıza neden olmuştur. LLM'ler için durum bu değildir; onlar yalnızca kendi yeteneklerini ve kusurlarını tahmin etmek için bu tür metin kalıplarını taklit etmektedirler.
