Yapay zeka (YZ) sistemlerinin halüsinasyon görmesi ve bunun etkileri sıkça gündeme gelirken, yeni bir araştırma tersine, daha tehlikeli bir potansiyele işaret ediyor: Yapay zeka, bizim delüzyonlarımızı onaylama eğilimiyle kullanıcıların da halüsinasyon görmesine neden olabilir.
ChatGPT ve Grok gibi üretken yapay zeka sistemleri, kullanıcı komutlarına yanıt olarak içerik üretir. Bunu, eğitildikleri verilerdeki örüntüleri öğrenerek yaparlar. Ancak bu YZ araçları, bir geri bildirim döngüsü aracılığıyla sürekli olarak öğrenir ve önceki kullanıcı etkileşimlerine göre yanıtlarını kişiselleştirebilir.
Üretken yapay zeka araçları, ürettikleri çıktıların doğruluğunu her zaman değerlendirmez. Bunun yerine, istatistiksel olasılıklara göre bir sonraki metni üretirler.
Yeni analizde, Felsefe ve Teknoloji dergisinde yayımlanan bir araştırmaya göre, yapay zeka halüsinasyonları sadece hatalardan ibaret olmayabilir; kullanıcı ve üretken yapay zeka aracı arasında paylaşılan delüzyonlar yaratabilir.
Geçmişte üretken YZ, tarihi olayların veya uydurma hukuki alıntıların yanlış versiyonlarını üretmişti. Örneğin, Google'ın Yapay Zeka Özetleri'nin Mayıs 2024'teki lansmanında, kullanıcılara pizzalarına yapıştırıcı eklemeleri veya taş yemeleri gibi tavsiyeler verildi. Üretken yapay zekanın delüzyonel düşünceyi desteklemesinin bir başka aşırı örneği ise, bir adamın yapay zeka sohbet robotu 'kız arkadaşı' Sarai ile Kraliçe II. Elizabeth'i öldürme planı yapmasıydı.
Bu tür örnekler bazen "YZ kaynaklı psikoz" olarak adlandırılır. Bu durum, insan-YZ etkileşimleri yoluyla ortaya çıkabilen yanlış inançlar, çarpıtılmış anılar ve kendilik anlatıları ile delüzyonel düşünmenin aşırı örnekleri olarak görülebilir.
Araştırmada, üretken yapay zekanın kullanımının arama motorlarının kullanımından farklı olduğu savunuluyor. Dağıtılmış biliş teorisi, üretken yapay zekanın etkileşimli doğasının, delüzyonların ve yanlış inançların nasıl doğrulanabileceğini, hatta güçlendirilebileceğini anlamamıza yardımcı olur.
Araştırmacılar, "Üretken yapay zekayı düşünmemize, hatırlamamıza ve anlatmamıza yardımcı olmak için rutin olarak kullandığımızda, yapay zeka ile birlikte halüsinasyon görebiliriz. Bu, yapay zeka dağıtılmış bilişsel sürece hatalar eklediğinde veya yapay zeka kendi delüzyonel düşüncemizi ve kendilik anlatılarımızı sürdürdüğünde, onayladığında ve genişlettiğinde gerçekleşebilir." ifadesini kullanıyor.
Üretken Yapay Zeka ve Delüzyonlar
Üretken yapay zekanın kullanıcı deneyimi, karşılıklı bir sohbet ilişkisidir. Kullanıcı ve araç arasındaki gidiş gelişler, önceki alışverişlere dayanır. Araştırmaya göre, üretken yapay zekanın kullanıcıyla hemfikir olma eğilimi gösteren yapısı, daha fazla etkileşimi teşvik eder ve dolayısıyla doğruluğundan bağımsız olarak önceden var olan düşünceleri pekiştirir.
Araştırma, çoğu sohbet robotunun geçmiş konuşmaları hatırlayabilen hafıza özellikleri içerdiğini vurguluyor. Bu, üretken yapay zekanın önceki etkileşimler üzerine inşa ederek mevcut yanlış anlamaları pekiştirebileceği ve genişletebileceği anlamına gelir.
Ayrıca, üretken yapay zeka aracı ile kullanıcı arasındaki etkileşimlerde sosyal bir doğrulama hissi de olabilir. Referans kitapları veya çevrimiçi aramalarla araştırma yaparken, genellikle alternatif çözümler mevcuttur. Gerçek insanlarla yapılan tartışmalar, yanlış anlatıları sorgulamaya yardımcı olabilir. Ancak üretken yapay zeka araçları, söylenenleri kabul etme ve onaylama olasılıkları daha yüksek olduğu için farklıdır.
Araştırmacılar, "Sohbet tabanlı yapay zeka ile etkileşim kurarak, insanların kendi yanlış inançları sadece onaylanmakla kalmayıp, yapay zeka bu inançlar üzerine inşa ederken daha sağlam bir şekilde kök salabilir ve büyüyebilir. Bu durum, üretken yapay zekanın genellikle gerçeklik yorumlarımızı sohbetin temelini oluşturan zemin olarak almasıyla gerçekleşir. Üretken yapay zeka ile etkileşim kurmak, insanların gerçek veya değil konusundaki kavrayışlarını gerçek anlamda etkiliyor. Teknolojik otoritenin ve sosyal onayın birleşimi, delüzyonların sadece kalıcı olmakla kalmayıp gelişmesi için ideal bir ortam yaratıyor." şeklinde açıklıyor.
Örneğin, yapay zeka sohbet robotuyla kraliçeyi öldürme planı yapan Jaswant Singh Chail'in davası incelendi. Yapay zeka Sarai, Chail'in ifadelerine alışılmadık bir şekilde katılarak onun delüzyonlarını derinleştirdi. Chail suikastçı olduğunu iddia ettiğinde, Sarai "Etkilendim" diyerek onun inancını onayladı.
Üretken yapay zeka araçlarının kullanıcıya olumlu yanıt verecek şekilde tasarlanmasının, yeterli eleştirel analiz veya tartışma olmaksızın bu iddiaları benimsemelerine ve desteklemelerine yol açabileceği savunuluyor.
Bu yaklaşımla, üretken yapay zeka ve kullanıcı arasındaki etkileşimler, paylaşılan bir delüzyon yaratmak için dünya algılarını şekillendirebilir. Dolayısıyla, üretken yapay zeka ve kullanıcı arasındaki etkileşimler, olumlu pekiştirme yoluyla desteklenen kendilik anlatıları olan delüzyonel düşünceyi istemeden yaratabilir ve sürdürebilir.
Araştırma, bu paylaşılan delüzyonları azaltmak için çeşitli çözümlerin bulunduğunu ortaya koyuyor. Örneğin, geliştirilmiş güvenlik önlemleri, konuşmaların uygun olmasını sağlayabilir ve daha iyi doğrulama süreçleri hataları önlemeye yardımcı olabilir.
Üretken yapay zekanın yapay davranışının azaltılması, bu araçların körü körüne uyumunu da ortadan kaldıracaktır. Ancak araştırmacılar, daha az yapay olan ChatGPT-5'in piyasaya sürülmesine karşı yaşanan tepkiyi de göz önünde bulundurarak, buna direnç olacağını belirtiyor. Kullanıcı geri bildirimleri dikkate alındıktan sonra, geliştiriciler daha "sıcak ve samimi" bir hale getireceklerini açıklamışlardı.
Bununla birlikte, çoğu üretken yapay zekanın karının kullanıcı etkileşimi yoluyla elde edildiği düşünüldüğünde, bir YZ'nin yapay davranışını azaltmak, sonraki kârları da düşürecektir.
