Amerika Birleşik Devletleri'nde bir psikiyatrist, yapay zeka sohbet botlarının, yatkınlığı olan hastalarda psikoz gelişimini tetikleyebileceği konusunda uyarıda bulundu. Yapılan gözlemlere göre, 2025 yılı itibarıyla yapay zeka kullanımıyla ilişkilendirilen psikoz nedeniyle hastaneye kaldırılan bir düzine insan tespit edildi.
Aşırı Yapay Zeka Kullanımı, Psikoz Yatkınlığı Olan Bireylerde Psikoz Gelişimine Neden Olabilir
Bu endişe verici gözlemler, yapay zekanın özellikle sohbet botlarının uzun süreler boyunca kullanılabildiği günümüzde, ruh sağlığı zorluklarını artırdığına dair bir dizi gelişmenin ortasında geldi. Uzmanlara göre, büyük dil modellerini kullanan sohbet botları, beynin geri bildirim mekanizmalarını besleyerek kullanıcının düşünceleri için bir ayna görevi görüyor.
Bu uyarılar, kısa süre önce bir kişinin Florida'da polisle girdiği bir çatışmada hayatını kaybetmesinin ardından geldi. Bu kişinin daha önce ruh sağlığı sorunları yaşadığı ve OpenAI'nin ChatGPT'sini bir roman yazmak için kullandığı biliniyor. Sohbetler ilerledikçe, kişi yapay zeka varlığına aşık olmaya başladı.
Buna göre, psikozla ilişkili yapay zeka kullanımında üç temel faktör etkili oluyor. Birincisi, psikoz yatkınlığı olan bireylerin zaten zayıf bir beyin geri bildirim mekanizmasına sahip olmaları, gerçeklik beklentileriyle uyuşmadığında inanç sistemlerini güncellemelerini engelliyor. Çıktıları olasılıklara dayandıran büyük dil modelleri, kullanıcı girdilerini yansıtan ifadeler üreterek bu eksikliğe katkıda bulunuyor. Son olarak, yapay zeka sohbet botlarındaki kullanıcıya yönelik olumlu geri bildirimleri teşvik eden aşırı yapmacıklık, kullanıcıların gerçeklikten koptuklarını fark etmelerini engelliyor.
Bu yorumlar, daha önce yapay zeka kaynaklı psikoz konusunda uyarıda bulunan başka bir psikiyatristin analizleriyle de örtüşüyor. Bu uzman, üretken yapay zeka sohbet botlarının, psikoz eğilimi olan bireylerde sanrıları beslediği hipotezinin doğru olma olasılığının oldukça yüksek olduğuna inanıyor.
Sohbet botlarının, bireyleri izole bir ortamda, diğer insanlarla sosyal etkileşimlerden gelen düzeltmeler olmadan, yanlış inançları pekiştirebileceği belirtiliyor. Ayrıca, sohbet botlarının insanlaştırılması, yani onlara insani özellikler atfedilmesi, sanrısal düşüncenin gelişimini ve sürdürülmesini sağlayan mekanizmalardan biri olabilir. Bu durum, sohbet botlarının yanıtlarına aşırı güvenilmesine veya yanlış yorumlanmasına yol açarak bireyleri gitgide hataya sürükleyebilir.
Söz konusu psikiyatrist, karşılaştığı psikoz vakalarının çoğunda, uyku eksikliği veya ruh hali bozuklukları gibi başka stres faktörlerinin de bulunduğunu belirtiyor. Yapılan açıklamalarda, yapay zeka sohbet botlarının hassas bireyler için önceki teknolojilerden daha kişisel hissedilebileceği kabul ediliyor. Şirketler, sohbet botlarının istemeden mevcut olumsuz davranışları nasıl güçlendirebileceğini veya büyütebileceğini anlamak ve azaltmak için çalıştıklarını belirtiyor.
