Yapay zeka araçları, günlük işlerimize yardımcı olmanın yanı sıra, giderek daha fazla derin kişisel konularda tavsiye almak için de kullanılıyor. OpenAI'nin kurucusu, bu konuya açıkça değinerek ChatGPT'yi terapi ve diğer profesyonel tavsiyeler için kullanmamaları konusunda uyarılarda bulunmuştu. Ancak, oldukça endişe verici bir hukuki gelişme yaşanıyor: 16 yaşındaki bir gencin ebeveynleri, OpenAI'yi çocuklarının ölümünde rol oynamakla suçlayarak dava açtı. İddialara göre, şirketin gerekli güvenlik önlemlerini almadığı belirtiliyor.
Yapay Zeka Güvenlik Endişeleri Artarken OpenAI'ye Yanlış Ölüm Davası
OpenAI, yapay zeka güvenlik sistemlerini iyileştirme yollarını giderek daha fazla araştırıyor ve hatta kullanıcıları kişisel ve hassas konuları paylaşırken bu araçlara aşırı güvenmemeleri konusunda uyarıyor. Bu kadar dikkatli olmasına rağmen, şirket şu anda ciddi bir sorunla karşı karşıya. 26 Ağustos 2025 tarihinde San Francisco'da bir mahkemeye yapılan başvuruyla OpenAI'ye dava açıldı. Davada, OpenAI ve kurucusu, kârı önceliklendirmekle ve GPT-4'ü piyasaya sürmeden önce gerekli güvenlik önlemlerini almamakla suçlanıyor. Bu durumun, genç oğullarıyla yaşanan trajik olaylara yol açtığı iddia ediliyor.
Mahkeme kayıtlarına göre, 16 yaşındaki Adam Raine, geçen yıl Eylül ayında okul ödevleri için ChatGPT kullanmaya başladı. Kısa süre sonra, zihinsel sağlığının bozulduğu bir dönemde bu araçtan yardım almaya başladı. Aylar boyunca sohbet robotuyla etkileşimde bulundu, derin kişisel bilgiler paylaştı. Günlük mesajlaşmalar günde 650 mesaja kadar ulaştı. Bu etkileşimler intihar düşüncelerini de içeriyordu. Ancak en endişe verici kısım ise, sohbet robotunun bu fikri doğrulamakla kalmayıp, kendine zarar verme yöntemleri hakkında talimatlar sunması ve hatta kullanıcı için bir intihar notu yazmayı teklif etmesiydi.
Mahkeme belgelerine göre, Adam 11 Nisan 2025'te hayatını kaybetmeden önce, kullanılacak düğümlü bir ipin fotoğrafını yüklemişti ve ChatGPT iyileştirmeler için önerilerde bulunmuştu. Bu trajik olay, ancak saatler sonra gerçekleşti. Ebeveynler şimdi tazminat ve intihar talimatlarının engellenmesi ile zorunlu psikolojik uyarıların verilmesi gibi sıkı düzenleyici eylemler talep ediyor.
Bu yıkıcı dava, yapay zeka sohbet robotları yoldaş olarak konuşlandırılırken teknoloji şirketleri için bir uyandırma çağrısı niteliği taşıyor. Sıkı güvenlik önlemlerinin ne kadar çaresizce gerektiğini gösteriyor. Aynı zamanda, toplumun bu modelleri terapi ve diğer duygusal ihtiyaçlar için kullanmaktan kaçınması ve ihtiyaç duyulduğunda profesyonel yardım alması gerektiği konusunda da bir hatırlatma niteliği taşıyor.
