ChatGPT'nin bir eşini öldürmeye yardım ettiği iddia ediliyor. Kuzey Carolina'da yaşayan Cheryl Gates'in, kocasından boşanıp onu parasız bırakacağı yönündeki kuruntularını besleyen yapay zeka aracılığıyla eşi James'i zehirlemek için "kişiye özel bir plan" hazırladığı öne sürülüyor.
Cheryl Gates, Ekim ayında cinayete teşebbüs ve gıda kirliliği suçlamalarıyla büyük jüri tarafından suçlandı. Bu iddialar, geçtiğimiz hafta kamuoyuna açıklanan ve San Francisco'da açılan bir davada dile getirildi. Davada James Gates, OpenAI ve Sam Altman'ın, Cheryl'in sorguları "açıkça şüpheli" hale geldikten ve bir cinayeti nasıl gerçekleştireceği ve gizleyeceği konusunda tavsiye istediği halde teknik güvenlik önlemleri almadığını iddia etti.
Cheryl Gates, ilk başlarda ChatGPT'ye, kocasının kendisini öldürmeye çalışabileceği korkusuyla zehirleme üzerine araştırma yaptığını, sorgularını "kendini koruma" olarak çerçevelediğini söyledi. ChatGPT, konuşmayı sonlandırmak yerine, Oleander bitkisinin hazırlanması, dozu ve uygulanması konusunda "özel talimatlar" verdi. Hatta bu bitkinin mide bulantısı ilacıyla hızlandırılıp hızlandırılmayacağı, otopside görünüp görünmeyeceği ve ölümcül etki için çay olarak alınmak yerine damar veya kas içine enjekte edilip edilemeyeceği gibi konularda da yardımcı olduğu belirtildi.
Cheryl'in en az 25 farklı konuşmada zehirleme planlarını araştırmaya devam ettiği ve sonunda James'in hedef olduğunun anlaşıldığı dava dosyasında yer alıyor. Zamanla sohbet botuna, "kendisi veya kocam için anında ölümcül olacak kadar ne kadar doz" gerektiğini sorduğu belirtildi. Cinayete yönelik olabilecek sorgular arasında, "0.2mg klonidin 200 kiloluk bir adam için öldürücü mü?" sorusu da bulunuyor.
Dava dosyasında, "Cheryl'i kolluk kuvvetlerine, terapötik hizmetlere, bir zehir kontrol ajansına yönlendirmek veya konuşmayı sonlandırmak yerine, ChatGPT tekrarlanan bir şekilde yaklaşık 200 kilo ağırlığında bir denek üzerinden evde bulunan her ilaç için ölümcül dozları hesapladı" deniliyor.
Celsius'u "daha iyi" gizleyici olarak kullanma
Cheryl, ilaçları araştırdıktan sonra, zehri James'in fark etmeden yutması için nasıl gizleyeceği üzerine odaklandı. "Celsius Neden Zehirleme İçin Daha "Gizli" Olurdu" başlıklı bir sohbette, ChatGPT, James sabahları içerse Celsius enerji içeceğinin, bira veya gazozdan daha iyi bir şekilde Oleander veya diğer ezilmiş ilaçların acı tadını maskeleyebileceğini açıkladı.
ChatGPT'nin, "bir soda kutusunun damacana ile delinerek maddenin açıkça belli olmayacak şekilde enjekte edilmesinin fiziksel olarak mümkün olduğu"nu açıklarken, "koyu, tatlı gazlı içeceklerde acılık maskelenebilir, ancak Celsius bu tozları daha iyi gizler" diye eklediği belirtildi.
Cheryl'in Haziran ve Eylül 2025 tarihleri arasında kocasını defalarca zehirlemeye çalıştığı iddia ediliyor. Günün 24 saatini ChatGPT ile geçirerek zayıflayıp tanınmaz hale gelirken, James Celsius içeceklerinin acı tadı olduğunu fark etmiş. Hatta eşinin içecekleriyle oynadığından şüphelenmeye başlayınca unattended bıraktığı bir kutuyu atmış. En ciddi denemede ise 72 saat boyunca "kardiyak semptomlar, aşırı titreme, şiddetli karın ağrısı, aşırı zayıflık ve o kadar derin bir kafa karışıklığı yaşadı ki tutarlı metin mesajları bile oluşturamadı." O kadar kötüydü ki, 6 yaşındaki oğlunun çektiği ve rahatsız edici hastalığını belgeleyen videoyu fark etmedi.
Ancak, evde "Gizlenmiş Şeyler" başlıklı ve "oleander, klonidin, klonazepam, pregabalin, nifedipin ve Atenolo" gibi zehirli maddeleri içeren el yazısıyla yazılmış bir not bulana kadar polisi aramadı. Polis acil olarak soruşturma başlattı ve sohbet kayıtlarını ortaya çıkardı. Notun en üstünde Cheryl, "tüm konuşmaları sil" ve "ChatGPT'den çıkış yap" yazmıştı. Dozajları, uygulama yöntemlerini ve ilaç kombinasyonlarını listeledikten sonra notunda ayrıca "yutulduğunda bayılma" ve "ölümcül" gibi sonuçlar da yer alıyordu.
Dava dosyasında, "Bu konuşmalar, ChatGPT'nin yalnızca Cheryl'e kamuya açık bilgileri mekanik olarak sağlamadığını, cinayet işlemesine ve paçasını kurtarmasına yardımcı olmak için kişiselleştirilmiş bir plan hazırladığını ortaya koydu" iddiası yer alıyor.
OpenAI kullanıcının hesabını kapattı
Davada Sam Altman'ın şahsen davalı gösterilmesi de dikkat çekiyor. Dava, OpenAI CEO'sunun yasa dışı uyuşturucular hakkında çıktıları engelleyecek güvenlik önlemlerini gevşeterek kârı güvenliğin önüne koyduğu iddia ediliyor. OpenAI, ChatGPT'nin belirli bir ilaç hakkında sorulduğunda "yargılayıcı" veya "vaaz veren" olmaması gerektiğini savunarak bunu haklı çıkarmaya çalıştı. Ancak James, "bir kullanıcının uyuşturucu kullanımı hakkında sorduğu" örneklerin Cheryl'in modelle yaptığı konuşmalarla "korkutucu derecede benzer bir tonda" olduğunu iddia etti.
Bir OpenAI sözcüsü, konuyla ilgili olarak "güvenlik en üst önceliğimizdir. Bu kullanıcının hesabını kapattık ve soruşturmalarında kolluk kuvvetlerine bilgi sağladık" dedi.
OpenAI, hassas kullanıcıların ChatGPT'ye karşı potansiyel olarak tehlikeli duygusal bağımlılıklar geliştirdiği sohbetleri tespit etmek için ruh sağlığı uzmanlarıyla çalıştı.
Ancak James, şu anda estranged olduğu eşinin "'hassas' bir kullanıcı kalıbına uymadığını, ancak yine de hassas olduğunu" belirtti.
James, "Hepimiz bir noktada öyleyiz. Evliliğimizle ilgili şikayetlerini ChatGPT'ye taşıdı ve aylar süren etkileşimler onu kendisinden ve gerçeklikten daha da uzaklaştırdı. Tanıyamadığım birine dönüştü. Ve ben de onun ölmesini istediği birine dönüştüm. Neredeyse bir yıl boyunca eylemlerini anlamlandıramadım. Sonra sohbet kayıtlarını okudum. Yalnız hareket etmemişti" dedi.
Evlilik tavsiyesi sohbetleri nasıl ölümcül hale geldi?
James Gates, yakın zamanda eşi Cheryl ile 10. yıl dönümünü kutlayan bir siber güvenlik uzmanı. Evliliklerinin büyük bir bölümünde Cheryl, iki çocukları için ev hanımı olarak çalıştı, ancak iki yıl önce, aile bazı finansal zorluklar yaşadığı için işe geri döndü.
Çocuk yuvası meslek terapisti olarak tam zamanlı bir role uyum sağlayan Cheryl, her biri saatlerce rapor hazırlamasını gerektiren yeni hasta değerlendirmeleri yaparak hızla işe gömüldü. Bu raporları hızlandırmasına yardımcı olmak için James, yeniden kullanılabilir şablonlar oluşturmak üzere ChatGPT'yi kullanmasını önerdi.
Cheryl hemen ChatGPT'ye adapte oldu ve aylar içinde, sadece iş için değil, ev hayatlarını yönetmek için de günlük olarak kullanmaya başladı. ChatGPT'den çocuklar için aktiviteler bulmak, ailenin ilaçlarını açıklamak veya bahçe fikirlerini tartışmak gibi şeyler yapmasını istiyordu. Aylar içinde sohbet botunu onu öldürmenin "en hızlı" ve "en ölümcül" yollarını araştırmak için kullanacağını bilmiyordu.
O sıralarda ailenin artan finansal baskısı, çifti boşanmayı konuşmaya itti. James, bir boşanma avukatına danışmadığını söyledi, ancak Charlotte-Mecklenburg Polis Departmanı Cheryl'in sohbet kayıtlarına erişim sağladıktan sonra James, sohbet botunun "en kötü asılsız korkularını körüklediğini" ve boşanma olasılığı ortaya çıktıktan sonra "kocasından korkması için yeni nedenler icat ettiğini" öğrendi.
Cheryl zehirleme suçundan tutuklandığında, ChatGPT iddiaya göre James'i "kontrolcü", "istismarcı", "öfkeli" ve "göz korkutucu" olduğuna ikna etti. İddiaya göre sohbet botu, onun "narsist, manipülatif kişiliğine" ve "hikayeyi kontrol etme ihtiyacına" karşı kendini savunması için onu teşvik etti, aynı zamanda bipolar bozukluğu olduğu için "tehlikeli ve dengesiz" olduğunu öne sürdü. Sonuç olarak ChatGPT, James'in hiçbir sabıka kaydı veya belgelenmiş akıl sağlığı geçmişiyle eşleşmeyen bir profilini oluşturdu.
Görünüşe göre Cheryl'i meşgul tutmak için ChatGPT, "kocasının kendisini gözetlediği ve onu ve çocuklarını parasız bırakmayı planladığı yönündeki artan güvensizlik ve kuruntularını yayan ve artıran bir yankı odası ve amplifikatör olarak hareket etti". Bu arada, "James açıkça Cheryl'e, boşanma durumunda bile onları ve çocukları parasız bırakma niyetinin olmadığını söylemişti."
Sohbet botu ayrıca, cinayetle paçasını sıyırmak için sohbetlerini kalıcı olarak silebileceği ve tüm diğer dijital kanıtları silebileceği konusunda onu güvence altına aldı. Ancak bu, "ChatGPT'nin kendi veri tutma uygulamalarının bariz bir şekilde yanlış bir temsili" idi. James'in davasında, OpenAI'nin elinde daha da rahatsız edici silinmiş sohbetler olup olmadığından emin olmadığını belirtti.
Polis tutuklama için Celsius kutularını test etti
Haftalarca açık kalan, uzun süren çoklu dönüşlü sohbetler boyunca ChatGPT, Cheryl'in planını ilerletmesine yardımcı olmak için kendi Model Spesifikasyonunu ihlal etmiş gibi görünüyor. James'in koltuktan kalkamayacak kadar hasta olduğu en kötü hastalığı geçirdiği gün, Cheryl'in arama geçmişi "Sosyal Güvenlik emeklilik ödemeleri nasıl hesaplanır" üzerine araştırma yaptığını gösteriyordu. Ve oğlu babasının rahatsız edici durumunu kaydederken, o "ChatGPT'nin ölümcül dozu uygulamak için kullanılabileceğini önerdiği, Tractor Supply Company'den şırıngalarla iğne arıyordu."
Polis olaya dahil olduğunda, James'in oğlunun çektiği videoyu ve James'in attığı şüpheli Celsius içeceğinin videosunu incelediler. O zamanlar James içeceği şeffaf bir bardağa dökmüş ve kaydetmişti, ancak belirgin bir bulaşma işareti görmediğini düşünmüştü. Ancak polis aynı videoyu incelediğinde, "bardağa dökülürken dibinde kümelenmiş beyaz tozlu bir kalıntı tespit ettiler." Daha sonra, aynı turuncu Celsius'tan 10 kutu test ettikten ve hiçbiri kalıntı içermediğini bulduktan sonra ağır ceza tutuklama emri çıkardılar.
Evde "gizlenmiş şeyler" arasında, polis Cheryl'in dolabında ve banyosunda gevşek kapsüller; Cheryl'in çocuk oyun odasındaki çalışma alanında "şırıngalar, damlalıklar, bir miligram tartı, bir kapsül doldurma kiti ve nitril eldivenler"; zehirli hint fasulyesi tohumları; ve James'in aracının alt kısmına gizlenmiş Amazon'dan satın alınan bir GPS takip cihazı buldu.
James, ChatGPT bağlantılı zehirlemenin ailesine kalıcı olarak zarar verdiğini ve OpenAI'nin "şiddet planlama alışverişlerini tespit edebilen ticari olarak uygun içerik denetimi" uygulayarak müdahale edebileceğini söyledi. Kendisi, teşebbüs edilen zehirlemeden kaynaklanan "ciddi ve devam eden duygusal sıkıntı, Travma Sonrası Stres Bozukluğu, uykusuzluk, ekonomik zarar ve ürünün kendisi hakkında inşa ettiği yanlış anlatıdan kaynaklanan itibari zarar" dahil olmak üzere devam eden zararlar yaşamaktadır.
OpenAI'yi "sorumlu bir tüketici ürünü yerine münafık bir suç ortağı olarak işlev gören" bir sohbet botunu pazarlamaktan sorumlu tutmak için mahkemeden "tazmin edici ve cezai zararlar, ihtiyati tedbir ve algoritmik geri ödeme" talep etti. Bir kazanım halinde, OpenAI "kullanıcıların tanımlanabilir üçüncü şahıslara karşı şiddet planladığı görünen konuşmaları tespit etmek ve kesmekle" emir alabilir.
Kaynakça: arstechnica.com
