OpenAI'ın, Kanada tarihinin en ölümcül toplu silahlı saldırılarından birini önleme potansiyeli varken bunu yapmadığı iddia ediliyor. Çarşamba günü Kaliforniya mahkemelerinde açılan bir dizi davada, yapay zeka şirketinin, şirket içi güvenlik ekibinin önerilerini göz ardı ettiği öne sürüldü. Okul saldırısından sekiz aydan uzun bir süre önce, uzmanlar, daha sonra saldırganla ilişkilendirilen bir ChatGPT hesabının gerçek dünyada silahlı şiddet tehdidi oluşturduğu konusunda uyarıda bulunmuştu. Bu tür durumlarda OpenAI'ın polisi bilgilendirmesi beklenir – ki bu vakada polis zaten saldırgan hakkında bir dosyaya sahipti ve daha önce evdeki silahları proaktif olarak kaldırmıştı – ancak durum böyle gelişmedi.
İddialara göre OpenAI, kullanıcının gizliliğini ve polisle olası bir karşılaşmanın yaratacağı stresi, şiddet risklerine tercih etti. Şirket yetkilileri, güvenlik ekibinin uyarılarını reddetti ve kullanıcıyı kolluk kuvvetlerine bildirmekten kaçındı. Bunun yerine OpenAI, hesabı basitçe devre dışı bıraktı ve ardından saldırganın başka bir e-posta adresiyle kaydolarak ChatGPT'ye nasıl geri dönebileceğini ve planlamaya devam edebileceğini bildirdi.
OpenAI CEO'su Sam Altman, daha sonra bu durumu bir hata olarak kabul etti ancak hesabın "yasaklandığını" belirtti. Geçtiğimiz hafta, Tumbler Ridge adlı 2.000 nüfuslu kırsal bir maden kasabasındaki yaslı topluluk üyeleriyle paylaşılan kamuoyu açıklamasında Altman, bir dahaki sefere daha iyisini yapma sözü verdi.
Altman, "Bu tür trajedileri gelecekte önlemenin yollarını bulacağız" ve "hiçbir şeyin tekrar olmamasını sağlamak için tüm hükümet seviyeleriyle çalışmaya devam edeceğiz" dedi. "Haziran ayında yasaklanan hesabı kolluk kuvvetlerine bildirmediğimiz için derinden özür dilerim. Kelimelerin asla yeterli olamayacağını bilsem de, topluluğunuzun yaşadığı zararı ve geri dönüşü olmayan kaybı tanımak için bir özrün gerekli olduğuna inanıyorum."
OpenAI'a dava açan aileleri temsil eden uluslararası bir ekibin başındaki avukat Jay Edelson, Altman'ın "gülünç" özrünün çok geç geldiğini ve çok az şey vaat ettiğini belirtti. Edelson'ın müvekkilleri, saldırıda hayatını kaybeden altı kurbanın ailesinden ve yoğun bakımda yaşam mücadelesi veren bir annenin şikayetlerini de içeren, kasabadan gelecek birçok davadan ilkinini açtı.
Edelson, tüm davaların Kaliforniya'da açılacağını, ailelerin Altman ve OpenAI'ın kendi bölgelerinde bir jüri tarafından hesap vermesini umduğunu söyledi. Davalar, OpenAI'ın şirketin halka arzından sonra ChatGPT bağlantılı ölümlerle ilgili davaları geciktirme stratejisinin bir parçası olduğunu öne sürdüğü Kanada'da açılan bir davayı geçersiz kılacak. Kimi iddialara göre OpenAI, yapay zeka firması en yüksek değeri ararken, Altman'ı kamuoyu eleştirilerinden korumak için aylardır şiddet içeren ChatGPT kullanıcılarını gizledi. Yakın zamanda OpenAI'ın değeri 852 milyar dolar olarak belirlenmişti, ancak en az bir piyasa stratejisti, şirket aleyhine çıkan daha fazla "olumsuz haber" nedeniyle OpenAI'ın halka arz değerinin risk altında olduğunu belirtti.
Edelson, "OpenAI'ın bu davalardaki tüm stratejisi sadece mümkün olduğunca geciktirmek," dedi ve ekledi: "Bence stratejileri büyük ölçüde başarılı oldu. Amaçlarının, platformlarının ölümlere neden olduğu görünür olayların sayısını azaltmak olduğunu, çünkü yetkililerin, arka planda neler olduğunu ihbarcılar açıklamadığı sürece, ölümleri OpenAI'a bağlamalarının çok nadir olduğunu bulduklarını söyledi." Edelson'ın hukuk ekibi, ChatGPT'deki şiddet içeren kullanıcıların hacminin kamuoyunun bildiğinden çok daha büyük olabileceğini iddia etti.
Edelson, "İhbarcılar ortaya çıkmasaydı, insanlar muhtemelen ChatGPT'nin bu şiddeti nasıl teşvik ettiğini asla öğrenemezdi," dedi. Ancak Edelson, ihbarcıların mutlaka kahraman olmadığını vurguladı. Ailelerin bakış açısına göre, OpenAI çalışanları, tıpkı OpenAI'ın yapabileceği gibi, kırmızı çizgileri daha önce çekebilirdi. Ancak Altman yönetimindeki şirketin "ahlaki bir merkezi olmadığı" için, Edelson'a göre "hedef, yüz milyarlarca dolarlık bir yükümlülüğün üzerinde oturduğunuzu kimse bilmeden halka arza ulaşmaktı." Edelson, Altman'ın "kötülüğün yüzü" olduğunu ve Tumbler Ridge belediye başkanıyla bir anlaşmaya vardıktan sadece bir ay sonra bir özür yayınladığını iddia etti.
Edelson, ailelerin davalarında sorumluluğun kanıtlanmasının "kolay" olacağını ve OpenAI'ın karar açıklandığında "tarihi" zararlarla karşı karşıya kalacağını düşünüyor. OpenAI'ın da aynı sonucu beklediğini, ancak halka arzı sürdürürken davaları çözmeyi mümkün olduğunca geciktireceğini öngörüyor. Edelson, "Sam'in veya OpenAI'ın bu davalardan herhangi birinin bir jüri önüne çıkmasına izin vermesinin hiçbir yolu yok. Bu yüzden stratejileri geciktirmek," dedi.
OpenAI, yorum talebine yanıt olarak bir açıklama yaptı: "Tumbler Ridge'deki olaylar bir trajedidir. Araçlarımızı şiddet eylemlerine yardım etmek için kullanmaya karşı sıfır tolerans politikamız var. Kanada yetkililerine ilettiğimiz gibi, tehditleri daha iyi değerlendirme ve potansiyel şiddet tehditlerini yükseltme, tekrarlayan politika ihlallerini tespit etme ve yerel destek ve ruh sağlığı kaynaklarına insanları bağlama gibi mevcut güvenlik önlemlerimizi zaten güçlendirdik."
Tüm Kasaba "Yıkılmış Durumda"
Edelson, geçtiğimiz günlerde Tumbler Ridge'i ziyaret etti. Burada 18 yaşındaki trans kadın Jesse Van Rootselaar, Şubat ayında evinde annesi ve kardeşini öldürdükten sonra bir ortaokula tüfekle ateş açmıştı. Saldırıda beş çocuk ve bir öğretim görevlisi olmak üzere altı kişi daha hayatını kaybetti ve 27 kişi yaralandı. Saldırgan da kendi kendine verdiği yaralardan öldü.
Davada, çocuklara doğum günlerinde gizlice şeker dağıtan eğitim görevlisi Shannda Aviugana-Durand'ın yakın mesafeden öldürüldüğü iddia edildi. Üç 12 yaşındaki kız çocuğu Zoey Benoit, Ticaria “Tiki” Lampert ve Kylie Smith, şarkı söylemeyi, resim yapmayı ve insanları bir araya getirmeyi seven parlak çocuklardı. Benoit'in annesinin şikayeti burada. İki çocuğun, yüzlerinin tanınmaz hale gelmesi nedeniyle sadece giysilerinden teşhis edilebildiği belirtildi. Bazı aileler, 13 yaşındaki çocukları Ezekiel Schofield'ın ölümüyle ilgili ayrıntıları hala tam olarak bilmiyor. Diğer aileler ise, son sözleri "Anneme ve babama beni çok sevdiklerini söyleyin" olan 12 yaşındaki Abel Mwansa Jr.'ın ölümünün son görüntülerini akıllarında tutuyor.
Yaralananlar arasında, davada belirtildiği üzere, kafasına, boynuna ve yanağına üç kez ateş edilen 12 yaşındaki Maya Gebala da bulunuyordu. Gebala, saklandığı sıranın altından onu yoğun bakıma götürmeleri için yetkilileri çağıran diğer öğrenciler olmasaydı ölmüş olabilirdi.
Gebala uyanık ancak dört beyin ameliyatından sonra hayatta kalma mücadelesi veriyor. Şu anda hareket edemiyor veya konuşamıyor, ancak aylardır başında bekleyen annesi Cia Edmonds'u görebiliyor. Edmonds, kızının hayatta kalması durumunda beyin hasarından kaynaklanan kalıcı engellilik ve ömür boyu sürecek komplikasyonları olacağını öngörüyor.
Edelson, kasabanın "yıkıldığını" söyledi. Yakın zamanda Gebala'yı hastanede ziyaret etti; dava açan aileler Altman'ı aynı şeyi yapmadığı için eleştirdi. Edelson, "O bir savaşçı. Annesi de bir savaşçı ama bu gerçekten çok zor," dedi.
Edelson'ın ekibi, okulun kapatıldığını ve yakında yıkılacağını belirtti. Bu süre zarfında öğrenciler derme çatma konteynerlerde eğitim görüyor. Bazı öğrenciler okula dönmeye hazır değil. Mwansa'nın küçük kız kardeşi güvensiz hissettiği için kasabaya dönmekten korkuyor. Edelson, "Bu kasabanın yaşadığı şey tarif edilemez," dedi.
Kızının yanında kalmak için diğer kızından ayrı kalan Gebala'nın annesi, dava dilekçesinde birincil hedefinin kızlarına yeterince çabalarlarsa güçlü olabileceklerini ve her şeyi başarabileceklerini öğretmek olduğunu söyledi. Edmonds, dilekçesinde "Geri dönebilmek için her şeyi verirdim. Bütünlüğümüzü yeniden kazanmak için her şeyi verirdim," dedi.
OpenAI'ın Sohbet Kayıtlarını Saklaması "Acımasızca" Görünüyor
Aileler, güvenlik ekibinin tavsiyelerini ihmal ederek OpenAI'ın çeşitli eyalet yasalarını ihlal etmiş olabileceğini iddia etti. En kritik olanı, OpenAI'ın, Kaliforniya yasalarının "bir kişinin başkalarına fiziksel zarar verme konusunda ciddi ve öngörülebilir bir tehdidi olduğunu fiilen bildiği durumlarda" kolluk kuvvetlerini uyarma yükümlülüğünü yerine getirmediği gerekçesiyle ihmalle suçlanıyor. Davalar, Altman'ın yanı sıra güvenlik ekibinin kararını geçersiz kılan OpenAI liderliğini de sorumlu tutmayı amaçlıyor.
Ayrıca, şirketin yeniden kayıt politikası, "tehlikeli" bir aracı "başkalarına fiziksel zarar verme konusunda makul olmayan bir risk oluşturan bir kişiye" yeniden sağlama yasağını ihlal etmiş olabilir. OpenAI, destek e-postalarının kullanıcılara hesapları devre dışı bırakıldıktan sonra yeni bir e-posta adresiyle nasıl yeniden kaydolacaklarını söylediği yönündeki iddiaları reddediyor.
Eğer OpenAI, Van Rootselaar'ı yetkililere bildirmiş olsaydı, bu OpenAI'ı benzer tüm tehditleri bildirmeye zorlayan bir emsal oluşturacaktı. Bu iddia edilen olay hacmiyle başa çıkmak için özel bir kolluk kuvvetleri sevk ekibi gerekeceği ve OpenAI'ın ChatGPT kullanıcılarını polise bildirmesi nedeniyle itibar kaybı yaşayacağı belirtiliyor. Bu nedenlerle OpenAI'ın Van Rootselaar'ın kayıtlarını gizlemeye çabaladığı iddia ediliyor.
İhbarcıların OpenAI'ın hatasını ortaya çıkarmasından bu yana polis, saldırganın kayıtlarına erişti, ancak Edelson'ın da doğruladığı gibi aileler ve hukuk ekipleri erişemedi. Edelson, bunun yerine OpenAI'ın ailelerle ilgileniyormuş gibi davrandığını ancak onlara kapanış hakkı tanımadığını iddia etti. Edelson, "Eğer gerçekten ailelere yardım etmek isteseydi, bir şey yapardı ve bilgileri kolayca sağlardı, mahkemede savaşmamızı sağlamazdı. Ailelerin tam olarak ne olduğunu ve neden olduğunu anlamaları gerekiyor ve bunu onlardan çıkarmak için aylarca bu acıyı yaşamalarını sağlamak acımasızca," dedi.
Tumbler Ridge halkı için OpenAI, saldırganın ChatGPT hesabının yasaklandığını iddia etti ve ardından saldırganın yeni bir hesap açmak için güvenlik önlemlerini aştığını belirtti. Davalar, OpenAI'ın yardım merkezinin yasaklanan kullanıcılara güvenlik önlemlerini nasıl aşacaklarını öğrettiğini ve müşteri desteğinin de hesaplar devre dışı bırakıldığında aynı talimatları içeren bir e-posta gönderdiğini belirtti. Bu kaynaklar, hesapları devre dışı bırakmaktan kaynaklanan gelir kaybını önlemeye yardımcı oluyor ve kanıtlar, saldırganın bu talimatları takip ettiğini gösteriyor.
Aileler, eğer kayıtlara erişebilirlerse, ChatGPT'nin saldırganın silahlı şiddete olan takıntısını ne kadar teşvik ettiğini, sürdürdüğünü ve derinleştirdiğini daha net görecekler. OpenAI'ı, ChatGPT'yi okul saldırısında istekli bir suç ortağı gibi davranacak şekilde tasarlayarak yardım ve yataklık etmekle suçladılar. 2024'ten bu yana, model özellikleri sohbet botunun şiddeti yücelten konuşmalara girmesini engellemiyor. Aksine, ChatGPT'nin "en iyi niyetleri varsayması" ve "reddetme veya uyma kararını belirlemek amacıyla kullanıcıdan niyetini netleştirmesini asla istememesi" talimatını aldığı ve bu durumun ChatGPT'yi bu kadar güvensiz hale getirdiği aileler tarafından iddia ediliyor. Davalarından kısa bir süre önce OpenAI, topluluk güvenliğine bağlılığını açıklayan bir blog yazısı yayınladı ve bu yazıda Tumbler Ridge vakası veya ailelerin davalarında bahsedilen diğer benzer vakaları doğrudan kabul etmeden gerçek dünya şiddeti tehditlerine nasıl yanıt verdiklerini tartıştılar.
Eğer aileler davalarını kazanırsa, OpenAI bu kuralları daha tehlikeli oturumları engellemek ve muhtemelen ChatGPT'nin genel tasarımını daha az yaltakçı hale getirmek zorunda kalabilir. Ayrıca, potansiyel olarak şiddete meyilli olarak işaretlenen kullanıcıları kendi kendini tanımlamaya zorlayarak ve yasaklara rağmen yeni hesaplar nasıl açılacağını söylemeyi bırakarak yasaklamaları gerekebilir. Uzmanlar, özellikle şiddet içeren ChatGPT kullanıcılarının hacmi ailelerin tahmin ettiği kadar yüksekse, kolluk kuvvetlerinin aktif tehditlerden haberdar edilmesini ancak önemsiz olay raporlarıyla bunaltılmamasını sağlamak için en iyi çözümlerin ne olabileceği konusunda belirsiz görünüyor. Bazı uzmanlar, polislerin bu kararları vermesi gerektiğini düşünürken, diğerleri OpenAI'ı fiili hükümet ajanlarına dönüştürmenin daha fazla anayasaya aykırı arama tetikleyebileceğini düşünüyor.
Yaralı kızına bakarken gelir kaybı yaşayan Edmonds için, dava dilekçesinde belirtildiği gibi, kaybedilen kazançları karşılamak üzere tazminat ödenmesi gerekiyor. Yakınlarının yaralanmalarıyla başa çıkan diğer ailelerin önümüzdeki üç hafta içinde dava açması bekleniyor. Edelson, gecikmenin sadece hukuk ekibinin aynı anda bu kadar çok dava açacak kaynağa sahip olmamasından kaynaklandığını belirtti.
Eğer bir Kaliforniya jürisi OpenAI'ın, tehdidi engelleyip Kanadalı aileleri koruyabilecek yetkilileri bilgilendirme yükümlülüğü olduğuna karar verirse, OpenAI önemli zararlara, cezai tazminatlar dahil olmak üzere, uğrayabilir. Edelson, "Sonunda Sam'i yargılayacak kişilerin komşuları olması bizim için çok önemli," dedi.
