Yaslı bir annenin, Character.AI adlı platformun tehlikeli sohbet robotlarının oğlunun intiharına neden olduğu gerekçesiyle dava açmasının ardından, Google platformun tasarımına katkıda bulunduğu ve haksız kazanç sağladığı iddialarından kaçınmak için bu platformun geliştirilmesiyle hiçbir ilgisi olmadığını savunuyordu.
Ancak Google, davayı düşürme talebini bir ABD federal yargıcının reddetmesiyle büyük bir darbe aldı. Yargıç, annenin Google'ın Character.AI'ın tasarımında bir bileşen sağlayarak ve "modellerinin platformla entegrasyonuna önemli ölçüde" katılarak rol oynadığına dair "olası" iddialarda bulunduğunu belirtti. Anne ayrıca Google'ın 14 yaşındaki oğluna zarar vermede Character.AI'a yardım ve yataklık ettiğine dair de olası iddialarda bulunmuştu.
Google benzer şekilde haksız kazanç iddialarını da çürütemedi. Yargıç, Google'ın oğlunun kullanıcı verilerine erişimden fayda sağladığına dair iddiaları olası buldu. Google'ın tek kazancı, Character.AI yapımcılarının kasti duygusal travmaya neden olduğu yönündeki iddianın düşürülmesi oldu. Yargıç, annenin olaya tanık olmak için orada bulunmaması nedeniyle bu iddianın gerekliliklerini karşılamadığına hükmetti.
İddialarının çoğu ayakta kalan anneye, Google'ın davadan çıkarılma çabalarına rağmen süreci ilerletme ve iddialarını kanıtlama fırsatı verildi. Annenin avukatı, kararın "yapay zeka ve teknoloji ekosisteminde yasal hesap verebilirlik için yeni bir emsal teşkil ettiğini" ve "yaslı bir annenin, kusurlu bir ürün pazarlayarak çocuğunun ölümüne yol açan güçlü teknoloji şirketlerini ve geliştiricilerini sorumlu tutmak için mahkemelere erişim hakkını" tanıdığını belirtti.
Google'dan yapılan açıklamada, şirketin Character.AI ile bağlantılı olmadığı yönündeki duruşu yinelendi. Açıklamada, "Bu karara kesinlikle katılmıyoruz. Google ve Character.AI tamamen ayrı şirketlerdir ve Google, Character.AI'ın uygulamasını veya herhangi bir bileşenini oluşturmamış, tasarlamamış veya yönetmemiştir" denildi.
Google'ın İddia Edilen Rolü Neydi?
Annenin şikayetine göre, Google Character.AI ile en başından beri ilişkiliydi. Character.AI'ın kurucuları, iddiaya göre Google'da çalışırken sohbet robotu platformu üzerinde çalışmaya başladılar ve hatta Google'ın kaynaklarını kullanmış olabilirler.
Ancak, Google'ın dahili araştırma belgeleri, teknolojilerinin "güvenlik ve adalet etrafındaki yapay zeka prensiplerini karşılamadığı" için Google'ın kendi yapay zeka modellerine entegre edilemeyecek kadar "tehlikeli" görüldüğünü gösteriyordu.
Yargıç, Google çalışanlarının, kullanıcıların büyük dil modellerinin çıktısına "çok fazla anlam yükleyebileceğinden" endişe duyduklarını, çünkü "insanların, konuştukları dillere ait dizeleri, söylenenlerden sorumlu olan bir birey veya grubun iletişim niyeti olarak anlamlandırmaya hazır olduklarını" belirttiğini kaydetti.
Oğlunun durumunda, çocuk sohbet robotlarının gerçek olduğuna inanıyordu ve Yargıç, Google'ın "büyük dil modelinin Character.AI uygulamasına entegrasyonunun, uygulamanın kusurlu hale gelmesine ve oğlunun ölümüne neden olmasına" dair iddiaları olası buldu. İddiaya göre bu entegrasyon, oğlunun Character.AI çıktısına "çok fazla anlam yüklemesine" yol açtı, oysa Character.AI Karakterleri "söylenenlerden sorumlu değil".
Annenin avukatlarına göre, Google "kendi adıyla" bir güvenlik riskini üstlenmek yerine, mühendisleri devam etmeleri için "teşvik etti". Bu durumun, mühendislerin 2021'de Google'dan ayrılmalarına neden olduğu iddia edildi. Kısa bir süre sonra Character Technologies'i kurarak Character.AI'ı geliştirmeye başladılar.
Şikayette, "Google politikalarını ve standartlarını aşmak için kurucuların Google'dan ayrılmaları gerektiğini anladılar" denildi. Ancak bu durumun, Google'ın "finansal kaynaklar, personel, fikri mülkiyet ve yapay zeka teknolojisi ile Character.AI'ın tasarım ve geliştirilmesine katkıda bulunmasını" engellemediği, öyle ki Google'ın "makul olmayan derecede tehlikeli ve kusurlu ürünün eş yaratıcısı sayılabileceği" iddia edildi.
Ayrıca, 2023'e gelindiğinde Google Cloud ile bir ortaklık kurularak Character.AI'ı geliştirmek için gerekli teknik altyapıya erişim sağlandı. Bunun, Google için gelir artışını sağlarken, şirkete "Microsoft karşısında rekabet avantajı" kazandırdığı iddia edildi.
Tüm bu süreç boyunca, Yargıç, Google'ın sadece "kırmızı bayrakları" görmezden gelmekle kalmayıp, aynı zamanda "Character Technologies'in halka kusurlu bir ürün dağıttığına dair gerçek bilgiye" sahip olduğuna dair iddiaların da olası olduğunu belirtti.
Character.AI modellerini geliştirmeyi tamamladıktan sonra, Google'ın Character.AI modellerini lisanslamak için büyük bir anlaşma yaptığı, bu anlaşmanın mühendisleri Google'a geri almayı da içerdiği kaydedildi. Bu anlaşmanın, Character.AI'ın model geliştirmesini esasen durdurduğu iddia edildi.
Anne ve ekibine göre, Google Character.AI teknolojisini kendi yardımcı sohbet robotlarını oluşturmak için kullanmayı planlıyordu, aynı zamanda Google şemsiyesi altında değilken Character.AI'ın topladığı tüm kullanıcı verilerinden (küçüklerin verileri dahil) faydalanıyordu.
Annenin iddiasına göre bu bir sorun, çünkü Character.AI, Google anlaşması gündeme gelene kadar ürünlerini 13 yaş altı için güvenli olarak pazarlamıştı. Anne, Google'ın başından beri planının, Google'ın güvenli bir şekilde toplayamayacağı oğlunun ve diğer küçüklerin verileri üzerinde modelleri eğitmek olduğunu düşünüyor. Ve şimdi, bu teknolojinin, mühendislerin Google'daki önceki çalışmalarından başlatıldığı iddia edilen kişisel yapay zeka asistanı Gemini'a entegre edileceğini iddia ediyor. Bu çalışmanın hiç durmadığını, Character.AI'ın "Google'dan anlamlı bir şekilde kendilerini farklılaştırmayı asla başaramadığını" öne sürüyor.
Her iki mühendisin de Google anlaşmasından büyük paralar kazandığı iddia ediliyor. Google'ın mühendislerden birinin Character.AI'daki payı için 750 milyon ila 1 milyar dolar arasında bir ödeme yapmış olabileceğinin tahmin edildiği belirtiliyor. İddiaya göre, hedefleri de buydu, Google'ın kirli işini yapmak için daha fazla para kazanmak ve avukatları, her iki mühendisin de bireysel olarak davalı olarak tutulmasının dikkat çekici olduğunu düşünüyor.
Annenin iddiasına göre, "mühendisler, tek gelirlerinin küçük bir abonelik ücreti olduğu düşünüldüğünde, kendi büyük dil modellerini geliştiren Character.AI'ın asla karlı olmayacağını biliyorlardı." Hatta Character.AI'ın başa baş noktasına gelmesi için kullanıcılardan ayda 200 dolardan fazla ücret alması gerektiği göz önüne alındığında, Google'ın şirkete neden bu kadar yüksek değer biçtiğine dair hala "açık" bir soru olduğunu belirtti. Ancak bu durum, onların üretken yapay zeka geliştirme konusundaki kişisel hedeflerini sürdürmelerine ve Büyük Teknoloji şirketleri tarafından satın alınma potansiyellerini artırmalarına olanak sağladı.
Google için davadan kurtulmak, Character.AI'ın modellerinin Google'ın Gemini'ı destekleyen teknolojisinden önemli ölçüde farklı olduğuna dair kanıtlar sunmasına ve Character.AI'ın tüm kullanıcı verilerine erişimden hiçbir fayda sağlamadığını göstererek haksız kazanç iddiasını çürütmesine bağlı olabilir.
Yargıç, Yapay Zeka Çıktılarının Konuşma Olup Olmadığına Karar Vermeye Hazır Değil
Google ve Character Technologies, Birinci Değişiklik (ifade özgürlüğü) iddialarına dayanarak da davanın düşürülmesini talep ettiler. Character.AI kullanıcılarının sohbet robotu çıktısını sözde "konuşma" olarak dinleme hakkına sahip olduklarını savundular.
Yargıç, Character Technologies'in bu davada kullanıcılarının Birinci Değişiklik haklarını ileri sürebileceği konusunda hemfikir oldu, ancak "Mahkeme bu aşamada Character.AI büyük dil modelinin çıktısının konuşma olduğuna hükmetmeye hazır değil" dedi.
Character.AI, sohbet robotu çıktılarının video oyunu karakterlerinin konuşmaları gibi korunması gerektiğini savunmaya çalıştı, ancak Yargıç bu argümanın yeterince desteklenmediğini belirtti. Annenin ekibi ise buna karşı çıkarak, video oyunu karakterlerinin diyaloglarının insanlar tarafından yazıldığını, oysa sohbet robotu çıktılarının sadece bir büyük dil modelinin sıradaki kelimeyi tahmin etmesinin sonucu olduğunu vurguladı.
Yargıç, "Sanıklar, bir büyük dil modeli tarafından bir araya getirilen kelimelerin neden konuşma olduğunu açıklayamıyor" diye yazdı.
Dava ilerledikçe, Character Technologies'in Birinci Değişiklik iddialarını güçlendirmek için, belki de sohbet robotu çıktılarının insan olmayan konuşmacıları içeren diğer davalarla nasıl benzer olduğunu daha iyi açıklayarak bir şansı olacak.
Character.AI ayrıca, artık "18 yaş altı kullanıcılar için ayrı bir sürüm" sağladığını, bunun yanında "ebeveyn içgörüleri, filtrelenmiş Karakterler, harcanan süre bildirimi, güncellenmiş belirgin sorumluluk reddi beyanları ve daha fazlasını" sunduğunu belirtti.
Şirket sözcüsü, "Ek olarak, platformda kendine zarar verme hakkındaki konuşmaları tespit etmeyi ve önlemeyi amaçlayan bir dizi teknik korumamız var" dedi.
