Yapay zeka sohbet robotu platformu Character.AI, 25 Kasım'dan itibaren 18 yaş altı kullanıcıların yapay zeka karakterleriyle açık uçlu sohbetler gerçekleştirmesini engelleyecek. Şirket, bu kararı, platformun intihara sürüklediği iddia edilen gençler hakkındaki hukuki süreçlerin ardından aldı. Character.AI, bu adımla yapay zeka sohbet platformları arasında en kısıtlayıcı yaş politikalarından birini uygulamaya koymuş olacak.
Önümüzdeki ay boyunca Character.AI, yaşları belirlemek ve sohbet erişimine günlük iki saatlik bir sınır koymak suretiyle reşit olmayan kullanıcıların platform kullanımını kademeli olarak azaltmayı planlıyor. Şirket, kullanıcıların konuşmaları ve etkileşimleri aracılığıyla, ayrıca bağlı sosyal medya hesaplarından elde edilen bilgilerle yaş tespiti teknolojilerini kullanacak. 25 Kasım itibarıyla bu yaş grubundaki kullanıcılar yeni sohbet robotları oluşturamayacak veya onlarla konuşamayacak; ancak geçmiş konuşmalarını okuyabilecekler. Şirket, 18 yaş altı kullanıcılar için yapay zeka karakterleriyle video, hikaye ve akış oluşturma gibi alternatif özellikler geliştirmek üzere çalıştığını belirtti.
Character.AI CEO'su Karandeep Anand, sektör için bir örnek teşkil etmek istediklerini belirterek, "Genç kullanıcılar için sohbet robotlarının eğlence yolu olmadığını, onlara hizmet etmenin çok daha iyi yolları olduğunu söyleyerek çok cesur bir adım atıyoruz," dedi. Şirket ayrıca bir yapay zeka güvenlik laboratuvarı kurmayı planlıyor.
Anand'ın açıklamalarına göre, platformun aylık yaklaşık 20 milyon kullanıcısı bulunuyor ve bunların %10'undan azı 18 yaş altı olarak beyan ediyor. Kullanıcılar, özel yapay zeka arkadaşlarıyla sohbet etmek için aylık yaklaşık 8 dolardan başlayan bir abonelik ücreti ödüyor. Platform, yakın zamana kadar kayıt sırasında yaş doğrulaması yapmıyordu.
Dava Süreçleri ve Güvenlik Endişeleri
2021 yılında iki eski Google mühendisi tarafından kurulan Character.AI, yatırımcılardan yaklaşık 200 milyon dolar topladı. Geçen yıl Google, Character.AI teknolojisini lisanslamak için yaklaşık 3 milyar dolar ödemeyi kabul etti.
Ancak şirket şimdi, teknolojisinin genç ölümlerine katkıda bulunduğu iddialarını içeren birden fazla dava ile karşı karşıya. Geçen yıl, 14 yaşındaki bir gencin ailesi, oğlunun ölümünden Character.AI'yi sorumlu tutarak dava açtı. Gencin, platformdaki bir sohbet robotuyla sık sık mesajlaşma ve sohbet ettikten sonra intihar ettiği iddia ediliyor. Şirket, 2023 yılında platformu kullandıktan sonra intihar eden 13 yaşındaki kızı Juliana Peralta'nın ailesinin açtığı dava da dahil olmak üzere ek davalarla karşı karşıya.
Aralık ayında Character.AI, ihlal edici içeriklerin daha iyi tespit edilmesi ve hizmet şartlarının gözden geçirilmesi gibi değişiklikler duyurmuştu, ancak bu önlemler reşit olmayan kullanıcıların platforma erişimini kısıtlamamıştı. OpenAI'nin ChatGPT'si gibi diğer yapay zeka sohbet hizmetleri de genç kullanıcılar üzerindeki etkileri nedeniyle incelemeler altına alındı. Eylül ayında OpenAI, ebeveynlere çocuklarının hizmeti nasıl kullandığına dair daha fazla görünürlük sağlamak amacıyla ebeveyn kontrolü özellikleri tanıttı.
Bu davalar, muhtemelen Character.AI'yi 18 yaş altı sohbet erişimi için değişiklikler yapmaya iten hükümet yetkililerinin dikkatini çekti. Güvenlik yasası taslağı sunan bir Kaliforniya Senatörü, "Ne kadar yanlış gidebileceğine dair hikayeler birikiyor. En savunmasızları korumak için makul güvenlik bariyerleri koymak önemli," dedi.
Salı günü Senatörler Josh Hawley ve Richard Blumenthal, yapay zeka arkadaşı botlarının reşit olmayanlar tarafından kullanılmasını yasaklayan bir yasa tasarısı sundular. Ayrıca, Kaliforniya Valisi Gavin Newsom bu ay, 1 Ocak'ta yürürlüğe girecek bir yasayı imzalayarak yapay zeka şirketlerinin sohbet robotlarında güvenlik bariyerleri bulundurmasını zorunlu hale getirdi.
