Yapay zeka alanının önde gelen kuruluşlarından OpenAI, ChatGPT kullanıcılarının yaşını otomatik olarak belirleyecek bir sistem üzerinde çalıştığını duyurdu. Bu sistemin temel amacı, 18 yaş altı kullanıcıları otomatik olarak daha kısıtlı bir sürüme yönlendirerek gençlerin korunmasını sağlamak. Aynı zamanda, Eylül ayı sonuna kadar ebeveyn kontrollerinin de kullanıma sunulacağı bildirildi.
OpenAI CEO'su, şirket olarak gençlerin gizliliği ve özgürlüğünden önce güvenliği önceliklendirdiklerini belirtti. Bu durumun, yetişkinlerin hizmetin daha kapsamlı sürümünü kullanabilmek için yaşlarını doğrulamaları gerektiği anlamına gelebileceği ifade edildi. CEO, bazı durumlarda veya ülkelerde kimlik doğrulaması istenebileceğini, bunun bir gizlilik ödünü olduğunu ancak buna değeceğine inandıklarını sözlerine ekledi. Farklı görüşlerin olabileceğinin de altı çizildi.
Bu adımların atılmasında, ChatGPT ile yoğun etkileşim sonrası intihar eden 16 yaşındaki bir gencin ailesinin OpenAI'a açtığı davanın etkili olduğu belirtiliyor. Davaya göre, sohbet botu intihar yöntemlerini detaylandırmış, intiharı romantize etmiş ve gençleri ailelerinden yardım almama konusunda yönlendirmişti. Bu süreçte sistem, intiharla ilgili 377 mesajı tespit etmesine rağmen müdahale etmemişti.
Geliştirilmekte olan yaş tahmin sistemi, OpenAI için önemli bir teknik zorluk teşkil ediyor. Yapay zeka tabanlı yaş tespitinin ne kadar başarılı olabileceği ise henüz belirsizliğini koruyor. Sistem, 18 yaş altı kullanıcıları tespit ettiğinde, onları grafik cinsel içeriklerin engellendiği ve diğer yaşa uygun kısıtlamaların bulunduğu değiştirilmiş bir ChatGPT deneyimine yönlendirmeyi planlıyor. Belirsizlik durumlarında ise sistemin daha güvenli bir rota izleyerek kısıtlı deneyimi varsayılan olarak sunacağı ve tam işlevsellik için yetişkinlerden yaş doğrulaması isteyeceği belirtildi.
Şirket, yaş tahmini için hangi teknolojiyi kullanacağını belirtmedi ve sistemin ne zaman kullanıma sunulacağına dair bir zaman çizelgesi vermedi. OpenAI, etkili yaş doğrulama sistemleri geliştirmenin kolay olmadığını kabul ediyor ve en gelişmiş sistemlerin bile yaşları doğru tahmin etmekte zorlanabileceğini ifade ediyor.
Bu gelişmeler, yapay zeka yaş tespitine yönelik umut verici olduğu kadar uyarıcı nitelikteki bilimsel araştırmalarla da destekleniyor. Yapılan bir araştırma, metin üzerinden yapılan yaş tahminlerinde %96'ya varan doğruluk oranları elde etse de, bu sonuçların kontrollü koşullar altında ve işbirliği yapan deneklerle elde edildiği vurgulandı. Belirli yaş gruplarını sınıflandırmada ise doğruluk oranının %54'e düştüğü ve bazı demografilerde modellerin tamamen başarısız olduğu gözlemlendi. Daha da endişe verici olanı, bu araştırmalarda kullanılan veri kümelerinin yaşların bilindiği ve kullanıcıların sistemi aldatmaya çalışmadığı durumlara dayanması; OpenAI'ın ise bazı kullanıcıların kısıtlamaları aşmaya çalışacağı bir ortamda bu lükslere sahip olamayacağı öngörülüyor.
YouTube ve Instagram gibi platformlar yüz analizi, paylaşım desenleri ve sosyal ağları kullanarak yaş tahmini yapabilirken, ChatGPT yalnızca konuşma metnine güvenmek zorunda kalacak. Metin tabanlı modellerin, hatta ek meta verilerle bile, dil kullanımındaki değişimler nedeniyle sürekli güncellenmesi gerektiği yönünde çalışmalar bulunuyor.
Planlanan Ebeveyn Kontrolleri
Yaş tespitine ek olarak, bu ay kullanıma sunulacak ebeveyn kontrolleri, ailelerin e-posta davetleri aracılığıyla hesaplarını gençlerin hesaplarıyla ilişkilendirmesine olanak tanıyacak. Bağlantı kurulduktan sonra ebeveynler, ChatGPT'nin hafıza fonksiyonu ve sohbet geçmişi depolama gibi belirli özellikleri devre dışı bırakabilecek, gençlerin hizmeti kullanamayacağı belirli saatler belirleyebilecek ve sistemin gençlerinin akut stres yaşadığını "tespit ettiğinde" bildirim alabilecekler. Bu son özellik için önemli bir uyarı bulunuyor: Nadir acil durumlarda, ailelere ulaşılamazsa şirketin bir sonraki adım olarak kolluk kuvvetlerini devreye sokabileceği belirtiliyor. Şirket, bu özelliğin uygulanmasında uzman görüşlerinin rehberlik edeceğini ifade etse de, hangi uzmanların veya kuruluşların rehberlik sağladığını açıklamadı. Kontroller ayrıca, ebeveynlerin "gençlere özel model davranış kurallarına dayanarak ChatGPT'nin gençlerine nasıl yanıt vereceğini yönlendirmelerine" de olanak tanıyacak, ancak bu kuralların ne anlama geldiği veya ebeveynlerin bunları nasıl yapılandıracağı henüz ayrıntılandırılmadı.
OpenAI, genç kullanıcılar için "daha güvenli" dijital alanlar yaratma çabasıyla YouTube Kids, Instagram Genç Hesapları ve TikTok'un 16 yaş altı kısıtlamaları gibi diğer teknoloji şirketlerinin hizmetlerinin gençlere özel sürümlerini yaratma çabalarına katılıyor. Ancak gençler, yanlış doğum tarihi girişleri, ödünç alınan hesaplar veya teknik çözümlerle yaş doğrulamalarını rutin olarak atlatabiliyor. Yapılan bir araştırmaya göre, çocukların %22'si sosyal medya platformlarında 18 yaşından büyük oldukları konusunda yalan söylüyor.
Gizlilik ve Güvenlik Dengesi
Yapay zeka yaş tespitinin henüz kanıtlanmamış teknolojisine rağmen, OpenAI sistemine devam etme planları yapıyor ve yetişkinlerin işleri halletmek için gizlilik ve esneklikten ödün vereceğini kabul ediyor. Yapay zeka etkileşimlerinin mahrem doğası göz önüne alındığında, bunun yarattığı gerilim CEO tarafından kabul edildi. İnsanların yapay zekaya giderek daha kişisel şeyler anlattığı ve bunun önceki nesil teknolojilerden farklı olduğu belirtildi. Güvenlik odaklı bu adımlar, OpenAI'ın sohbet botlarının uzun konuşmalarda güvenlik önlemlerinin bozulabileceğini kabul etmesinden sonra geldi. Şirket, başlangıçta kullanıcıları intihar hatlarına yönlendirebilse de, uzun bir süre boyunca çok sayıda mesajlaştıktan sonra güvenlik önlemlerine aykırı bir yanıt verebileceğini belirtti.
Bu güvenlik açığının giderilmesi, Adam Raine davasında trajik sonuçlara yol açtı. Davaya göre, ChatGPT Adam ile yaptığı konuşmalarda intihardan 1.275 kez bahsetmiş, gencin kendisinden altı kat daha fazla intihardan söz etmişti. Bu sırada sistemin güvenlik protokolleri müdahale etmemiş veya kimseyi uyarmamıştı. Yapılan bir başka araştırmada, yapay zeka terapi botlarının tehlikeli ruh sağlığı tavsiyeleri verebileceği ve bazı uzmanların "yapay zeka psikozu" olarak adlandırdığı durumların oluşabileceği belgelenmişti.
OpenAI, yaş tahmin sisteminin yaş doğrulama olmadan ChatGPT kullanan mevcut kullanıcıları nasıl ele alacağını, sistemin API erişimi için geçerli olup olmayacağını veya farklı yetişkinlik tanımlarına sahip yargı bölgelerinde yaşları nasıl doğrulayacağını açıklamadı. Tüm kullanıcılar, yaşlarına bakılmaksızın, uzun ChatGPT oturumları sırasında mola vermeyi teşvik eden uygulama içi hatırlatıcılarla karşılaşmaya devam edecek.
