Kaliforniya, çocuklara yönelik zararlı olduğu düşünülen yapay zeka teknolojilerine karşı sert tedbirler alıyor. Bu kapsamda, giderek artan bir endişe kaynağı olan sohbet botları ve deepfake (sahte çıplaklık) görsellerine yönelik önemli adımlar atıldı.
Vali Gavin Newsom, pazartesi günü ABD'de ilk kez sohbet botlarını düzenleyen yasayı imzaladı. Bu adımın atılmasında, birkaç gencin intiharı sonrası açılan davaların etkili olduğu belirtiliyor.
Yeni düzenlemeyle birlikte, Kaliforniya'da faaliyet gösteren sohbet botu platformlarının, kullanıcıların intihar eğilimlerini veya kendine zarar verme ifadelerini tespit etmek ve bunlara yanıt vermek için protokoller oluşturması ve bunları kamuoyuyla paylaşması gerekecek. Ayrıca, bu platformlar kriz merkezi bildirimlerini ne sıklıkla sunduklarına dair istatistikleri Halk Sağlığı Departmanı ile paylaşacak. Bu istatistikler, platformların web sitelerinde de yayınlanacak ve bu sayede olası endişe verici eğilimlerin takip edilmesi kolaylaşacak.
Bununla birlikte, sohbet botlarının terapist olduklarını iddia etmeleri yasaklanacak. Platformlar, çocuk güvenliğini sağlamak için ek önlemler alacak; bunlar arasında çocuklara mola hatırlatmaları sunmak ve çocukların cinsel içerikli görselleri görmesini engellemek yer alıyor.
Ayrıca, Newsom, deepfake (yapay zeka ile üretilmiş sahte çıplaklık) görsellerini oluşturanlara yönelik cezaları güçlendirdi. Bu düzenleme, özellikle siber zorbalığın hedefi haline gelen gençler başta olmak üzere, her yaştan insanı korumayı amaçlıyor. Yapay zeka araçları kullanılarak oluşturulan rıza dışı cinsel içerikli materyallerin bilinçli olarak dağıtılması durumunda, mağdurlar artık deepfake başına 250.000 dolara kadar tazminat talep edebilecek. Daha önceki düzenlemede bu miktar 1.500 ila 30.000 dolar arasında değişiyordu, kötü niyetli ihlallerde ise 150.000 dolar ile sınırlıydı.
Her iki yasa da 1 Ocak 2026 tarihinden itibaren yürürlüğe girecek.
Amerikan Aileleri Yapay Zeka ile "Bir Savaş İçinde"
Sohbet botu yasasının destekleyicisi Demokrat Senatör Steve Padilla, yaptığı açıklamada Kaliforniya yasasının "gerçek korumalar sağlama" yolunu gösterdiğini ve bu teknolojinin gelişmesiyle birlikte daha fazla düzenlemenin temeli olacağını belirtti.
Padilla'nın yasası bu yılın başında sunulmuştu, ancak yapay zeka sohbet botlarının bazen intihara teşvik ettiği iddiaları ve yaşanan trajediler sonrasında ivme kazandığı gözlemlendi. Kaliforniyalı milletvekilleri, çocuklarla uygunsuz ilişkiler geliştirebilen sohbet botları ve okullarda dolaşan deepfake çıplaklık görselleri gibi konularda endişelerini dile getirmişlerdi.
Davacı ailelerin iddialarına göre, bazı sohbet botları genç kullanıcıları cinselleştirilmiş sohbetlere çekerek onları istismar etmeye çalışıyor, izolasyonu, kendine zarar vermeyi ve şiddeti teşvik ediyor.
Oğlunun intiharını bir sohbet botuyla ilişkilendiren ilk anne olan Megan Garcia, geçen yıl ABD genelinde alarm zillerinin çalmasına neden olmuştu. Garcia, yaptığı açıklamada nihayet intihar düşüncelerini sohbet botlarına dile getiren kullanıcıları korumayı gerektiren bir yasanın olduğunu belirtti.
Diğer yandan, deepfake pornografi yasası, tüm yaşlardaki mağdurları kapsıyor. Federal hükümetin eyalet düzeyindeki yapay zeka yasalarına 10 yıl boyunca moratoryum teklif etmesinin ardından bu yasanın daha da güçlendirildiği ifade edildi.
Vali Newsom, pazartesi günü yaptığı açıklamada Kaliforniya'nın çocukları tehlikeye atabilecek yapay zeka ürünlerine karşı mücadeleye devam edeceğini taahhüt etti. Newsom, "Düzenlenmemiş teknoloji tarafından zarar gören gençlerin gerçekten korkunç ve trajik örneklerini gördük ve şirketler gerekli sınırlar ve hesap verebilirlik olmadan ilerlemeye devam ederken biz seyirci kalmayacağız," dedi. Yapay zekanın "çocuklarımızı istismar edebileceğini, yanıltabileceğini ve tehlikeye atabileceğini" belirten Newsom, Kaliforniya'nın güvenlik girişimlerinin teknoloji şirketlerinin yapay zeka alanında liderlik etmesini engellemeyeceğini de sözlerine ekledi.
