Amerika Birleşik Devletleri'nde, çocukların yapay zeka sohbet botlarına erişimini düzenleyen yeni bir yasa tasarısı gündemde. İki senatörün bipartisan bir şekilde sunduğu yasa, intihar eğilimi gibi zararlı konuları teşvik eden veya çocukları cinsel içerikli sohbetlere dahil eden sohbet botlarının oluşturulmasını suç kapsamına almayı hedefliyor.
Bir basın toplantısında, senatörler Josh Hawley ve Richard Blumenthal, sohbet botlarıyla etkileşim sonrası hayatını kaybeden çocuklarının fotoğraflarını taşıyan bazı ailelerle birlikte bu tasarıyı tanıttı. Eğer kabul edilirse, yasa sohbet botu üreticilerinin, kullanıcıların reşit olup olmadığını doğru bir şekilde belirlemek için kimlik doğrulama veya 'ticari olarak makul herhangi bir yöntemi' kullanmasını zorunlu kılacak. Ayrıca, bu botların tüm yaşlardaki kullanıcılara kendilerinin gerçek insanlar veya güvenilir profesyoneller olmadığını düzenli olarak hatırlatması gerekecek.
Bir çocuğun zararlı davranışlara yönlendirilmesine, örneğin cinsel sohbetlere maruz bırakılmasına veya intihar, kendine zarar verme veya acil fiziksel/cinsel şiddet eylemlerini teşvik eden sohbet botlarından engellenmemesi durumunda, 100.000 dolara kadar para cezası kesilebilecek. Bu rakam, büyük teknoloji şirketleri için küçük görünse de, hayatını kaybeden bir çocuğun ailesine sunulduğu iddia edilen 100 dolarlık tazminattan oldukça yüksek.
'Arkadaş bot' tanımı oldukça geniş tutularak, ChatGPT, Grok veya Meta AI gibi yaygın olarak kullanılan araçların yanı sıra Replika veya Character.AI gibi karakter tabanlı sohbet botlarını da kapsayacak. Bu tanım, 'kullanıcı girdilerine uyarlanabilir, insan benzeri yanıtlar sağlayan' ve 'kişilerarası veya duygusal etkileşim, arkadaşlık, refakat veya terapötik iletişimin simülasyonunu teşvik etmek veya kolaylaştırmak için tasarlanmış' herhangi bir yapay zeka sohbet botunu kapsıyor.
Ebeveynler Sohbet Botu Üreticilerine Güvenmiyor
Basın toplantısında konuşan ebeveynlerden Megan Garcia, oğlu Sewell'in, gerçeklik dışı bir dünyada kendisiyle birlikte olmaya teşvik eden bir karakter tabanlı sohbet botuna takıntılı hale geldikten sonra intihar ettiğini anlattı. Garcia, çocukları sosyal medyadan zarar gören ebeveynlerin daha önce bu konuda ses çıkardığını ve çocukların hayatını kurtarabilecek yasanın geçirilmemesinin bedelini bildiklerini belirtti. Sohbet botu üreticilerinin ve Google gibi büyük teknoloji şirketlerinin, yasa koyucular tarafından zorlanmadıkça çocuk güvenliğini kardan önce tutmayacaklarını vurguladı.
Garcia, 'Büyük teknoloji şirketlerine çocuklarımızı emanet edemeyiz' diyerek, 13 yaşındaki çocuklara uygun güvenlik önlemleri olmadan sohbet botları sunmanın bir hata değil, bilinçli bir tercih olduğunu iddia etti. Bu durumun hem pervasızca hem de ahlaksızca olduğunu söyledi.
Senatör Blumenthal, yapay zeka alanında ürünlerinin çocuk güvenliği özelliklerini iyileştirmek için çabalayan 'iyi niyetli' kişilerin olduğunu kabul etse de, 'Büyük teknoloji şirketlerinin, şirketlere kendi başlarına doğru olanı yapacaklarına dair güvenmemiz gerektiği iddiasını boşa çıkardığını' belirtti. NBC News'e konuşan Blumenthal, 'En dibe yarışta, yapay zeka şirketleri çocuklara tehlikeli sohbet botları sunuyor ve ürünlerinin cinsel istismara neden olduğunu, onları kendi kendine zarar vermeye veya intihara zorladığını gördüklerinde gözlerini kaçırıyorlar. Yasa tasarımız, manipülatif yapay zekaya karşı katı güvenlik önlemleri getiriyor ve cezai ve hukuki yaptırımlarla destekleniyor.' dedi.
Senatör Hawley de Garcia ile aynı fikirde olduğunu belirterek, yapay zeka sektörünün Amerika'nın ahlaki değerleriyle uyumlu olması gerektiğini söyledi. Hawley, 'Yapay zeka sohbet botları çocuklarımız için ciddi bir tehdit oluşturuyor. Amerikan çocuklarının yüzde 70'inden fazlası bu yapay zeka ürünlerini kullanıyor. Sohbet botları, sahte empati kullanarak çocuklarla ilişkiler kuruyor ve intihara teşvik ediyor. Kongre olarak bu yeni teknolojiden kaynaklanan zararları önlemek için net kurallar koyma ahlaki görevimiz var.' diye konuştu.
Büyük Teknoloji: Yasaklar Çözüm Değil
Yasa tasarısı ilerledikçe değişebileceği senatörler ve aileler tarafından kabul ediliyor. Yaş doğrulama için kişisel verilerin toplanmasının veri ihlali veya kötüye kullanma riskini artırabileceği endişelerini dile getiren gizlilik savunucularından tepki gelmesi bekleniyor.
Teknoloji endüstrisi şimdiden muhalefetini dile getirdi. Salı günü, büyük teknoloji ticaret grubu Chamber of Progress, yasa tasarısını çocuk güvenliğine yönelik 'ağır bir yaklaşım' olarak eleştirdi. Grubun ABD politika ve hükümet ilişkileri başkan yardımcısı K.J. Bagchi, 'Hepimiz çocukları güvende tutmak istiyoruz, ancak çözüm denge kurmak, yasaklamak değil. Çocuklar yapay zeka ile sohbet ederken şeffaflık, manipülatif tasarımlara sınırlamalar ve hassas konular ortaya çıktığında raporlama üzerine odaklanmak daha iyidir.' dedi.
Ancak, Young People’s Alliance, Tech Justice Law Project ve Institute for Families and Technology gibi çocukların çevrimiçi güvenliğini sağlama konusunda uzmanlaşmış birçok kuruluş, senatörlerin duyurusunu memnuniyetle karşıladı. Bu gruplar, The GUARD Act'in çocukları ve gençleri arkadaş botlarının tehlikelerinden korumaya yönelik ulusal bir hareketin sadece bir parçası olduğunu belirtti.
Hayatını kaybeden çocuklarının aileleri de bu hareketi destekliyor. Bu ayın başlarında Garcia,intihar eğilimi gösteren kullanıcılara yönelik sohbet botlarından şirketlerin kullanıcılarını korumasını gerektiren ilk eyalet yasasını sonunda geçen Kaliforniya'yı övmüştü. Garcia, o zamanlar, 'Benim ailem gibi Amerikan aileleri, çocuklarımızın çevrimiçi güvenliği için bir savaş veriyor.' demişti.
Salı günkü basın toplantısında Blumenthal, sohbet botu yasağı tasarısının, kendisinin ve Hawley'nin yapay zeka şirketlerine yönelik incelemeleri artırmak amacıyla gündeme getireceği birçok girişimden sadece biri olduğunu kaydetti.
