Yapay zeka araçları, yalnızca şirketler tarafından değil, aynı zamanda günlük işlerinde yardımcı olarak ve bazen kişisel amaçlar için arkadaşlık arayışında olan sıradan kullanıcılar tarafından da giderek daha yaygın bir şekilde kullanılıyor. OpenAI ve diğer teknoloji devleri, bu araçlara terapi ve diğer duygusal destekler için aşırı derecede güvenilmemesi konusunda uyarılar yapsa da, düzenleyici otoriteler de bu sohbet botlarının, özellikle de çocuklar üzerindeki etkisini inceliyor gibi görünüyor. ABD Federal Ticaret Komisyonu (FTC), yapay zeka arkadaş sohbet botları geliştiren şirketlere yönelik kapsamlı bir soruşturma başlattı ve kullanıcı verilerinin nasıl ele alındığına dair daha ayrıntılı bilgi talep ediyor.
FTC, Yapay Zeka Arkadaş Sohbet Botlarını Güvenlik Riskleri, Gizlilik Endişeleri ve Teenler Üzerindeki Etkisi Nedeniyle Soruşturuyor
ABD Federal Ticaret Komisyonu (FTC), özellikle genç çocuklar üzerinde olumsuz etkileri olabileceğine dair endişeler üzerine, yapay zeka arkadaş sohbet botları geliştiren şirketlere karşı geniş çaplı bir soruşturma başlattı. Bu soruşturma, Google, Meta, OpenAI, Snap, xAI ve Character.AI gibi yedi büyük şirketi kapsıyor.
FTC, bu yapay zeka arkadaş sohbet botlarıyla ilgili olarak gençlerin güvenliği ve ruh sağlığı etrafındaki büyük endişeleri vurguladı. Yapay zeka üzerine kurulu platformlar üretkenliği teşvik etmek ve yardım sağlamak için tasarlanmış olsa da, arkadaş botları tartışmalı hale geliyor. Genç kullanıcılara duygusal bağları taklit etme ve rehberlik sağlama eğilimindeler, hatta bazen romantik etkileşimleri canlandırıyorlar. Bu format, genç izleyiciler için çekici ancak özellikle gerekli güvenlik önlemleri yerinde değilse daha büyük bir risk oluşturuyor.
Bu nedenle Komisyon, teknoloji devlerinden bu sohbet botlarının nasıl oluşturulduğu ve izlendiği hakkında ayrıntılı bilgi sağlamasını talep ediyor. Bu, bilgilerin nasıl toplandığına, ne tür güvenlik filtrelerinin bulunduğuna ve uygunsuz etkileşimlerin nasıl ele alındığına dair açıklamaları içeriyor. Ayrıca, özellikle reşit olmayanların sağladığı bilgilerle ilgili olarak verilerin nasıl kullanıldığına dair içgörüler de incelenecek. FTC ayrıca, bu firmaların etkileşimden nasıl para kazandıklarını da öğrenmekle ilgileniyor.
Teknoloji topluluğu, yapay zekanın hızlı büyümesini ve yanlış bilgilerin yayılmasını önlemek ve zararlı davranışları caydırmak için gerekli güvenlik önlemlerinin alınmasının gerekliliğini uzun süredir vurguluyor. Teknolojinin gelişimiyle birlikte hesap verebilirliğin artık bir zorunluluk haline geldiği ve zarar normalleşmeden önce kullanıcı güvenliğini ve gizliliğini korumak için adımların hızla atılması gerektiği göz önüne alındığında, FTC'nin düzenlemesi büyük bir ihtiyaçtır.
