Google geçtiğimiz yıl, yapay zeka tarafından üretilen içerikleri görünmez bir şekilde işaretlemek için geliştirdiği SynthID adlı filigranlama sistemini açık kaynak olarak sunmuştu. Bu sistem, diğer geliştiricilerin içeriği yapay zeka tarafından oluşturulmuş olarak algılanmayacak şekilde işaretlemesine olanak tanıyan bir araç seti sağlıyor.
Şimdi ise şirket, bu filigranla işaretlenmiş medyaları kolayca tespit edebilecek web tabanlı bir portalı kullanıma sunuyor. SynthID Detector adı verilen bu portala medya yükledikten sonra, kullanıcılar içeriğin hangi bölümlerinin filigranlı olma ihtimalinin daha yüksek olduğunu gösteren sonuçlar alacak.
Şirket yetkilileri, bu filigranlı, yapay zeka tarafından üretilmiş içeriğin, portal tarafından "içerik paylaşıldığında veya çeşitli dönüşümlere uğradığında bile" tespit edilebilir kalacağını belirtiyor. Dedektör, bugünden itibaren beta test kullanıcılarının erişimine açılıyor. Google, gazeteciler, medya profesyonelleri ve araştırmacıların erişim için bir bekleme listesine başvurabileceğini duyurdu. Başlangıçta kullanıcılar, doğrulama için portala görsel ve ses yükleyebilecekler. Ancak şirket, önümüzdeki haftalarda video ve metin tespitinin de ekleneceğini söylüyor.
Peki Neden Önemli?
"Anlık" olarak yapay zeka tarafından üretilen içeriği tanımladığını iddia eden dedektörlerin, gerçek dünya senaryolarında son derece güvenilmez olduğu kanıtlanmıştı. Bu durum, derin sahtekarlıkları (deepfakes) ve yapay zeka yardımıyla oluşturulmuş diğer içerikleri tespit etme mücadelesinde bu tür filigranlamayı önemli bir araç haline getiriyor.
Google, SynthID'nin kullanıma sunulmasından bu yana 10 milyardan fazla içeriğin bu araç seti ile işaretlendiğini belirtiyor. Bu içeriklere Google'ın kendi modelleri olan Gemini, Imagen, Lyria ve Veo'nun yanı sıra, bazı başka modeller ve araçlarla oluşturulan içerikler de dahil.
Ancak bu, SynthID ile filigranlanmamış yüz milyarlarca yapay zeka tarafından üretilmiş içeriğin hala var olduğu ve dolayısıyla Google'ın yeni portalı kullanılarak tespit edilemeyeceği anlamına geliyor. Google ve altı diğer yapay zeka şirketinin, yetkililerle yapılan bir toplantıda filigranlama teknolojisi geliştirme taahhüdünde bulunmasına rağmen, büyük paydaşların tek ve kolay tespit edilebilir bir standart konusunda çok az ilerleme kaydettiği görülüyor.
Başka bir büyük yapay zeka şirketi olan OpenAI'nin, ücretsiz kullanıcıları tarafından oluşturulan görselleri filigranlamayı test ettiği bildiriliyor. Ancak şirket, güvenilirlik ve tespit edilen kullanıcıların damgalanması gibi potansiyel sorunları gerekçe göstererek, dahili metin filigranlama aracını geçtiğimiz yıl kamuoyuna sunmamıştı.
