Yapay zeka (YZ) tarafından üretilen içeriklerin ayırt edilmesi giderek daha önemli hale gelirken, Google'dan dikkat çekici bir gelişme yaşandı. Google'ın Gemini modellerinden çıkan her YZ içeriği, artık gizli bir SynthID etiketi taşıyor. Bu etiket, içeriğin gerçekmiş gibi sunulmasını oldukça zorlaştırıyor. SynthID, diğer büyük YZ oyuncularından da destek almış olsa da, bu görünmez dijital işaretleri kontrol etmek şu ana kadar karmaşık bir süreçti. Ancak, bu durum yakında daha kolay hale geliyor.
Google, SynthID tespit aracının artık tüm iş ortaklarının dijital işaretlerini desteklediğini ve yeni özel web sitesi üzerinden herkesin kullanımına sunulduğunu duyurdu.
SynthID, YZ tarafından oluşturulan görsellerin, videoların piksellerine ve YZ seslerin dalga biçimine entegre edilen görünmez bir sinyaldir. Google'ın bildirdiğine göre, yalnızca Gemini tarafından üretilen 180 milyardan fazla görsel ve video, ayrıca 240.000 yıllık ses kaydı SynthID ile entegre edilmiş durumda.
Şimdiye kadar, Google'ın güvenilir testçi programı dışındaki kişilerin SynthID'yi kontrol etmesinin tek yolu Gemini'ye sormaktı. Bu, kullanıcılar için zahmetliydi ve yalnızca basit bir "evet" veya "hayır" yanıtı istendiğinde modelin verdiği yanıtlar bazen kafa karıştırıcı olabiliyordu. Artık bu süreçten Gemini'yi tamamen çıkarabilirsiniz.
Bugünden itibaren, yapay zeka dijital işaretlerini kontrol etmek için yeni SynthID.com web sitesini ziyaret edebilirsiniz. Google'ın önceki tespit aracının önemli bir sınırlaması, yalnızca Google'ın SynthID sürümünü kontrol edebilmesiydi. Örneğin, ChatGPT tarafından oluşturulan görseller SynthID'ye sahip olsa bile, Google'ın tespit aracında işaretlenmiyordu. Bu sorun artık ortadan kalktı.
Google, genişletilmiş tespit aracının OpenAI, Nvidia, Kakao ve (yakında) Apple gibi tüm SynthID iş ortaklarının benzersiz dijital işaretlerini destekleyeceğini belirtiyor. Böylece, YZ sistemlerinin tüm bu araçların kullanımını ayrı ayrı kontrol etmek yerine, tek bir yerden dosyanızı kontrol edebileceksiniz. Web sitesi, YZ piksellerinin hangi bölgelerde olduğunu gösteren dahili araç kadar ayrıntılı bilgi sunmayacak. Bunun yerine, medya üretiminde veya düzenlemesinde SynthID kullanılıp kullanılmadığını belirten bir mesaj alacaksınız.
Aracı kullanabilmek için giriş yapmanız gerekiyor, ancak Google, OpenAI ve Apple hesapları destekleniyor. Tespit aracı herkese açık olsa da, giriş yapma gerekliliği kullanım miktarını sınırlıyor. Google, her kullanıcıya "yaklaşık 10 görsel, video ve ses kontrolü günlük kullanım kotası" sunduğunu belirtiyor.
Önceki tespit araçlarında da benzer bir sınır vardı. Google mühendisleri, kullanıcıların bu kontrolleri SynthID kaldırma araçları geliştirmek için kullanmasını önlemek amacıyla erişimi sınırlamanın gerekli olduğunu belirtiyor. Tam sayıdaki belirsizlik, muhtemelen sistemin, birbirine çok benzeyen birden fazla görseli kontrol eden kullanıcıları daha erken kilitleyebilmesinden kaynaklanıyor. Bu durum, birinin bypass iş akışı üzerinde çalıştığını gösterebilir.
Yalanları Etiketlemek
SynthID tespitine erişimin genişletilmesi olumlu bir gelişme; popüler YZ araçlarının dijital işaretlerini kontrol etmek için kullanışlı ve tek bir merkez oluşturuyor. Ancak, Google'ın iş ortakları YZ içeriği üreten tek kaynak olmaktan çok uzak.
Bazı model sağlayıcılar farklı dijital işaret teknolojileri kullanırken (Meta gibi), bazıları hiç dijital işaret kullanmıyor. Ayrıca, kullanıcıların kendi donanımlarında çalıştırabildikleri ve basit meta veri etiketlemesi bile içermeyen giderek daha gerçekçi hale gelen YZ içerikleri üreten açık kaynaklı modeller de bulunuyor.
Bu durum, SynthID aracında YZ olarak tanımlanmayacak bol miktarda YZ içeriği olduğu anlamına geliyor. Web sitesinde bu durumu belirten bir uyarı bulunacak. Ayrıca, Google'ın çabalarına rağmen birilerinin SynthID'yi kaldırmayı başarabileceği ve mevcut YZ içeriğinin daha yasal görünmesini sağlayabileceği de olasıdır. Tamamen kusursuz bir sistem değil, ancak internette inanılmaz bir hızla yayılan YZ görselleri için proaktif dijital işaretlemeye güvenmenin gerçeği budur.
Belki de en iyi yaklaşım bunun tam tersi olabilir: C2PA gibi kriptografik teknolojileri kullanarak gerçek görselleri, videoları ve sesleri oluşturuldukları anda etiketlemek. Google'ın Pixel telefonları da tam olarak bunu yapan nadir cihazlardan biri. Bu arada, YZ sahtelerini tespit etmek için elinizdeki en iyi araç SynthID.
