Yapay zeka (YZ) üretimi içeriklerin gerçekliğinden şüphe duyduğumuz bu dönemde, Google'ın geliştirdiği SynthID teknolojisi giderek daha fazla benimseniyor. Birkaç yıl öncesine kadar YZ ile üretilmiş görsellerdeki bariz hataları kolayca fark edebilirken, artık gerçeklerinden ayırt edilmesi neredeyse imkansız hale gelen içeriklerle karşı karşıyayız. Google'ın bu soruna cevabı, üç yıl önce tanıttığı SynthID teknolojisi oldu.
Google'ın açıklamalarına göre, SynthID şimdiye kadar 100 milyar görsel ve videoyu etiketlemek için kullanıldı. Ayrıca, 60.000 yıllık ses kaydına da uygulandı. SynthID'nin Google dışındaki platformlara da yaygınlaşmasıyla bu rakamların daha da artması bekleniyor.
SynthID, Google'ın YZ etiketleme stratejilerinden sadece biri. Şirket aynı zamanda, içeriğin nasıl oluşturulduğuna dair meta verilerle etiketleme yapan C2PA standardını da destekliyor. Google, Pixel 10 akıllı telefonlarında C2PA'yı daha belirgin bir şekilde kullanmaya başladı. Pixel 10 ile çekilen fotoğraflar, işlenme süreçlerini açıklayan meta veriler içeriyor. Eğer çok yaklaştırılmış bir görselde üretici öğeler bulunuyorsa, bu görsele bir YZ etiketi de ekleniyor.
Yakın haftalarda yayınlanacak bir güncellemeyle bu özelliğin Pixel 8, 9 ve 10 telefonlarda kaydedilen videolara da geleceği belirtildi. Ayrıca, Gemini'ye C2PA tarama özelliği de ekleniyor. Bu sayede sohbet botu, içeriğin etiketlemesine dayalı olarak dosyanın kaynağını açıklayabilecek. Bu yetenek, birkaç ay içinde Chrome ve Arama'ya da entegre edilecek.
Meta veriler değiştirilebilir olsa da, SynthID YZ tarafından üretilmiş içeriklere derinlemesine entegre edilmiş durumda. Dijital filigran, görsellerin ve videoların piksellerinde, yapay şarkıların dalga biçimlerinde ve NotebookLM gibi ürünlerden gelen ses özetlerinde mevcut. Google DeepMind bilim insanı Pushmeet Kohli'ye göre, ekip SynthID'yi sıkıştırma, kırpma veya döndürme gibi işlemlerden sonra bile kaldırmanın çok daha zor olmasını sağlamak için yoğun bir çalışma yürüttü.
Kohli, "Bu tür bir teknoloji her zaman saldırıya uğrayacaktır. SynthID'yi farklı dönüşümlere karşı dayanıklı hale getirmek için çok fazla araştırma yaptık" dedi. Geçen yıl Google, Gemini uygulamasına SynthID algılama desteği ekledi. Şüpheli içeriği yükleyerek sohbet botuna YZ tarafından üretilip üretilmediğini sorabiliyorsunuz. Bu özellik, son üç yıldaki milyarlarca Google YZ görseli ve ses klibiyle güvenilir bir şekilde çalışmalı. Birkaç meraklı girişimci, gizli SynthID kalıplarını kaldırmanın yollarını bulduğunu iddia etse de, Google bu geçersizleştirme girişimlerinin hiçbirinin işe yaramadığını savunuyor.
SynthID Daha Fazla Platformda Yer Alacak
SynthID'yi kimse çözememiş olsa bile, bu durum internetteki çoğu YZ görseli için önemli değil, çünkü yalnızca Google'ın YZ modelleri SynthID'yi uyguluyor. Ancak bu durum yakında değişecek.
Google, SynthID'yi kendi sistemlerine entegre etmek için birçok şirketle ortaklık kurduğunu duyurdu. Nvidia, SynthID'yi Cosmos dünya temel modellerinde kullanacak ve OpenAI, GPT 2 görsellerinde SynthID'yi entegre edecek. Kakao ve ElevenLabs da YZ içeriklerine SynthID eklemeye başlayacak.
Bu durum, bir içeriğin YZ tarafından üretilip üretilmediğini SynthID'ye bakarak her zaman anlayabileceğiniz anlamına gelmiyor. Kamuoyuna açık birçok model, YZ filigranı olmadan içerik üretmeye devam ediyor ve kendi şartlarında YZ görselleri ve videoları oluşturmak isteyen herkes tarafından eğitilebilen açık modeller de mevcut. Yine de bu, doğru yönde atılmış bir adımdır.
SynthID durumunu kontrol etmek için yeni yollar da olacak. Artık filigranı kontrol etmek için Gemini'yi açmanıza gerek kalmayacak. SynthID, Circle to Search, Lens ve AI Mode ile entegre edilecek. Ayrıca, ilgili içeriğin olduğu bir sekmeyi paylaşarak Chrome'da Gemini'yi kullanabileceksiniz. Bu araçlarla bir SynthID taraması yapmak için "Bu YZ mı?" gibi çeşitli sorular sorabileceksiniz.
Şu anda SynthID için halka açık bir API bulunmuyor. Bu taramaların çok kolay erişilebilir olması, SynthID'yi atlatmak isteyenler için bir saldırı vektörü oluşturabilir. Ancak Google, şirketin Gemini Enterprise Agent Platform'unun bir parçası olarak bir YZ içerik algılama API'si yayınlamaya hazırlanıyor. Bu, güvenilir iş ortaklarının YZ içeriğini daha kolay işaretlemesine olanak tanıyacak ve Google'ın önümüzdeki aylarda API'yi geliştirmesine yardımcı olacak.
