Yapay zeka (YZ) tarafından üretilen yüz görselleri o kadar gerçekçi hale geldi ki, olağanüstü yüz tanıma yeteneğine sahip "süper tanıyıcılar" bile bu sahte yüzleri ayırt etmekte şanslarıyla yarışıyor. Tipik tanıma yeteneklerine sahip kişiler ise daha da kötü durumda; çoğu zaman yapay zeka ürünü yüzleri gerçek sanıyorlar.
Bu bulgular, 12 Kasım'da Royal Society Open Science dergisinde yayımlanan bir araştırmaya dayanıyor. Araştırma, yalnızca beş dakikalık yaygın YZ işleme hataları üzerine bir eğitim almanın, bireylerin sahte yüzleri tespit etme yeteneğini önemli ölçüde geliştirdiğini de ortaya koyuyor.
Araştırmanın baş yazarı ve Birleşik Krallık'taki Reading Üniversitesi'nde psikoloji alanında doçent olan Katie Gray, yaptıkları kısa eğitim prosedürünün her iki grupta da performansı önemli ölçüde artırmasının cesaret verici olduğunu belirtti.
Gray'e göre şaşırtıcı bir şekilde, eğitim süper tanıyıcılarda ve tipik tanıyıcılarda benzer oranlarda doğruluk artışı sağladı. Süper tanıyıcıların başlangıçta sahte yüzleri daha iyi ayırt etmesi, onların yalnızca işleme hatalarına değil, başka ipuçlarına da dayandığını gösteriyor.
Gray, bilim insanlarının gelecekte YZ tarafından üretilen görselleri daha iyi tespit etmek için süper tanıyıcıların gelişmiş tespit becerilerinden yararlanabileceğini umuyor. Araştırmacılar, en iyi yapay zeka ürünü yüzleri tespit etmek için, insan dokunuşunu da içeren bir yaklaşım benimsenebileceğini, bu insanın eğitimli bir süper tanıyıcı olabileceğini belirtiyor.
Derin Sahtecilik (Deepfake) Tespiti
Son yıllarda internette YZ tarafından üretilen görsellerin sayısı hızla arttı. Sahte yüzler, üretici çekişmeli ağlar (generative adversarial networks) adı verilen iki aşamalı bir YZ algoritması kullanılarak oluşturuluyor. İlk aşamada gerçek dünya görüntülerine dayalı sahte bir görsel üretiliyor. Ardından bu görsel, gerçek mi yoksa sahte mi olduğunu belirleyen bir ayrıştırıcı tarafından inceleniyor. Tekrarlanan işlemlerle sahte görüntüler, ayrıştırıcıyı geçebilecek kadar gerçekçi hale geliyor.
Bu algoritmalar artık o kadar gelişti ki, insanlar genellikle sahte yüzleri gerçek yüzlerden daha "gerçek" sanıyor; bu duruma "hipergerçeklik" adı veriliyor.
Bu nedenle araştırmacılar, bireylerin YZ yüzlerini tespit etme yeteneklerini geliştirecek eğitim programları tasarlamaya çalışıyor. Bu eğitimler, YZ tarafından üretilen yüzlerdeki yaygın hatalara, örneğin ortada bir diş olması, garip görünen saç çizgisi veya doğal olmayan cilt dokusu gibi noktalara dikkat çekiyor. Ayrıca sahte yüzlerin gerçek olanlara göre daha orantılı olma eğiliminde olduğu vurgulanıyor.
Teorik olarak, süper tanıyıcılar ortalama bir kişiden daha iyi sahte yüzleri tespit edebilmeli. Bu kişiler, yüz algılama ve tanıma görevlerinde üstün olan bireylerdir. Ancak bugüne kadar süper tanıyıcıların sahte yüzleri tespit etme yeteneklerini ve eğitimin performanslarını ne kadar iyileştirebileceğini inceleyen çok az çalışma yapıldı.
Bu boşluğu doldurmak için araştırmacılar, bir grup süper tanıyıcı ile tipik tanıyıcıların performansını karşılaştıran çevrimiçi deneyler yürüttü. Süper tanıyıcılar, daha önce hiç görmedikleri yüzleri hatırlama görevlerinde en iyi %2'lik dilimde yer alan bireyler arasından seçildi.
İlk deneyde, ekranda gerçek veya bilgisayar tarafından üretilmiş bir yüz görüntüsü belirdi. Katılımcılara yüzün gerçek olup olmadığına karar vermeleri için 10 saniye süre tanındı. Süper tanıyıcılar, YZ'li yüzlerin yalnızca %41'ini tespit ederek şansa bağlı tahminlerden daha iyi performans göstermedi. Tipik tanıyıcılar ise sahtelerin yalnızca yaklaşık %30'unu doğru bir şekilde belirleyebildi.
Her iki grup da gerçek yüzleri sahte olarak değerlendirme oranlarında da farklılık gösterdi. Süper tanıyıcılar için bu durum %39, tipik tanıyıcılar için ise yaklaşık %46 oranında gerçekleşti.
Bir sonraki deney, öncekiyle aynıydı ancak bu kez katılımcılara YZ tarafından üretilen yüzlerdeki hataların örneklerini gösteren beş dakikalık bir eğitim verildi. Ardından katılımcılara 10 yüz gösterildi ve sahte yüzleri tespit etme konusundaki doğrulukları hakkında gerçek zamanlı geri bildirim sağlandı. Eğitimin son aşamasında, dikkat edilmesi gereken işleme hatalarının bir özeti yapıldı. Ardından katılımcılar ilk deneydeki orijinal görevi tekrar uyguladılar.
Eğitim, tespit doğruluğunu önemli ölçüde artırdı; süper tanıyıcılar sahte yüzlerin %64'ünü, tipik tanıyıcılar ise %51'ini tespit etti. Her grubun gerçek yüzleri sahte olarak yanlış değerlendirme oranı ilk deneyle aynıydı. Süper tanıyıcılar gerçek yüzleri %37, tipik tanıyıcılar ise %49 oranında "gerçek değil" olarak değerlendirdi.
Eğitim almış katılımcılar, eğitime tabi tutulmayanlara göre görselleri incelemek için daha uzun süre harcadılar; tipik tanıyıcılar yaklaşık 1.9 saniye, süper tanıyıcılar ise 1.2 saniye daha uzun süre ayırdı. Bu durum, bir yüzün gerçek olup olmadığını anlamaya çalışan herkes için önemli bir mesaj niteliğinde: yavaşlayın ve özellikleri dikkatlice inceleyin.
Ancak, testin katılımcılar eğitimlerini tamamlar tamamlamaz yapıldığı ve etkinin ne kadar süreceğinin belirsiz olduğu unutulmamalıdır.
Bir incelemede, eğitimin kalıcı ve etkili bir müdahale olarak kabul edilemeyeceği, çünkü yeniden test edilmediği belirtildi. Ayrıca, iki deneyde farklı katılımcıların kullanılması nedeniyle eğitimin bireyin tespit becerilerini ne kadar geliştirdiği konusunda kesin bir sonuca varmak mümkün değil. Bunun için aynı kişilerin eğitim öncesi ve sonrası test edilmesi gerekir.
