Google'ın yapay zeka destekli video oluşturucusu Veo 3, Mayıs ayında piyasaya sürüldüğünde, yapay zeka video kalitesinde endişe verici bir sıçrama yaşatmıştı. Viral olan ve çoğu zaman eğlenceli yapay zeka videolarının yanı sıra, modelin piksel mükemmelliğindeki çıktısı kötü niyetli amaçlar için de kullanılmaya başlandı. Son dönemde TikTok platformunda, Google'ın Veo 3'ü aracılığıyla oluşturulan ırkçı yapay zeka videolarının hızla yayıldığı dikkat çekiyor.
Ortaya çıkan bilgilere göre, birçok TikTok hesabı son haftalarda ırkçı ve Yahudi düşmanı stereotipleri kullanan yapay zeka tabanlı videolar paylaşmaya başladı. Bu türdeki yapay zeka kaynaklı içeriklerin çoğu, özellikle siyahi bireyleri hedef alarak onları suçlarda "olağan şüpheliler", sorumsuz ebeveynler veya karpuz seven maymunlar gibi aşağılayıcı bir şekilde tasvir ediyor. İçeriklerde ayrıca göçmenler ve Yahudi toplumu da hedefleniyor. Genellikle sekiz saniyeyi geçmeyen bu videoların üzerinde "Veo" filigranının bulunması, içeriklerin Google'ın önde gelen yapay zeka modelinden geldiğini doğruluyor.
Bu tür videoların sosyal medyada hızla yayılmasının ardında, öfke ve dramanın etkileşimi artırması yatıyor. Şok edici içerikler, platformda daha fazla görünürlük kazanıyor ve yorumlarda videolardaki stereotipleri tekrarlayan birçok mesaja rastlanıyor.
Google, yeni yapay zeka modellerini duyururken güvenlik önlemlerini sıkça vurgulamıştı. Yapay zekanın koruyucu bariyerlerine takılan bir görevi tamamlamayı reddettiği durumlar sıkça görülüyor. Ancak Veo 3'ün bu konuda daha esnek davrandığı gözlemleniyor. Yapılan testlerde, basit komutlarla bile bu tür videoların bazı unsurlarını yeniden üretmenin kolay olduğu fark edildi.
Politikalar Net, Uygulama Eksik
TikTok'un hizmet koşulları, bu tür içerikleri açıkça yasaklıyor. Platformun topluluk kuralları, "Her türlü nefret söylemine, nefret dolu davranışa veya nefret dolu ideolojilerin teşvikine izin vermiyoruz. Bu, korunan bir gruba saldıran açık veya örtülü içeriği içerir" ifadelerini barındırıyor. Ancak bu kapsamlı yasağa rağmen, nefret dolu Veo 3 videolarının kontrolsüz bir şekilde yayıldığı görülüyor.
TikTok, kural ihlal eden içerikleri tespit etmek için hem teknolojik araçlar hem de insan denetleyiciler kullandığını belirtiyor. Ancak yükleme hacminin büyüklüğü, zamanında denetimi zorlaştırıyor. Yapılan incelemelerde adı geçen hesapların yarısından fazlasının politikaları ihlal ettiği gerekçesiyle yasaklandığı, geri kalanların ise sorunun kamuoyuna yansımasının ardından kaldırıldığı belirtilse de, bu videoların milyonlarca görüntülemeye ulaşmış olması endişe verici bir durum yaratıyor.
Google'a gelince, şirketin nefret söylemi, taciz, zorbalık ve istismarı teşvik etmek için hizmetlerinin kullanılmasını yasaklayan kapsamlı bir "Yasaklı Kullanım Politikası" bulunuyor. Ortaya çıkan videoların tamamı bu kategorilerden bir veya daha fazlasına giriyor gibi görünüyor. İdeal bir dünyada Veo 3 bu videoları oluşturmayı reddetmeliydi, ancak komutlardaki belirsizlik ve yapay zekanın ırkçı stereotiplerin inceliklerini (örneğin, bazı videolarda insanlar yerine maymun kullanılması gibi) anlayamama yetersizliği, kuralları aşmayı kolaylaştırıyor.
Dünyanın önde gelen sosyal video devi TikTok, bu tür videoların yayılması için doğal bir ortam sunuyor. Ancak sorun sadece TikTok'a özgü değil. X (eski adıyla Twitter), çok sınırlı denetim uygulamasıyla nefret dolu yapay zeka içeriğinin hızla yayılmasına zemin hazırladı. Bu problem çok yakında daha da kötüleşebilir. Google'ın Veo 3'ü YouTube Shorts'a entegre etme planları var, bu da benzer içeriğin YouTube'da daha da kolay yayılmasına neden olabilir.
Hem TikTok hem de Google'ın bu tür içeriklere karşı net yasakları olsa da, bu videoların milyonlarca kez görülmesini engellemede yetersiz kalındığı görülüyor. TikTok'un video yükleme seline yetişemediği, Google'ın koruyucu bariyerlerinin ise bu tür içeriklerin oluşturulmasını engellemede yetersiz olduğu anlaşılıyor. Üretken yapay zeka var olduğundan beri insanlar, kışkırtıcı ve ırkçı içerikler oluşturmak için bu teknolojiyi kullanıyor. Google ve diğer şirketler her zaman kötüye kullanımı önleyici güvenlik önlemlerinden bahsetse de, her şeyi yakalamak mümkün olmayabiliyor. Veo 3'ün gerçekçiliği, nefret dolu stereotipleri yaymak isteyenler için onu özellikle cazip kılıyor. Belki de dünyadaki tüm güvenlik bariyerleri bile bunu durdurmaya yetmeyecektir.
