Yapay zeka destekli yüz değiştirme teknikleriyle hazırlanan rıza dışı görüntülerin paylaşıldığı, internetin en popüler deepfake pornografi platformlarından biri süresiz olarak kapandı.
Söz konusu platform, ünlülerin veya diğer kişilerin rızası olmadan pornografik videolarda gösterilmesini sağlamak için gelişmiş yüz değiştirme tekniklerinin kullanılmasını isteyen toksik bir kullanıcı kitlesini çekiyordu. Araştırmacılar, içerik üreticilerinin bu tür videolar için 1.500 dolara kadar ücret talep ettiğini belirtiyor. Platform zirve noktasında 43.000'den fazla videoya ev sahipliği yapıyordu ve bu videolar toplamda 1,5 milyardan fazla kez görüntülendi. Yaklaşık 4.000 içerik üreticisi, etik olmayan ve artık birçok yerde yasa dışı sayılan bu satışlardan önemli gelir elde ediyordu.
Ancak hafta sonu itibarıyla bu videoların hiçbiri artık platformda mevcut değil ve yeni videolar için taleplerin yapıldığı forumlar da kapatıldı. Platformda yayınlanan bir bildirime göre, "kritik bir hizmet sağlayıcı" hizmeti "süresiz olarak" sonlandırdığında platform kapatılmak zorunda kaldı.
"Veri kaybı, çalışmaya devam etmeyi imkansız hale getirdi," şeklinde açıklama yapan platform yetkilileri, kendi yokluklarında ortaya çıkabilecek sahte platformlara karşı da uyardı. Açıklamada, "Yeniden açılmayacağız. Bunu iddia eden herhangi bir web sitesi sahtedir. Bu alan adının süresi sonunda dolacak ve gelecekteki kullanımdan sorumlu değiliz. Bu mesaj yaklaşık bir hafta sonra kaldırılacaktır," ifadelerine yer verildi.
Hangi hizmet sağlayıcının platformun bağlantısını kestiği tam olarak net değil. Ancak araştırmacılar, deepfake içerik üreticilerinin bu tür içerikleri oluşturmaya devam etmek için ihtiyaç duyduğu "en önemli bileşenler" arasında bulut tabanlı ücretsiz GPU erişiminin (bazı platformlarca sağlanan) bulunduğunu belirtiyor.
Bu erişimin sonlandırılıp sonlandırılmadığı konusunda ilgili teknoloji şirketlerinden henüz bir açıklama gelmedi.
Platformun çöküşü, ABD'de yapay zeka tarafından üretilen sentetik rıza dışı samimi görüntülerin (NCII) oluşturulmasını ve dağıtılmasını yasa dışı hale getiren bir yasanın (Take It Down Act) kabul edilmesinin hemen ardından geldi. Bu yasaya göre, NCII hakkında bilgilendirilen herhangi bir platformun 48 saat içinde içeriği kaldırması gerekiyor, aksi takdirde yasal işlemle karşı karşıya kalabilir. Yasanın tam olarak yürürlüğe girmesi gelecek baharı bulacak olsa da, hizmet sağlayıcının yasanın kabul edilmesine yanıt olarak platformu kapatmış olabileceği düşünülüyor. Geçen yıl da platform, Birleşik Krallık'ın benzer bir yasa çıkarma niyetini açıklamasının ardından bu ülkeden gelen ziyaretçileri önleyici olarak engellemeye başlamıştı.
