Kadınların rızası dışında üretilen deepfake porno içeriklerin çevrimiçi yasa dışı şekilde yayınlanması ve satılmasıyla mücadele eden 'Take It Down Act' (TIDA) kapsamında ilk tutuklamalar, kolluk kuvvetlerinin bu tür suçları işleyenleri tespit etmek için çok da zorlanmadığını gösteriyor.
Geçtiğimiz hafta FBI, pornografi sitelerini ziyaret edip '#AI', '#Deepfakes' gibi etiketlere veya "AI_tits", "Ass_AI" gibi video başlıklarına tıklayarak iki kişiyi gözaltına aldı.
TIDA'yı ihlal etmekle suçlanan şüphelilerden biri 20 yaşındaki Arturo Hernandez'di. Hernandez'in, yaklaşık 50 kadına ait yapay zeka tarafından üretilmiş cinsel içerikli görsel ve videolar içeren 113 albümü yaklaşık bir milyon kez görüntülendiği iddia ediliyor. Mağdurlar arasında siyasetçiler, oyuncular ve müzisyenlerin yanı sıra, Teksas'taki lise arkadaşları ve bir Instagram takipçisi gibi kamuoyu dışındaki kadınlar da bulunuyor.
Hernandez'in bir şüpheli olarak tespit edilmesinde coğrafi konum verileri büyük rol oynadı. FBI özel ajanı Christopher Powell'ın sunduğu belgede, porno sitesini araştıran yetkililerin, Hernandez'in yüklediği tüm içerikleri yeniden yayınlayan ikinci bir hesabı bulduğu açıklandı. Bu ikinci hesabın Hernandez'in PayPal hesabına bağlı olduğu ve hesaba giriş yapmak için kullanılan IP adresinin, Hernandez'in Apple kayıtlarına göre iCloud'a giriş yapmak için kullandığı IP adresiyle aynı olduğu belirtildi.
Ünlülerin ve siyasetçilerin cinsel içerikli deepfake'leri daha kolay tespit edilebilse de, yetkililer Hernandez'i tanıdığı kişilere ait yapay zeka içerikleriyle ilişkilendiren kanıtlar da aradı. Bu arayışı kolaylaştıran ise, Hernandez'in mağdurlardan birinin Instagram hesabını takip etmesi ve ayrıca kendi Instagram hesabındaki bir klasörde, yapay zeka pornosu üretmek için kullanılan ve 36.000'den fazla görüntülenen belirli bir görseli kaydetmiş olmasıydı.
Hernandez, Gmail hesabını gerçek adının yerine "Ryan" takma adıyla kaydederek bazı faaliyetlerden uzaklaşmaya çalışmış gibi görünüyor. Ancak yetkililer, Hernandez'in "Ryan" takma adını Snapchat hesabı dahil olmak üzere çevrimiçi platformlarda başka yerlerde de kullandığını tespit etti.
Diğer yandan, 51 yaşındaki Cornelius "Neil" Shannon ise, Powell'ın ifadesine göre daha az dikkatli davranmıştı.
Shannon'ın, ağırlıklı olarak siyasetçiler, oyuncular ve müzisyenleri içeren, yaklaşık 90 kadına ait yaklaşık 360 yapay zeka tarafından üretilmiş albümü 2 milyondan fazla kez yayınladığı iddia ediliyor.
Powell'ın belgesi, Shannon'ın pornografi sitesi hesabı ile ilişkilendirilmesinin son derece kolay olduğunu öne sürüyor çünkü Shannon'ın profil fotoğrafı olarak kendi fotoğrafını kullandığı anlaşılıyor. Polis, Trafik Tescil Kayıtları ve güvenlik kamerası görüntülerinin karşılaştırılmasıyla, hesaptaki bir profil resminde Mets beyzbol tişörtüyle poz veren bir erkeğin Shannon'a benzediğini iddia etti.
Hernandez ve Shannon, TIDA'yı ihlal ettikleri kanıtlanırsa iki yıla kadar hapis cezasıyla karşı karşıya kalabilirler.
FTC, 12 'Nudify' Aracı Üreticisini Uyardı
Yetkililer, çevrimiçi paylaşılan görselleri takip etme ve yasaları uygulama konusunda kararlı görünüyor.
Son tutuklamaları duyuran bir basın açıklamasında, New York Doğu Bölgesi ABD Savcısı Joseph Nocella Jr., şüphelileri, "ABD genelinde mağdurları aşağılayan ve ihlal eden görseller oluşturmak için en son dijital teknolojiyi kullanmakla" suçladı. New York FBI saha ofisi sorumlu başkan yardımcısı James C. Barnacle Jr. ise, ajanlarının benzer davaları araştırmaya devam edeceğini doğruladı.
Barnacle, "Bu yırtıcı davranış, mağdurlara duygusal zarar veren, mahremiyetlerini, onurlarını ve güvenliklerini ihlal eden rahatsız edici bir teknoloji kötüye kullanımıdır," dedi. "Bu gelişen teknolojiyi bireyleri mağdur etmek için kullanmak yenilikçi değildir; bu suçtur ve yasaların tüm gücüyle takip edilecektir."
Bununla birlikte, TIDA ihlaliyle suçlanan bazı kişiler, teknolojinin hala kolayca erişilebilir ve gerçek insanları cinsel içerikli hale getiren gerçekçi görünümlü içerikler üretmenin nispeten ucuz olması nedeniyle mağdurlara zarar vermek için bu teknolojiyi kullanmaya devam edebilirler. ABD Adalet Bakanlığı tarafından TIDA kapsamında ilk tutuklama olarak övülen Ohio'lu bir adam, tutuklu yargılanması sırasında bile cinsel içerikli deepfake üretimine devam etmiş, hatta yaklaşan sonuçların tehdidi bile onu caydırmamıştı.
İnsanları "soymak" ve zararlı görüntüleri çevrimiçi paylaşmak için yapay zeka hizmetlerini kullanmalarını engellemek amacıyla, Federal Ticaret Komisyonu (FTC) geçtiğimiz hafta "nudify" araçları sunduğunu iddia eden 12 şirkete uyarı mektupları gönderdiğini duyurdu.
FTC, bu şirketlerin TIDA'yı ihlal ettiğini ve "mağdurların kendi platformlarında görünen rızası dışı özel görüntülerin kaldırılması için bir süreç" uygulamaları gerektiğini, aksi takdirde "ihlal başına 53.088 dolara kadar para cezasıyla karşı karşıya kalabileceklerini" uyardı.
Üç kızın gerçek fotoğraflarının yapay zeka çocuk cinsel istismarı materyallerine dönüştürüldüğü iddiasıyla dava açtığı sosyal medya platformu X'in uyarı alıp almadığı belirsizliğini koruyor. Ancak X'in Güvenlik hesabı geçtiğimiz hafta yaptığı duyuruda, kullanıcıları TIDA mağdurlarının zararlı içerikleri Yardım Merkezi aracılığıyla bildirebileceğini bildirdi. Ayrıca "üç nokta menüsüne (⋯) dokunarak, 'Özel veya Rızası Dışı İçerik' > 'ABD Take It Down Act Kapsamında İçerik Bildir' seçeneğini seçip formu doldurarak" herhangi bir gönderiyi bildirebileceklerini belirttiler.
X Güvenlik hesabı, "Ekibimiz bu raporları mümkün olduğunca hızlı ve Yasanın 48 saatlik zaman dilimi içinde inceliyor" dedi.
Daha geniş çapta, FTC bu ay tüm çevrimiçi platformların bu tür bir sürece sahip olması gereken son tarihin geçmesinden sonra uygulamayı artırıyor gibi görünüyor. Nudify hizmetlerine uyarı mektupları gönderilmeden bir hafta önce FTC, Amazon, Alphabet, Apple, Automattic, Bumble, Discord, Match Group, Meta, Microsoft, Pinterest, Reddit, SmugMug, Snapchat, TikTok ve X dahil olmak üzere büyük platformların operatörlerine ek mektuplar gönderdi. Bu mektuplar, platformlara herhangi bir uyumsuzluk için cezalara hazır olmalarını bildirdi.
Ancak, her çevrimiçi platformda böyle bir süreç mevcut olsa bile, TIDA kusurlu görünüyor, çünkü ilk paylaşımı durdurmuyor ve hala mağdurun İnternet genelindeki zararlı görüntüleri izleme ve işaretleme yükünü ona yüklüyor. Eleştirmenler, sürecin, platformların hoşlanmadıkları herhangi bir içeriği otomatik olarak kaldırmasını uman Donald Trump da dahil olmak üzere kişiler tarafından kötüye kullanılabileceği konusunda uyardılar.
