Pennsylvania eyalet polis teşkilatından bir çavuş, meslektaşlarının iç çamaşırlarına girmek, çalıntı silah bulundurmak, sabit disklerinde çocuk cinsel istismarı materyali bulundurmak ve yapay zeka araçlarını kullanarak 3.000'den fazla pornografik "deepfake" üretmek gibi akıl almaz suçlardan dün suçlu bulundu.
Üretilen deepfake'lerden biri bir ilçe hakimiyle ilgiliyken, diğerlerinin çoğu eyalet veri tabanlarından yasa dışı yollarla indirilen, özellikle sürücü belgesi fotoğrafları kullanılarak oluşturulmuş.
Görüntülerden bazıları, eyalete ait cihazlar kullanılarak polis karakollarında bile üretilmiş.
Sürücü Belgesi Fotoğraflarından Deepfake'ler
39 yaşındaki Stephen Kamnik, geçen yıl tutuklanarak dokuz ağır, altı hafif suçlamayla karşı karşıya kalmıştı. Pennsylvania başsavcılığına göre Kamnik, "yıllardır eyalet bilgisayar kaynaklarını kendi kişisel cinsel tatmini için kötüye kullanmış, bu kapsamda birçok kadın vatandaşın yapay zeka tarafından üretilmiş pornografisini yaratmış."
Yerel bir gazetenin haberine göre, soruşturma geçen yıl polis yetkililerinin Kamnik'e atanan bilgisayarın olağandışı derecede yüksek internet bant genişliği kullandığını fark etmesi ve harici bir sabit diskin sürekli takılıp çıkarıldığını görmesi üzerine başlamış.
Bu durum şüphe uyandırmış ve sonunda Kamnik'in telefon, bilgisayar ve harici sabit diskinde yapılan incelemelerde massive miktarda yasa dışı materyal ortaya çıkarılmış. Bu materyaller arasında Kamnik'in yapay zeka araçlarıyla ürettiği binlerce pornografik deepfake bulunuyormuş.
Başsavcılık dün yaptığı açıklamada, Kamnik'in bu süreci yürütmek için "meslektaşları dahil birçok kişiyi gizlice filme alıp fotoğraflamak" gibi çeşitli yöntemler kullandığını belirtmiş. Hatta "Montgomery County'de bir ilçe hakimin duruşma sırasında kaydedilmiş yasa dışı bir videosunu bulduklarını ve Kamnik'in bunu da bariz müstehcen amaçlarla düzenlediğini" eklemiş.
Ancak deepfake'lerin çoğu, eyalet veri tabanlarından alınan kadın yüzleri kullanılarak üretilmiş. Kamnik'in cihazlarında, "güvenli bir veri tabanı olan JNET'i kullanarak yüzlerce kadın fotoğrafı elde ettiği, bu durumun JNET kullanım politikalarını ihlal ettiği" belirtilmiş. JNET kullanıcılarının arama yapmadan önce kabul etmesi gereken kurallardan biri "JNET'in kişisel kullanımının kesinlikle yasak olduğudur."
Kamnik'in davranışlarını gizlemeye pek de uğraşmadığı anlaşılıyor; sadece kayıtlı ve denetlenen eyalet veri tabanlarından aldığı verileri kullanmakla kalmamış, aynı zamanda "Eyalete ait cihazlarla, Montgomery County polis karakollarında bu yapay zeka materyallerinden bazılarını üretmiş."
Kamnik'in iddia edilen suçları sadece dijital değilmiş. Yerel gazete, ayrıca "karakolardaki kadınlar soyunma odasına girerek meslektaşlarının iç çamaşırlarını karıştırdığının" da ortaya çıktığını belirtiyor. Soruşturmacılar ayrıca aracında çalıntı bir .22 kalibre silah bulmuş.
Ücretsiz izne çıkarılan Kamnik, Temmuz ayında ceza alacak.
Artık Daha Yaygın
Bu olay Philadelphia bölgesinde yaşanmış olsa da, bir saat uzaklıktaki Lancaster'da da benzer bir yapay zeka deepfake olayı şehri aylardır sarsıyor. Orada ise failler, özel bir lisede okuyan ve 60 kadın sınıf arkadaşlarına ait 300'den fazla deepfake üreten liseli gençlerdi. İki hafta önce bu gençlere sadece 60 gün kamu hizmeti cezası verilmiş.
Bu davada karar verilmeden önce birçok mağdur, yaşadıkları travmayı anlatan şok edici ifadeler okumuş. Yerel bir haber sitesine göre, "Bir mağdur, sanıklardan birini 'en iyi arkadaşı' olarak tanımlayıp güvenini nasıl ihanete uğradığını anlatmış. Mağdurlar, çocuğun sosyal medyadan, paylaşılan partilerde çekilen fotoğrafları ve hatta FaceTime görüşmelerinden ekran görüntülerini alıp diğer çocuğa verdiğini, onun da yapay zeka kullanarak bunları pornografig hale getirdiğini söylemişler. Bir mağdur, çocukların cinsel içerikli deepfake oluşturmak için kullandığı fotoğraflardan birinde sadece 12 yaşında olduğunu belirtmiş."
Bu durum bölgedeki tekil bir olay değilmiş. Son iki yılda doğu Pennsylvania'daki birçok lisede deepfake'ler bir sorun haline gelmiş.
Yapay zeka deepfake teknolojisi o kadar ucuz, kolay ve hızlı hale gelmiş ki, artık lise koridorlarından eyalet polis karakollarına kadar her yerde karşımıza çıkıyor.
