Avustralya'da, yapay zeka destekli deepfake içerikleri yasa dışı yollarla paylaşmaya devam eden bir kişi, tarihin en büyük cezalarından biriyle karşı karşıya kaldı. Mahkeme kararını hiçe sayarak deepfake pornografik görüntüler yaymaya devam eden bu şahıs için yüz binlerce dolarlık para cezası isteniyor.
Olayın merkezindeki 53 yaşındaki şahsın, Avustralyalı tanınmış kadınlara ait yapay zeka ile oluşturulmuş cinsel içerikli görüntüleri, artık aktif olmayan bir internet sitesi üzerinden paylaştığı belirlendi. Avustralya mahkemesi, bu kişinin söz konusu görüntüleri derhal kaldırması yönünde bir emir çıkarmıştı.
Ancak şahıs, bu karara uymak yerine deepfake içerikleri yaymaya devam etti ve iddialara göre reşit olmayan kurbanları da hedef aldı. Mahkeme emrini çiğnediği için daha önce 25 bin dolar ceza alan şahıs, pişmanlık göstermedi ve hatta mahkeme kararını, kurbanların isimlerini ifşa ederek medya kuruluşlarına e-posta ile gönderdi. Bu e-postaya ek olarak bir deepfake görseli daha iliştirdiği belirtildi.
Avustralya e-Güvenlik Komiserliği, şahsın tekrarlayan ihlalleri ve kurbanlar üzerindeki yıkıcı etkileri göz önüne alarak, caydırıcılık amacıyla 400 bin ila 450 bin dolar arasında bir para cezası uygulanmasını tavsiye etti. Komiserlik sözcüsü, bu talebin ihlallerin ciddiyetini ve hedef alınan kadınlar üzerindeki ağır etkilerini yansıttığını belirtti.
Bu olay, Avustralya'da deepfake konusundaki yasal düzenlemelerin sıkılaştırılmasına yol açtı. Ülke, bu tür rıza dışı yapay zeka manipülasyonlarını suç haline getiren yasalar çıkardı. Şahıs hakkında ayrıca müstehcen yayın ve teşhir suçlarından da yeni davalar açıldı.
Yargıç, şahsın mahkeme süresince herhangi bir pişmanlık belirtisi göstermediğini ve mahkeme emrinin, yurt dışında yaşadığı için kendisi için geçerli olmayacağını düşündüğünü kaydetti. Şahıs, nihayetinde polise deepfake görüntülerini silmesi için şifrelerini verse de, daha sonra bilinmeyen sayıda yeni deepfake oluşturmaya devam ettiği iddia ediliyor. Deepfake sitelerindeki içerik üreticilerinin, rıza dışı halk figürü deepfake'lerinden yüksek gelir elde edebildikleri düşünüldüğünde, bu durumun maddi motivasyonla ilişkili olabileceği belirtiliyor.
Deepfake teknolojisinin kötüye kullanımıyla küresel çapta mücadele ediliyor. Hükümetler, rıza dışı deepfake'leri oluşturan, yayan siteleri ve hatta bu içeriği kaldırmayan platformları hedef alan yeni yasalar ve cezalar geliştiriyor. Bu tür olaylar, yapay zekanın yanlış kullanımının hem bireyler hem de toplum için ne kadar yıkıcı olabileceğinin altını çiziyor.
