Avrupa Birliği, Elon Musk'ın yapay zeka sohbet botu Grok'un, çocukları da içeren gerçek kişilerin cinsel içerikli görsellerini sansürlemekte başarısız olmasının ardından, "nudifier" (çıplaklaştıran) uygulamalarına yasak getirme yolunda önemli bir adım attı. Avrupa Parlamentosu İç Pazar ve Sivil Özgürlükler komiteleri, Yapay Zeka Yasası'nı basitleştirme ve "yapay zeka 'nudifier' sistemlerine yasak teklif etme" yönünde oy kullandı.
Bu oylama, Avrupa Komisyonu'nun yılın başlarında yaptığı ve Yapay Zeka Yasası'nın çocuk cinsel istismarı materyali (CSAM) veya rıza dışı cinsel içerikli deepfake çıplak görseller üreten yapay zeka sistemlerini yasaklamadığını belirten sonucunun ardından geldi. O dönemde Komisyon, Parlamento üyelerinin bu tür zararlı içeriklere karşı korumaları güçlendirmek için yasayı değiştirme yolları aradığını belirtmişti.
Eğer bu değişiklik geçerse, Elon Musk'ın zararlı çıktılardan kullanıcıları sorumlu tutma planı sekteye uğrayacak. Daha önce, xAI zararlı çıktıları engellemek için güvenlik önlemleri getirmeyi reddetmiş ve CSAM veya rıza dışı özel görseller üreten kullanıcıları askıya alıp hukuki sorumluluğa tutacağını bildirmişti. Bunun yerine, bu özellik ücretli abonelere özel hale getirilmiş ve Grok'a verilen görsellerle oluşturulan müstehcen içeriğin devam etmesine izin verildiği iddia edilmişti.
Amerika Birleşik Devletleri'nde xAI, Grok'un çıktılarından dolayı fazla bir sonuçla karşılaşmamış gibi görünse de, eğer "Take It Down Act" yürürlüğe girseydi (Mayıs ayında yürürlüğe girecek) milyarlarca dolarlık para cezalarıyla karşı karşıya kalabilirdi. Musk'ın özelliği ücretli hale getirme ve Grok'u X üzerindeki komutlara zararlı çıktılar vermekten alıkoyma taktiğinin, bu yasanın yürürlüğe girmesinden önce bazı riskleri azaltma amacı taşıdığı düşünülüyor.
Ancak Avrupa Birliği, "nudifier" uygulamalarını muhtemelen Ağustos gibi erken bir tarihte yasaklarsa, Musk nihayet müdahale etmek zorunda kalacak ve Grok'u muhtemelen istemediği kadar "baharatlı" olmaktan çıkaracak, aksi takdirde Yapay Zeka Yasası'nı ihlal etme riskiyle karşı karşıya kalacak. Bu durum, yapay zeka yarışında en büyük rakipleriyle rekabet etmek için önemli yatırımlar gerektiren ve toplam küresel yıllık cirosunun %7'sine kadar para cezaları getirebilecek bir dönemde xAI'ye pahalıya mal olabilir.
Yetkililer Neden Kullanıcılar Yerine Platformları Hedef Almak İstiyor?
Yetkililer, "yapay zekayı kullanarak, kişinin rızası olmadan cinsel olarak müstehcen veya özel nitelikte ve tanınabilir bir gerçek kişiye benzeyen görseller oluşturan veya manipüle eden sözde 'nudifier' sistemlerine yeni bir yasak getirmek istediklerini" belirtti. Ancak yetkililer, "bu yasağın, kullanıcıların bu tür görseller oluşturmasını engelleyen etkili güvenlik önlemlerine sahip yapay zeka sistemleri için geçerli olmayacağını" eklediler.
Bloomberg'in de belirttiği gibi, bu yasak, Avrupa Birliği'nin açık deepfake'leri düzenleme yaklaşımını kökten değiştirecek ve sadece kullanıcıları cezalandırmaktan platformları da cezalandırmaya yönelecek. Grok skandalı, böyle bir düzenleyici değişimin neden gerekli olduğunu "özetlemiş" ve bu değişikliğin, rıza dışı cinsel içerik üreten ve paylaşılmasına izin veren "yapay zeka platformlarını özel olarak hedef alan" ilk AB politikası olduğu belirtilmişti.
AB yetkilileri basın açıklamasında Grok'tan doğrudan bahsetmese de, düzenleyiciler zaten yapay zeka sistemini incelemekte ve xAI'nin tartışmasının diğer, daha az görünür "nudifier" uygulamaları üzerindeki etkilerini değerlendirmekteydi. Bu yılın başlarında Avrupa Komisyonu'na sorular sunan milletvekilleri uyarıda bulunmuştu:
Milletvekilleri, "bu sistemlerin AB pazarından yasaklanması gerektiğini" ve özellikle "bireysel faillerin -ki bunlar genellikle ulusal ceza hukuku kapsamında cezalandırılabilirler- bulunmasının zor olduğunu" vurguladılar. Milletvekilleri, daha proaktif bir planın "görüntü tabanlı cinsel şiddetin yayılmasını baştan önlemek" olacağını öne sürdüler.
Parlamento üyelerinden gelen destekle, değişikliğin muhtemel geçişi, Musk'ı kesinlikle hayal kırıklığına uğratacaktır. Musk, aynı zamanda ABD'de Grok'un "nudifier" çıktılarına karşı ihtiyati tedbir talepleriyle karşı karşıya. Ocak ayında, Musk'ın çocuklarından birinin annesi Ashley St. Clair, dava açan ilk mağdurlardan biri olmuştu. Daha yakın zamanda ise Tennessee'den üç genç kız, Grok'un iddia edilen CSAM çıktılarıyla zarar gören tüm çocukları temsil eden toplu bir dava açtı.
Avrupa Birliği'nde, xAI gerçek insanları çıplaklaştırmasını engelleme konusunda isteksiz görünürken, düzenleyicilerin müdahale etmesi için benzer bir kamuoyu baskısı artıyor. Sivil özgürlükler komitesi üyesi Michael McNamara, basın açıklamasında, "nudifier" uygulamalarını yasaklama teklifinin "vatandaşlarımızın beklediği bir şey" olduğuna inandığını söyledi.
