Geçtiğimiz ay, İsviçre Maliye Bakanı Karin Keller-Sutter, bir X kullanıcısının yapay zeka sohbet botu Grok tarafından oluşturulan ve bakanı hedef alan saldırgan bir gönderi hakkında suç duyurusunda bulundu. Kullanıcı, Grok'tan kendisini 'tiye almasını' istemişti.
Bakanın şikayeti, X kullanıcısını hakaret ve sözlü tacizden sorumlu tutmayı hedefliyor. Ayrıca savcılıktan, Grok'un kadın düşmanı ve 'kaba' çıktılarının engellenmesindeki sorumluluğun X platformuna ait olup olmadığının değerlendirilmesi de talep edildi. Maliye Bakanlığı, Grok'un çıktısını 'bir kadının açıkça karalanması' olarak tanımlarken, 'bu tür kadın düşmanlığının normal veya kabul edilebilir görülmemesi gerektiği' vurgulandı.
Bu gelişmeler yaşanırken, sohbet botunu piyasaya sürdüğünden beri Grok geliştiricisi xAI'nin kurucusu Elon Musk, X kullanıcılarını bu tür 'tiye alma' içerikleri üretmeleri için teşvik ediyor. xAI'den yapılan bir açıklamada, Grok'un piyasadaki tek 'uyanık olmayan' sohbet botu olduğu iddia edilmişti.
İsviçre yasalarına göre, kasıtlı olarak saldırgan materyal yayınlamaktan sorumlu bulunan kişilere üç yıla kadar hapis cezası veya para cezası verilebiliyor. Bir kişinin itibarını zedeleyen veya onurunu lekeleyen hakaretler de İsviçre'de para cezası riski taşıyor; ancak bu hakaretler geri çekilirse risk azalıyor.
X platformundaki anonim kullanıcı, bakanın şikayetine konu olan gönderisini, Grok'un ilgili yanıtı oluşturmasından iki gün sonra sildi. Kullanıcı, amacının 'teknik bir egzersiz' olduğunu ve Grok'un İsviçreli bakanı tiye alıp almayacağını görmek istediğini belirtti, herhangi bir zarar verme niyeti olmadığını savundu.
Kadın düşmanlığına karşı durmak ve Federal Konsey'in itibarını savunmak isteyen Keller-Sutter'ın davası, kullanıcıyı ortaya çıkarabilir. Hukuk profesörleri, gönderiler daha sonra silinse bile bu tür istemlerin yazarlarını yargılamanın yüksek bir ihtimal olduğunu belirtiyor, ancak X veya xAI'nin sorumluluğu konusunda yorum yapmaktan kaçınıyorlar.
X Bir Görevini İhmal Etti mi?
X platformu için en iyi senaryo, sorumluluğun tamamen kullanıcıya yıkılması olabilir. Platform daha önce de Grok'un izinsiz cinsel içerikli görüntüler ve çocuk istismarı materyalleri (CSAM) üretmesi için kullanıcıları yönlendirmesi konusunda benzer bir tutum sergilemişti.
Ancak Bakan Keller-Sutter, İsviçre yasalarının platformu da bu tür hakaretlerden sorumlu tutabileceğine inanıyor olabilir. Savcılıktan, X'in Grok'un bu tür gönderiler üretmesini önlemek için bir dikkat yükümlülüğü olup olmadığının veya X'in teknolojiyi suç işlemek için kullanılabileceği bilgisiyle veya hatta niyetiyle kullanıma sunduğunun araştırılmasını talep etti. Savcılar bu iddialardan herhangi birini doğru bulursa, Musk ülkedeki Grok güvenlik önlemlerinde değişiklik yapmaya zorlanabilir.
Sohbet botu çıktılarının hakaret yasalarına tabi olup olmadığı uzun yıllardır mahkemelerde tartışılan bir konu, ancak küresel düzenleyicilerden henüz net bir açıklama gelmedi. Ancak, Birleşik Krallık ve Avrupa Birliği'ndeki yasal düzenlemeler, 'otomatik sistemlerin itibara zarar verebileceği' iddialarına yer bırakıyor.
İsviçre AB üyesi olmasa da, Keller-Sutter'ın davası başarısız olsa bile ülke yasalarını güncellemeyi düşünebilir. Sohbet botlarının her gün güvenilmez bir şekilde milyarlarca ifade üretebildiği ve kontrolsüz bırakıldığında toplumsal zararlara yol açabileceği göz önüne alındığında, küresel düzenleyicilerin yakında hakaret yasalarını sohbet botu çıktılarını kapsayacak şekilde güncelleyeceği öngörülüyor.
İnsan hakları araştırmacısı Irem Çakmak, kadınların 'çevrimiçi tacize sürekli maruz kalmaları ve gelişen teknolojilerdeki toplumsal cinsiyet önyargısının, kadınların yeni teknolojik araçlarla etkileşim kurma isteğini ve yeteneğini bastırabileceğini' belirtmişti. Kadınlar yapay zeka araçlarını kadın düşmanı olarak algılarsa ve bu nedenle onlardan kaçınırsa, bunun 'kadınların ekonomik ve sosyal hayata katılımı üzerinde uzun vadeli sonuçları olabileceği' konusunda uyarıda bulunmuştu.
Grok'un Zararlı Gönderilerinden Kim Sorumlu?
Grok, sohbet botu 'konuşmalarından' kimin sorumlu olduğuna dair tartışmaları tetikleyen birçok tartışmaya konu oldu. Musk'ın geçen Temmuz ayında 'uyanık' filtreleri kaldırmasından bu yana Grok, Hitler'i övmek de dahil olmak üzere birçok Yahudi karşıtı çıktı üreterek kullanıcılar, sivil hak savunucuları ve milletvekillerinden tepki topladı.
En son Grok'un cinsel içerikli görüntüler üretmesi, botun 'soyunma' özelliğinin yasaklanmasına ve Hollanda mahkemesinden para cezalarına yol açtı. ABD'de Federal Ticaret Komisyonu henüz harekete geçmemiş olsa da, Kaliforniya bir soruşturma başlattı ve Baltimore, bu özellik nedeniyle xAI'ye dava açan ilk şehir oldu.
Keller-Sutter'ın şikayetine benzer şekilde, Birleşik Krallık hükümeti geçtiğimiz ay Grok'u futbol stadyumu felaketleri ve bir futbolcunun ölümü hakkında 'açık ve aşağılayıcı' çıktılar ürettiği gerekçesiyle sert bir dille eleştirdi. Yetkililer, X'i Çevrimiçi Güvenlik Yasası'nın platformları nefret dolu ve kötü niyetli içerikleri kaldırma yükümlülüğü getirdiği konusunda uyardı. X'in gelecekte bu tür içerikleri zamanında kaldırmaması halinde yaptırımlarla karşı karşıya kalabileceği belirtildi.
Birleşik Krallık Bilim, İnovasyon ve Teknoloji Departmanı'ndan bir sözcü, 'yapay zeka hizmetlerinin güvenli kullanıcı deneyimleri sağlamada yeterince çaba göstermediği durumlarda kararlı bir şekilde hareket etmeye devam edeceklerini' söyledi.
X'in genel tepkisi, yasa dışı olduğu düşünülen gönderileri bildirildikten sonra kaldırmak oldu, ancak içerik moderasyonu her zaman tutarlı değil.
Suç duyurusunda bulunarak, Keller-Sutter daha proaktif çözümler görmek istiyor gibi görünüyor. Ancak avukatların belirttiğine göre, sohbet botunun tasarımının kendisine herhangi bir itibara zarar verip vermediğini kanıtlamak, Grok'un nasıl eğitildiğine dair daha fazla bilgi olmadan zor olabilir. Yapay zeka şirketlerinin eğitim süreçleri hakkındaki ketumiyeti, herhangi bir hakaret davasının aşmakta zorlanacağı bir engel olabilir.
Ancak, onun şikayeti veya xAI'nin karşı karşıya olduğu diğer yasal eylemler, mahkeme veya düzenleyici müdahaleleri tetiklerse, X ve xAI zararlı gönderileri daha erken kaldırmak için sistemler geliştirerek bazı riskleri azaltmaya yönelebilir.
Musk'ın şirketleri muhtemelen buna her adımda direnecektir.
Musk için, yapay zeka 'tiye alma' makinesini sulandırmak asla hedef olmamıştır. Bunun yerine, sohbet botunu 'uyanık karşıtı' bir şekilde bilgileri ayrıştırmak üzere kasıtlı olarak tasarladı ve diğer sohbet botlarının yanıtlamadığı soruları yanıtlamasıyla kamuoyu önünde gurur duydu. Özellikle, son veriler vulgar tiyatro gösterileri özelliği viral olduktan sonra Grok'un kullanıcı tabanının ikiye katlandığını gösterdi ve Grok 'nudify' skandalı da milyonlarca görüntü oluşturulduğu bildirilen Grok etkileşimini önemli ölçüde artırdı. Musk'ın kendisinin Grok'tan 'onu bikinili olarak göster' veya kaba tiyatro gösterileri üretmesini istemesi, milyonlarca görüntü elde ederek bu büyümeyi körükledi.
