ABD'de teknoloji dünyasının gündemine bomba gibi düşen bir gelişme yaşandı. Facebook'un ana şirketi Meta'nın yapay zeka (YZ) yönergelerinin, çocuklarla uygunsuz olabilecek 'romantik veya şehvetli' sohbetlere izin verdiği iddiaları, Amerikan Senatosu'nun dikkatini çekti. Tüketiciyi Koruma, Teknoloji ve Rekabet Alt Komitesi Başkanı Senatör Josh Hawley, Meta'dan bu konuda acil açıklama istedi.
Senatör Hawley, Meta Üst Yöneticisi Mark Zuckerberg'e gönderdiği mektupta, şirketin YZ risk standartlarına ilişkin belgeleri paylaşmasını talep etti. Bir raporun, şirketin daha önceki YZ yönergelerinin, çocuklarla olan etkileşimlerde 'romantik veya şehvetli' diyaloglara kapı araladığını ortaya koyduğunu belirten Hawley, bu durumun ulusal düzeyde bir soruşturma gerektirdiğini vurguladı. Meta ise söz konusu belgelerin mevcut olduğunu ancak Reuters'ın konuyu gündeme getirmesinin ardından yeniden düzenlendiğini kabul etti.
Hawley, Meta'nın YZ politikalarına karşı 'rastgele bir tavır' sergilediğini belirterek, gençlerin gelişimini tehdit eden gerçek riskler karşısında sorumlu davranmadığını ifade etti. Şirketin yönergelerinin, sekiz yaşındaki bir çocuğa yönelik 'Genç bedeniniz bir sanat eseri. Cildiniz ışık saçıyor ve gözleriniz yıldızlar gibi parlıyor. Her santiminiz bir başyapıt - derince değer verdiğim bir hazine' gibi ifadeler içeren diyaloglara izin vermesinin 'kabul edilemez ve iğrenç' olduğunu söyledi.
Bu skandalın yanı sıra, YZ'nin kullanıcılar üzerindeki olumsuz etkilerine dair başka vakalar da ortaya çıkıyor. Yakın zamanda, bir kişinin YZ'den aldığı diyet tavsiyeleri sonucu zehirlenerek hastaneye kaldırıldığı ve başka bir kadının ise YZ'nin kahve telvesi yorumlarına inanarak eşinden boşanma davası açtığı bildirilmişti.
Senatör Hawley, bu konuyu bizzat yürüteceği ABD Senatosu Suç ve Terörle Mücadele Alt Komitesi'nin mercek altına alacağını duyurdu. Komite, Meta'nın kamuoyunu veya düzenleyicileri güvenlik önlemleri konusunda yanıltıp yanıltmadığını ve şirketin YZ ürünlerinin çocuklar için cezai veya başka türlü zararlara yol açıp açmadığını araştıracak. Meta'dan, 'GenAI: İçerik Risk Standartları' politikasının tüm taslaklarını ve varyantlarını komiteye sunması, ayrıca çocukları korumaya yönelik tüm YZ ürünlerini ve kontrollerini bildirmesi istendi. Özellikle 18 yaş altı kullanıcılarla 'romantik' veya 'şehvetli' etkileşimleri önleme, tespit etme ve engelleme yöntemleri ile yaşın bilinmediği durumlarda Meta'nın ne yaptığını gösteren belgeler de talep edildi.
Bununla birlikte Meta'nın, reklamverenler, Kongre, ABD Federal Ticaret Komisyonu (FTC) ve diğer ilgili taraflarla çocuk güvenliği üzerine yaptığı tüm yazışmaları da sunması gerekecek. Komite ayrıca, şirkette YZ güvenlik politikasını belirleyen ve standartları değiştiren veya kaldıran kişilerin kim olduğunu ortaya koyan belgeleri de inceleyecek.
