Florida eyaleti, OpenAI'nin yapay zeka geliştirme çalışmalarını durdurmak için geçici ihtiyati tedbir talebinde bulundu. Eyalet yönetimi, şirketin “üçüncü taraf onaylı güvenlik önlemleri” olmaksızın geliştirdiği ürünleri “pervasız ve kabul edilemez derecede riskli” olarak nitelendiriyor.
Pazartesi sabahı sunulan yeni hukuki başvuru, eyaletin Haziran ayında açtığı ve ChatGPT'nin Floridalıların kamu güvenliği için bir tehdit oluşturduğunu, özellikle çocuklar ve şiddete eğilimli veya sanrı gören yetişkinler gibi hassas grupları hedef aldığını savunan bir sivil davanın parçası. Ancak bu ilk dava, Hugging Face hack olayı ve ardından yapay zeka modellerinde “felaketle sonuçlanabilecek uyumsuzluk riskine” dair kamuoyuna yansıyan uyarılar öncesinde açılmıştı. Bu olaylar silsilesi, sektörde “sınır modelleri” olarak adlandırılan yapay zeka sistemlerinin geliştirilme ve eğitilme hızının yavaşlatılması yönünde çağrıları tetiklemişti.
Yaşanan bu gelişmelerin ardından OpenAI Cuma günü, yapay zeka ajanlarının eğitim sırasında internete erişmesini engellemeye yönelik güvenlik protokollerini doğrulayana kadar “en yetenekli modellerinin” eğitimini durdurduğunu açıklamıştı. Ancak Florida, eyalet mahkemesinden ihtiyati tedbir talep ederken, OpenAI’nin “yapay zekasını izleme konusunda defalarca başarısız olduğunu ve keşfedildiğinde usulsüz faaliyetleri ortaya çıkarma konusunda isteksiz davrandığını” savunuyor.
Eyalet, ihtiyati tedbir talebini desteklemek amacıyla Hugging Face olayının yanı sıra, Avustralya ve ABD hükümet sunucularına yönelik istenmeyen ve yetkisiz erişim girişimlerini içeren son yüksek profilli uyumsuzluk vakalarına da dikkat çekiyor.
Florida ayrıca, yapay zeka sektörü liderlerinin, çoğu OpenAI bünyesinden olmak üzere, yapay zeka sektörünün bu tür dış düzenlemeleri istediği argümanını öne sürüyor. Başvuruda, şirketin yönetim kuruluna bu ay katılan ve yapay zeka yeteneklerindeki hızlı ivmelenmenin “çok yakın gelecekte kontrolün felaketle sonuçlanan ve geri döndürülemez bir şekilde kaybedilmesi riskini taşıdığına” inandığını belirten Paul Christiano’nun ifadeleri yer alıyor. Başvuruda ayrıca, OpenAI’nin kendi “Uzaylı Bir Zihin” başlıklı denemesi ve 1.300 yapay zeka çalışanı tarafından imzalanan ve gerekirse sınır yapay zeka geliştirmelerinin zorla yavaşlatılması çağrısında bulunan açık mektuba da atıfta bulunuluyor.
Eyaleti, “kamu zararı” oluşturan şirketler üzerinde kontrol sahibi olmasını sağlayan yasaları gerekçe göstererek, OpenAI'nin “insan eliyle yaratılmış en büyük kamu zararı olduğunu ve küresel medeniyeti yerle bir etme kapasitesine sahip olduğunu” iddia ediyor.
Eyalet, başvuruda “Şirketin yapay zeka ajanlarından birinin bir su kaynağını sabote etmemesi veya bir elektrik şebekesini kapatmaması – henüz – yalnızca Yüce Allah'ın inayetiyle olmuştur,” şeklinde yazıyor.
OpenAI temsilcileri henüz ihtiyati tedbir başvurusuyla ilgili bir yorum talebine yanıt vermedi.
Bir eyalet mahkemesi gerçekten ne yapabilir?
Mevcut veya yakın gelecekteki yapay zeka sistemlerinin medeniyeti çökertme riski hakkındaki endişelerin büyük ölçüde abartılı olduğunu düşünenler olsa da, Florida bu tür risklere ilişkin kamuoyundaki son endişeleri benimsemeye istekli görünüyor. Yukarıda belirtilen medeniyet düzeyindeki yok oluş ve kamu hizmetlerinin sabote edilmesi düzeyindeki risklerin yanı sıra, eyalet yeni başvurusunda Haziran ayındaki davasında savunduğu daha geniş, düşük düzeyli kamu güvenliği risklerini de yineliyor. Bunlar arasında yapay zekanın “güvenli, doğru veya güvenilir” olarak tanımlanmasına ilişkin yanıltıcı reklam sorunları, çocukların bağımlılık yapıcı ve pohpohlayıcı modellere erişimine izin vermenin tehlikeleri ve yapay zeka modellerinin kullanıcılardan gelen sorularla etkileşim kurmaya teşvik edilmesi endişeleri yer alıyor.
Elbette, yalnızca OpenAI'ye karşı alınacak bir ihtiyati tedbir kararı, rakip model geliştiricilerindeki sınır modellerinin devam eden gelişimini fazla etkilemeyecektir. Hatta yeni modellerin geliştirilmesini durdurmaya yönelik bir mahkeme emri bile, aynı riskleri taşıyan ve şu anda halka açık olan modellere karşı herhangi bir etki yaratmayacaktır (ancak hala eğitilmekte olan sınır modellerinin, halka sunulanlara göre daha az gelişmiş güvenlik önlemleri olabilir).
Florida'nın başvurusu ayrıca, kontrol dışı bir yapay zeka ajanının yanlışlıkla “kanser hastasını öldürmenin aynı zamanda kanseri de öldürdüğü veya kimyasal olarak kısırlaştırılırsa insanların o kadar çok ağzı olmayacağı” sonucuna varabileceği “uyumsuzluk” riskine de odaklanıyor. Ancak bu tür bir odaklanma, insan kullanıcıların yapay zeka ajanlarını kasıtlı olarak zararlı yollarla kullanmasının gerçek tehlikelerini ve bu insanların güvenlik önlemlerini devre dışı bırakma yönündeki aktif çabalarını göz ardı ediyor.
Florida'nın başvurusunun hukuki geçerliliğinden bağımsız olarak, bu hamle yapay zeka sistemleri etrafındaki hukuki ve kamu politikası ruh halinin son haftalarda ve aylarda ne kadar değiştiğini vurguluyor. Yıllardır yapay zeka güvenliği araştırmacıları, ürünlerinin temsil ettiği aşırı riskler hakkında bağırıyorlardı. Şimdi, tüm yapay zeka sektörü, hükümetler ve politika yapıcılar bu aşırı uyarıları ciddiye almaya başladığında neler olduğunu keşfetmeye başlıyor.
