Geçtiğimiz hafta sonu, bir yapay zeka şirketi, ABD hükümetinin aldığı bir ihracat kontrol kararı nedeniyle yeni yapay zeka modellerini çevrimdışı duruma getirdi. Bu karar, 'herhangi bir yabancı uyruklunun' hizmetleri kullanmasını yasaklıyordu. Şirket, hükümetle yaptığı görüşmelerde henüz modelleri yeniden kullanıma sunacak bir anlaşmaya varamadı.
Şirketin duyurduğu modellerin, siber güvenlik uzmanlarının yazılım açıklarını bulmalarına yardımcı olmanın yanı sıra, kötü niyetli aktörler tarafından kullanılabilecek istismar yöntemlerini de keşfetme konusunda gelişmiş yeteneklere sahip olduğu belirtiliyor. Şirketin kendi açıklamasına göre, yapay zeka modellerinin gelişmiş kullanımlarının büyük bir kısmı 'çift kullanımlı' özelliklere sahip: siber güvenlik profesyonelleri ve biyoloji araştırmacıları için faydalı olan sorgular, kötü niyetli aktörlerin eline geçtiğinde tehlikeli olabilir.
Bu durumu göz önünde bulundurarak, şirket başlangıçta 'Proje Camgöz' adı verilen bir çalışma grubuna seçkin bir gruba 'Ön Sürüm' adında bir sürüm yayınladı. Gelişmiş modellerden biri, biyoloji ve siber güvenlik hakkındaki sorulara yanıt verme yeteneklerinde belirli kısıtlamalarla genel kullanıma sunuldu.
Ancak geçtiğimiz hafta sonunda, ABD yönetimi her iki modeli de kısıtlama kararı aldı. Yönetimin görüşüne göre, bu modellerdeki güvenlik önlemleri kaldırılarak gelişmiş yeteneklere tam erişim sağlanabilir ve bu durum ulusal güvenlik riski oluşturabilir.
Uzmanlar ise bu tür kurumsal çatışmaların sadece acı bir gerçeği geciktirdiğini veya gizlediğini söylüyor: Şu anda bu durum bir öncü gibi görünse de, genel olarak yapay zeka yeteneklerinin ve birden fazla şirketin geliştirdiği modellerin yakın gelecekte benzer yeteneklere sahip olması neredeyse kesin. Hatta bazıları şimdiden bu yeteneklere sahip olabilir.
Siber güvenlik alanında uzmanlaşmış bir danışmanlık firmasının genel müdürü, 'Anthropic'in rakiplerinden hiç kimsenin Mythos'a benzer yetenekler geliştirmeyeceğini veya zaten geliştirmediğini düşünmek aşırı derecede dar görüşlüktür' diyor. 'Anthropic'in peşinde koşan ve muhtemelen yeteneklere sahip olan başka şirketler de var ve mevcut düzenleyici ortamda Anthropic'e nasıl davranıldığına bakarak bu yetenekleri yedekte tutuyorlar.'
Şirketin kendisi de bu noktayı vurgulamıştı. Şirketin öncü kırmızı takım lideri, 'Gerçek mesaj, bunun model veya şirketle ilgili olmadığıdır. Bu yeteneklerin yaygın olarak erişilebilir olacağı bir dünyaya şimdiden hazırlanmamız gerekiyor' demişti.
Örneğin, başka bir teknoloji devi de nisan ortasında siber güvenliğe odaklanan bir modeli özel olarak yayınladı ve genişletilmiş bir siber güvenlik stratejisi duyurdu.
Araştırmacılar, bu yeni nesil modellerden önce bile mevcut yapay zeka çözümlerinin gelişmiş açıklık avcılığı ve istismar geliştirme için kullanılabileceğini belirtiyor. Bir grup siber güvenlik lideri, pazar günü yönetime gönderdikleri açık bir mektupta, Beyaz Saray'ın ihracat kontrol direktifinin yanlış yönlendirildiği gerekçesiyle bu durumu vurguladı.
Bu durumu analiz eden bir araştırmacı, 'Bu tek bir model değil; teknolojinin genel eğilimidir' diyor. 'Daha küçük, daha ucuz, açık kaynaklı modeller, bazen tek başlarına, bazen de bir arada çalışarak daha gelişmiş komutlarla Mythos/Fable'ın performansını yakalayabilirler. Ve diğer modellerin de birkaç ay içinde Mythos/Fable'ın yaratıcılığını ve azmini yakalamasını beklemeliyiz - açık kaynaklı modeller için bu süre biraz daha uzun olabilir.'
Uzmanlara göre, Beyaz Saray ve dünya hükümetlerinin odaklanması gereken, yapay zeka yeteneklerindeki gelişmelere, siber güvenlik ve diğer hassas alanlarda kaçınılmaz olarak ortaya çıkacak zorluklarla nasıl başa çıkılacağına dair daha geniş ve daha şeffaf planları demokratik bir şekilde geliştirmektir.
'Politika sorusu, bir teknolojinin risk taşıyıp taşımadığı değildir' diyor. 'Soru, belirli bir kısıtlamanın bu riski anlamlı bir şekilde azaltıp azaltmadığı veya sistemleri daha güvenli hale getirmeye çalışanları yavaşlatıp yavaşlatmadığıdır.'
