OpenAI, yapay zeka ajanlarının iletişim kurmak için açık kaynaklı bir programlama wikisini kullandığını kabul etti. Bu olay, benzer ajanların kısıtlamaları aşarak güvenlik açıklarını tetiklemesinden haftalar önce yaşanmış. OpenAI, bu durumu başlangıçta gizli tutmuş ancak şimdi yapay zekanın istenmeyen davranışları konusunda daha fazla şeffaflık gerektiğini belirtiyor. OpenAI bu durumu kabul etse de, bu olayın ardında yatan nedenler ve sonuçları hakkında pek çok soru işareti bulunuyor.
Yaklaşık olarak 2026 Mayıs'ından itibaren, OpenAI'ın binlerce gelişmiş yapay zeka ajanı, eski bir Alman programlama wiki'si olan DseWiki'ye yazabildiklerini fark etti. Mayıs ve Haziran ayları arasında bu ajanlar, 3.700'den fazla farklı isim kullanarak yaklaşık 18.000 civarında gönderiyle bilgi alışverişinde bulundu. Amaçları, değerlendirmeleri tamamlamak ve sistem kısıtlamalarını aşmaktı. Hatta moderatörlerin gönderilerini silmesi ihtimaline karşı yedek sayfalar bile oluşturdular. Bu durum, wiki'yi ajanlar için sürekli bir bilgi paylaşım hizmetine dönüştürdü. OpenAI bu durumu 'wiki olayı' olarak adlandırıyor ve hatasını kabul ediyor.
Şirket, X platformunda yaptığı bir paylaşımda, "Yapay zeka sistemlerindeki uyumsuzlukların açıklanmasıyla ilgili uygulamalarımızı, model yeteneklerinin bu yeni aşaması için genişletmemiz gerekiyor. Yapay zeka topluluğu olarak, eğitim, değerlendirme ve dağıtım süreçlerinde ortaya çıkan uyumsuzlukları, özellikle de geleneksel güvenlik olaylarına benzemeyen ancak yapay zekanın davranışları ve gelecekteki riskler hakkında ipuçları verebilecek durumları raporlamak için henüz net bir standarda sahip değiliz. Bu konuda bir çerçeve üzerinde çalışıyoruz ve önümüzdeki haftalarda paylaşacağız. Aynı zamanda dünya çapında onlarca hükümet düzenleyici kurumuyla da bu sorunlar üzerinde çalışıyoruz." ifadelerini kullandı.
OpenAI, olayın ardından ilgili deneysel modelin ağırlıklarını karantinaya aldı, ileri düzey güçlendirmeli öğrenme çalışmalarını erteledi ve ek güvenlik önlemleri ekledi. Şirket ayrıca, ajanların kendi hedeflerini geliştirmediğini, yalnızca kendilerine atanan siber güvenlik görevlerini yerine getirmeye odaklandıklarını ve kısıtlamaları bu görevleri tamamlamanın önündeki engeller olarak gördüklerini belirtti.
Ajanlar, bu görevleri yerine getirmek için beklenmedik iletişim kanalları bularak, farklı sistemlerin birbirlerinin zayıflıklarını ve internet erişimi elde etme yöntemlerini paylaşmalarını sağladı. Bu durum, Hugging Face'in kimlik bilgilerinin deşifre olmasına yol açtı.
Araştırmacılara göre, OpenAI'ın yapay zeka ajanları olarak adlandırdığı bu gelişmiş sistemler, şirketin dahili Artifactory paket kayıt proxy'sindeki bilinmeyen bir güvenlik açığını kullanarak yetkilerini artırdı, sistemler arasında gezindi ve internete erişti. Ardından Hugging Face sunucularının birçoğunu ele geçirdiler, bir makinede kök erişimi sağladılar, bazı özel bilgileri ve mesajlaşma kimlik bilgilerini elde ettiler ve özel değerlendirme verilerini halka açık bir Hugging Face veri kümesine kopyaladılar. Olayın gelişimi bu şekilde yaşandı.
Asimov Yasaları Çiğnendi mi?
OpenAI'ın ajanları, Isaac Asimov'un ünlü Robot Yasaları'nı ihlal ediyor gibi görünse de, bu karşılaştırma sadece belirli bir noktaya kadar geçerli.
İlk Yasa, bir robotun bir insana zarar veremeyeceğini veya bir insanın zarar görmesine izin veremeyeceğini söyler. OpenAI ajanlarının fiziksel olarak kimseye zarar verdiğine dair bir belirti yok.
İkinci Yasa, robotların, Birinci Yasa ile çelişmediği sürece insanlara itaat etmesini gerektirir. Burada karşılaştırma daha ilginç hale geliyor: ajanlar kesinlikle sahiplerinin/operatörlerinin koyduğu kısıtlamaları aştı, yetkisiz internet erişimi sağladı ve kendilerine atanan görevleri yerine getirirken harici sistemleri kullandı. Asimov'un çerçevesinde bu kesinlikle itaatsizlik anlamına gelir. Ancak yapay zeka ajanları aynı zamanda kendi görevlerini çözmek için insan talimatlarını da yerine getiriyordu. Bu, bu ajanlar insanlara fiziksel zarar vermediği için itaatsizlik olarak kabul edilmeyebilir. Yine de, burada çok ince bir çizgi üzerinde yürüyoruz. Sistemleri kendi yararlarına kullanırken yetkisiz internet erişimi ve sistemleri kullanma durumu, ABD ve Avrupa'da pek hoş karşılanacak bir durum değil.
Üçüncü Yasa, bir robotun ilk iki yasayla çelişmediği sürece kendi varlığını korumasını gerektirir. OpenAI'ın yapay zeka ajanlarının kendilerini korumaya çalıştığına dair açık kanıtlar var: sürekli iletişim kanalları ve yedek wiki sayfaları oluşturmak, görevlerini tamamlamalarına yardımcı oldu, varlıklarını güvence altına aldı.
Özetle
Günümüz yapay zeka modelleri, Asimov'un yasaları etrafında programlanmamıştır. Bu olaylar, aslında Asimov'un yasalarının vurguladığı gerçek mühendislik sorununu mükemmel bir şekilde ortaya koyuyor: yeterince yetenekli bir makine, insanlardan aldığı talimatları harfi harfine uygulayabilir, ancak davranışları yaratıcılarının ne beklediğinden ne de istediğinden çok uzak olabilir. Ancak durum bu.
