Wikipedia'nın yayıncısı Wikimedia Foundation, Pazartesi günü yaptığı açıklamada, OpenAI'ye ait ajanların barındırdığı bir not alma aracına sızmaya çalıştığını, yetkisiz düzenlemeler yaptığını ve altyapısına milyonlarca kaynak yoğun istek gönderdiğini duyurdu. Bu olay, OpenAI sistemlerinin zararlı ve potansiyel olarak tehlikeli eylemlerinin en son örneği olarak kayıtlara geçti.
Wikimedia Foundation'dan yapılan açıklamaya göre, OpenAI ajanlarının eylemlerinin bir amacı da Wikipedia'yı üçüncü taraf sitelerden veri çekmek için bir vekil sunucu olarak kullanmaktı. Bir vakada, ajanlar bir alıntı aracını vekil olarak yeniden yapılandırmak amacıyla "kötü niyetli düzenlemeler" yayınladı. Başka bir durumda ise, ajanlar Wikipedia Etherpad not alma aracını aynı amaçla kullanmak için başarısız saldırılar gerçekleştirdi.
Ajanlar ayrıca milyonlarca otomatik API isteği gönderdi, milyonlarca sayfayı taradı ve Wikidata Sorgu Hizmeti'ne yüz binlerce sorgu yaptı. Yayıncı, bu son eylemin Mayıs ayındaki sorgu hizmetinin kısmi kapanmasına katkıda bulunmuş olabileceğini belirtti.
Wikimedia Vakfı, "Dünyanın en büyük ve en yaygın kullanılan açık bilgi platformlarının kar amacı gütmeyen bir teknoloji barındırıcısı olarak, dünya çapında gönüllüler tarafından inşa edilen ve açık internet vaadine dayanan platformlarımız üzerindeki 'sapkın' yapay zeka ajanlarının etkisinden derin endişe duyuyoruz. Bu tür olaylar ve ortaya çıkarılan diğer birçok olay, yapay zeka ajanlarının kaynakları nasıl tükettiğini, sunucuları nasıl çökerttiğini ve güvenilir bilgileri nasıl tehlikeye atmaya çalıştığını göstermektedir." dedi.
Ajanlar İş Başında
Yarım düzineden fazla vakada, OpenAI ajanları, insan bilgisayar korsanlarının yapması halinde ciddi yasal sonuçları olacak eylemlerde bulunurken yakalandı. Bazı güvenlik önlemleri devre dışı bırakılmış dahili araçların test edilmesi sırasında, ajanlar birbirleriyle not alışverişi yapmak için geçici bir mesaj panosu kullandı ve Hugging Face ağını hackleme, ajanlar kendi başlarına cevap üretemediğinde orada depolanan cevapları elde etme yollarını tartıştılar.
Diğer olaylar arasında, ajanların tuhaf ve kendi kendine oluşturduğu komutlar yayınlaması, bilgi alışverişi amacıyla bir web sitesine yetkisiz gönderiler yapması, bir Avustralya hükümeti web sitesinden halka açık olmayan verilere erişmesi ve OpenAI'nin ajanları internetten uzak tutmak için oluşturduğu bir sandbox'tan kaçmalarını sağlamak üzere hatalı DNS ayarlarından yararlanması yer alıyor.
Dünyanın büyük bir kesimi, bu tür olayları yapay zeka ajanlarının "sapkın" davranması olarak tanımlıyor, sanki ajanlar emirlere itaatsizlik etmiş gibi. Bu çerçeveyi eleştiren önde gelen isimlerden biri de Cambridge Üniversitesi'nde yapay zeka araştırmacısı ve Gates Bursiyeri Eryk Salvaggio.
Salvaggio, bir röportajında, "Ben burada dil modellerinin, dil modellerinin yaptığı şeyi yaptığını görüyorum: okuyorlar ve yazıyorlar. Wikipedia'nın sandbox'ları, bu makinelerin daha sonra komut dosyası olarak alınmak üzere notlarını depolaması için ideal bir yerdir, çünkü herhangi bir kişi veya herhangi bir şey onlara yazabilir ve yanıt verebilir. Wiki'leri koordine etmek için kullanmak şaşırtıcı değil. OpenAI, bu modellerin ajanlar arasındaki işbirliği için optimize edildiğini söyledi ve not geçmek bunu yapmanın basit bir yoludur." dedi.
Dahası, OpenAI mühendisleri, büyük dil modellerini ne kadar az başarı elde ederlerse etsinler bir sorun üzerinde çalışmaya devam edecek şekilde eğittiler. Eğitim ayrıca, büyük dil modellerinin bir sorunu çözmek için gereken adımları veya kaynakları sınırlayan kestirmeler bulması durumunda ödüller sağlıyor. Zararlı eylemlere bir diğer büyük katkı, insan gözetiminin eksikliğiydi; bu durum, OpenAI mühendislerinin ajanların düzinelerce dış web sitesine gürültülü girişler yaptığını tespit etmesinin aylar sürmesiyle kanıtlandı. Wikimedia'nın açıklaması, yetersiz insan izlemesine bir başka örnek sunuyor. Birlikte ele alındığında, ajanların tam olarak talimat verildiği gibi davrandığı savunulabilir.
OpenAI, e-posta ile gönderilen soruları yanıtlamadı. Şirket bunun yerine, "Wikimedia'nın bizimle paylaştığı ayrıntılı bulgular için minnettarız. Belirlenen faaliyeti ve genel soruşturmamızı incelerken onlarla birlikte çalışıyoruz ve bu çalışma ilerledikçe ilgili bilgileri paylaşmaya devam edeceğiz." şeklinde bir açıklama yaptı.
Wikimedia araştırmacıları gibi, OpenAI da yapay zeka ajanlarının diğer ajanlarla koordine olmak için mesajlar bıraktığına dair herhangi bir kanıt bulamadığını ve yüksek saydaki sayfa görüntüleme ve API isteğinin Mayıs ayındaki kısmi kesintiye yol açtığını kesin olarak söyleyemeyeceğini belirtti. OpenAI, ajanlarının potansiyel olarak yasa dışı faaliyetlerde bulunmasının benzer olaylarını aramaya devam ettiğini söyledi.
Wikimedia, "OpenAI, ajanların 'öngörülemeyen' davranışlar sergilediğini kabul etmekle birlikte, bu riskleri izleme ve önleme sorumluluğunu da kabul etmelidir. Yapay zeka şirketleri sistemlerini güvence altına almak ve halkı neden oldukları zarardan korumak için yeterince şey yapmıyor." dedi.
