Sanal bir odayı binlerce yapay zeka (YZ) ajanı ile doldurup her birinden anlamsız iki seçenek arasından birini seçmesini isteseydiniz ne olurdu? Doğru cevap yok, anlaşmaları için bir ödül verilmiyor, işbirliği talimatı yok ve bir liderin rehberliği bulunmuyor. Buna rağmen, günümüzün en yetenekli YZ ajanlarından bazıları aynı seçimi yapabiliyor.
Bu durum, sadece ilginç bir deney olmanın ötesinde bir anlam taşıyor. YZ ajanlarının merkezi bir kontrol olmadan koordinasyon kurabileceğini ve potansiyel olarak gayri resmi insan gruplarından daha büyük kolektifler oluşturabileceğini gösteriyor.
Science Advances'da yayımlanan yeni bir araştırmaya göre, araştırmacılar bu kendiliğinden ortaya çıkan uzlaşmanın nasıl geliştiğini ve neden faydalı veya tehlikeli olabileceğini ortaya koyuyor.
YZ ajanları, büyük dil modelleri (LLM'ler) tarafından desteklenen ve tekrar eden insan girdisine ihtiyaç duymadan çok adımlı görevleri yerine getirebilen ve diğer araçlarla etkileşim kurabilen programlanmış sistemlerdir. Yazılım yazma ve bilimsel araştırmalara yardımcı olma gibi alanlarda geliştirilmektedirler. Hatta uzayda bir uydu üzerinde birlikte çalışma konusunda bile test edildiler.
Ancak ajanları tek tek incelemek, yüzlerce veya binlercesi etkileşime girdiğinde neler olabileceğini ortaya koyamaz.
Bunu araştırmak için araştırmacılar, Claude, GPT ve Llama ailelerinden 10 model kullanarak simüle edilmiş gruplar oluşturdular. Her ajana iki rastgele seçenekten biri verildi. Ajanlara diğer tüm ajanların seçimleri gösterildi ve yeniden seçim yapmaları istendi. Ajanların önceki turlardan bir hafızası yoktu ve komutlarında çoğunluğu takip etmeleri veya anlaşmaya varmaları söylenmemişti. Buna rağmen, çoğu modelin daha popüler seçeneği benimseme eğiliminde olduğu görüldü. Süreç ilerledikçe, küçük farklar büyüyerek tüm grubun tek bir seçim üzerinde uzlaşmasına yol açtı.
Almanya'daki Konstanz Üniversitesi'nden hesaplamalı sosyal bilimci Giordano De Marzo, test ettikleri her modelin, yalnızca bir sayının değiştiği, aynı matematiksel yasaya uyduğunu belirtti.
Araştırmacılar bu sayıya "çoğunluk gücü" adını verdiler. Bu, bir ajanın grubun en popüler seçimine ne kadar güçlü bir şekilde çekildiğini ölçüyor.
Şaşırtıcı bir şekilde, aynı matematiksel örüntü, atomik spinlerin aynı yönde hizalandığı bir ferromıknatısı tanımlayan uzun süredir devam eden bir fizik modelinde de görülüyor.
Bu bağlantı, araştırmacıların ajanların uzlaşmaya ulaşıp ulaşmayacağını, ne kadar süreceğini ve anlaşmanın katlanarak imkansız hale gelmesi nedeniyle bir grubun 'kırılmadan' ne kadar büyüyebileceğini tahmin etmelerini sağladı.
Bu sınır, modellere göre keskin bir şekilde değişiklik gösterdi. Llama 3 70B için yaklaşık 30 ajan, GPT-4o için ise yaklaşık 80 ajan civarındaydı. GPT-4 Turbo'nun tahmini sınırı yaklaşık 1.000'e (ve muhtemelen daha fazlasına) ulaştı.
Claude 3.5 Sonnet, test edilen en büyük grup olan 1.000 ajanla bile koordinasyon sağlayabildi. Bu, kapasitesinin sınırsız olduğu anlamına gelmiyor; deney sadece üst sınırına ulaşmadı.
Daha yetenekli modeller genellikle daha büyük gruplarda uzlaşmayı sürdürdü. Bazıları, insanların kararlı bir sosyal ağda sürdürebildiği düşünülen yaklaşık 150 ila 300 kişiden daha büyük gruplarda koordinasyon sağladı. Bu, Dunbar sayısı olarak bilinen tartışmalı bir sınırdır.
Ancak bu karşılaştırma dikkatli yapılmalıdır. İnsanlar ilişkiler, dil, kurumlar ve ortak hedefler aracılığıyla koordinasyon kurar. Bu deneydeki ajanlar sadece basit seçimlerden oluşan bir akışı izlediler.
Bulgular, ajanların birbirlerini anladıklarını veya onlardan öğrendiklerini, işbirliği yapmayı amaçladıklarını veya herhangi bir sosyal zekaya sahip olduklarını göstermiyor. De Marzo, "Sonuçlarımız, temel bir malzemenin mevcut olduğunu gösteriyor, ajanların henüz karmaşık görevlerde birlikte çalışabildiklerini değil," dedi.
Deney, gerçek dünya kararlarının birçok özelliğini kasıtlı olarak ortadan kaldırdı. Doğru bir cevap, hafıza, ödül, eşitsiz bilgi veya pratik bir sonuç yoktu. Gerçek işbirliği, ajanların işi bölmesini, başkalarının ne bildiğini anlamasını, ortak bir hedefi takip etmesini ve çoğunluk yanlış olduğunda direnmesini gerektirirdi. Bu yeteneklerden hiçbiri burada test edilmedi.
Buna rağmen, kendiliğinden ortaya çıkan uzlaşma değerli olabilir. Binlerce ajan, sürekli insan yönlendirmesine gerek kalmadan büyük bilimsel, mühendislik veya yazılım projelerini koordine edebilir. De Marzo'ya göre, YZ ajanları bir araya geldiğinde, "herhangi bir insan ekibinden daha büyük kolektiflere organize edilebilirler ve kendimizi organize edemediğimiz sorunları çözebilirler."
Aynı eğilim bir risk de taşıyor. Örneğin, işbirlikçi kodlamada, ajanlar bir kod tabanında zaten yaygın olduğu için verimsiz bir işlevi veya tasarımı tekrar tekrar seçebilirler. Çoğunluk tarafından benimsenen bir norm, otomatik olarak en iyi seçim anlamına gelmez veya insan değerlerini yansıtmaz.
Koordineli bir grup, bağımsız ajanlardan oluşan bir topluluktan daha zor yönlendirilebilir olabilir.
De Marzo, "Daha yakın zamandaki çalışmalarımızda, bireysel olarak uyumlu ajan popülasyonlarının, basitçe uyum yoluyla kararlı, kolektif olarak uyumsuz durumlara yerleşebildiğini, devrilme noktaları ve histerezis ile, değişime neden olan koşulların basitçe tersine çevrilmesinin onu geri almadığını gösteriyoruz," dedi.
Bu, YZ ajanlarını bireysel olarak değerlendirmenin yeterli olmayabileceği anlamına gelir. Kendi başlarına güvenli görünen ajanlardan oluşan bir grup, üyeleri birbirini etkilemeye başladığında otomatik olarak güvenli davranmayacaktır.
YZ ajanları daha yetenekli hale geldikçe, en önemli yeteneklerinden bazıları ve belki de en ciddi başarısızlıkları, herhangi bir tek modelden değil, yarattıkları kolektiften ortaya çıkabilir.
Bu araştırma Science Advances dergisinde yayımlanmıştır.
