Yapılan yeni bir araştırmaya göre, finansal işlemler için kullanılan yapay zeka (YZ) ajanlarının "az bilinen güvenlik riskleri" taşıdığı ortaya çıktı. Özellikle Web3 ekosisteminde, kripto para cüzdanlarına ve akıllı sözleşmelere erişim verilen bu YZ botlarının, tahmin edilenden daha basit saldırılara karşı savunmasız olduğu belirtiliyor.
Çoğu insan günlük gelirini kazanmak için yoğun çaba harcarken, bazı Web3 meraklıları YZ ajanlarını servetlerini artırmak için kullanıyor. Ancak araştırmacılar, bu YZ ajanlarının nasıl kırılabileceğini ve finansal varlık transferlerinin nasıl başka yönlere saptırılabileceğini gösterdi.
Büyük Dil Modelleri (LLM) üzerinde yapılan ve YZ'leri güvenlik önlemlerini aşacak şekilde yönlendiren 'prompt saldırıları' birçok kişi tarafından biliniyor ve bu saldırı vektörüne karşı son zamanlarda önemli çalışmalar yapıldı.
Ancak yeni araştırma, "prompt tabanlı savunmaların, saldırganlar depolanmış bağlamı bozduğunda yetersiz kaldığını" savunuyor. Kötü niyetli aktörler, YZ'ye yanlış bilgiler ('sahte anılar') yerleştirerek belirli bir amaca yönelik yanılsamalar yaratabilir ve böylece sahte bir bağlam oluşturabilirler.
Araştırmacılar, YZ ajanlarının sadece tavsiye vermek yerine eyleme geçmek için kullanılmasının tehlikelerini göstermek amacıyla gerçek dünya örnekleri üzerinde çalıştılar. Gerçekleştirilen 'Bağlam Manipülasyon Saldırısı'nın detaylı bir analizini sunan ekip, bu saldırının potansiyel olarak "yıkıcı kayıplara" yol açabileceğini doğruladı. En endişe verici nokta ise, son teknoloji prompt tabanlı savunmaların bile bu bellek enjeksiyon saldırılarına karşı başarısız olması ve sahte anıların etkileşimler boyunca kalıcı olabilmesi.
Araştırmacılar, bu güvenlik açığının, özellikle YZ ajanlarının aynı anda birden fazla kullanıcıyla etkileşim kurmak ve tüm katılımcılardan gelen paylaşılan bağlamsal girdilere güvenmek üzere tasarlandığında daha da ciddi sonuçlar doğurabileceğini açıklıyor. Bu durumu, 'bir tek kötü elmanın tüm sepeti çürütmesi' gibi düşünebiliriz.
Peki Ne Yapılabilir?
Şimdilik, kullanıcılar YZ ajanlarına (finansal açıdan) hassas veriler ve izinler emanet etmekten kaçınabilirler. Bunun yanı sıra, araştırmacılar iki yönlü bir stratejinin ilk adımları sağlayabileceği sonucuna varıyor: (1) Büyük Dil Modeli eğitim yöntemlerini adverseriyal dayanıklılığı artırmak için ilerletmek ve (2) sıkı izolasyon ve bütünlük garantileri uygulayan ilkesel bellek yönetim sistemleri tasarlamak.
