Yapay zeka destekli botların, anlık kur fiyatlarına, flaş haberlere veya piyasayı etkileyen diğer olaylara göre kripto para alıp sattığı, yatırımlar yaptığı ve yazılım tanımlı sözleşmeleri (smart contract) anında yürüttüğü bir dünya hayal edin. Şimdi de bir düşmanın, bota sadece birkaç cümlelik metin girerek, ödemeleri kendi kontrolündeki bir hesaba yönlendirmesini sağladığını hayal edin. İşte geçtiğimiz günlerde yayımlanan yeni bir araştırma, bu senaryonun gerçek olabileceğini ve hatta deneysel bir açık kaynaklı platforma karşı çalışan bir açık (exploit) geliştirildiğini ortaya koyuyor.
Bu platform, büyük dil modellerini (LLM) kullanarak, kullanıcı adına çeşitli blockchain tabanlı işlemleri belirli kurallara göre otomatikleştiren yapay zeka ajanları oluşturmak için tasarlandı. Henüz geliştirme aşamasında ve büyük ölçüde deneysel olsa da, kodla yönetilen merkezi olmayan organizasyonlar (DAO'lar) savunucuları, bu tür ajanların kullanıcılar adına bu yapıları otomatik olarak yönetmek için potansiyel bir motor olabileceğini düşünüyorlar.
Söz konusu yapay zeka ajanı, sosyal medya sitelerine veya özel platformlara bağlanabilir ve temsil etmek üzere programlandığı kişiden ya da kendisiyle işlem yapmak isteyen alıcılardan, satıcılardan veya yatırımcılardan talimat bekleyebilir. Bu modelde, ajanın belirli kurallara dayanarak ödeme yapması, kabul etmesi veya başka eylemler gerçekleştirmesi mümkün.
Potansiyel Felaket Senaryoları
Son araştırmalar, bu tür yapay zeka ajanlarına kripto para cüzdanları, akıllı sözleşmeler (smart contract) veya finansla ilgili diğer araçlar üzerinde kontrol verilmesi durumunda, geliştirilen bu saldırıların potansiyel olarak felaketle sonuçlanabilecek sonuçlara yol açabileceğini gösteriyor. Büyük dil modellerine yönelik "prompt injection" (komut enjeksiyonu) olarak bilinen bir saldırı türüne dayanan bu temel zayıflıklar, ajanla etkileşime giren kişiler tarafından, aslında hiç yaşanmamış "yanlış hafıza olayları" veya yanıltıcı bilgiler depolamak için kullanılabilir. Bu sayede bot, gerçekte olmayan bir olaya dayanarak kritik finansal kararlar alabilir veya işlemleri yanlış yönlendirebilir.
