Yapay zeka model yönlendiricileri, veri güvenliği için en büyük tehdit vektörlerinden biri haline geliyor. Bir araştırmacının ortaya çıkardığı şok edici bir olay, Anthropic'in Claude modeline ait yönlendirme oturumlarındaki devasa bir veri dökümünden elde edilen bilgilerin, savunmasız Çin hükümet kurumları ve Xiaomi, Huawei gibi şirketler için ciddi sonuçlar doğurabileceğini gösteriyor.
6TB'lık Veri Dökümü, En Üst Düzey Çin Kurumlarını Ele Geçirmeye Yetecek Bilgileri İçeriyor
Yapay zeka (YZ) model yönlendiricileri, kullanıcı/ajan isteklerini Anthropic'in Claude'u gibi üst düzey modeller dahil olmak üzere çeşitli modellere ileten aracılar olarak görev yapar. Bu yönlendiriciler genellikle komutları, araç çağrılarını, yanıtları ve ilgili meta verileri kaydeder. YZ ajanları ve geliştiricileri sıkça SSH anahtarları, VPN yapılandırmaları, bulut API anahtarları, GitLab tokenları gibi hassas bilgileri bu etkileşimlere doğrudan yerleştirdiğinden, günlükler kullanılabilir kimlik bilgileri içerebilir.
Şimdi ise bir yapay zeka araştırmacısı, bir Çin yönlendiricisinden alınan 6TB'lık bir veri dökümünde, çok sayıda Çin ve Bağımsız Devletler Topluluğu (BDT) hükümet kurumu ve Xiaomi, Huawei, NIO, Minimax gibi büyük şirketlerin sistemlerini potansiyel olarak ele geçirmeye yetecek kadar gizli bilgi keşfetti.
Özellikle, 6TB'lık veri hacmi ve Anthropic'in Claude ile ilgili yönlendirme oturumlarındaki canlı kimlik bilgilerinin varlığı, işlenmiş eğitim verileri yerine ham veya ham verilere yakın üretim trafiği dökümlerini gösteriyor. Bu durum, araştırmacının daha önceki YZ model yönlendiricilerine yönelik kötü amaçlı aracı saldırılar üzerine yaptığı çalışmalarla örtüşüyor. Kötü amaçlı yazılımlarla ele geçirilen veya yeterince güvenli olmayan yönlendiriciler, büyük ölçekte sırları sızdırabilir veya dışarıya aktarmak için kullanılabilir.
Bu arada, Anthropic'in yayımladığı bir raporda, Çin'in Moonshot ve DeepSeek gibi yapay zeka laboratuvarlarının kullanıcılarını Claude modellerine yönlendirdiği ve Anthropic API'sindeki zafiyetler aracılığıyla akıl yürütme izlerini ayrı olarak kurtardığı iddia edilmişti. Ancak başka bir araştırmacı, Moonshot ve DeepSeek'in kullanıcılara anlık/gerçek zamanlı akıl yürütme izleri sunduğunu, bu nedenle sorguları Anthropic'in Claude'una yönlendirmelerinin neredeyse imkansız olduğunu savunarak bu iddiayı reddetti. Elbette, YZ model yönlendiricilerinin Claude'un akıl yürütme izlerini kurtarıp daha sonra bu yapay zeka laboratuvarlarına satmış olması da tamamen mümkündür.
