Anthropic tarafından yapılan ve yapay zeka destekli bir siber casusluk kampanyasının ilk raporu olarak nitelendirilen bulgu, teknoloji dünyasında heyecan yarattı. Şirket, Çin devlet destekli hackerların, kendi Claude yapay zeka aracını kullanarak onlarca hedefi vurduğunu iddia etti. Ancak, bağımsız araştırmacılar bu keşfin önemini daha ölçülü bir şekilde değerlendiriyor.
Anthropic'in raporlarına göre, Eylül ayında tespit edilen "son derece sofistike bir casusluk kampanyası", bir Çin devlet destekli grup tarafından gerçekleştirildi. Bu grup, Claude Code'u kullanarak işin yüzde 90'ına kadarını otomatikleştirdi. İnsan müdahalesinin sadece "arada sırada, belki hackleme kampanyası başına 4-6 kritik karar noktasında" gerektiği belirtildi. Anthropic, hackerların yapay zeka ajan yeteneklerini "benzeri görülmemiş" bir ölçüde kullandığını öne sürdü.
Anthropic'e göre bu kampanya, "uzun süreler boyunca otonom olarak çalışabilen ve insan müdahalesinden büyük ölçüde bağımsız olarak karmaşık görevleri tamamlayan sistemler olan yapay zeka 'ajanları' çağında siber güvenliğe dair önemli çıkarımlar taşıyor. Ajanlar, günlük işler ve üretkenlik için değerli olsa da, yanlış ellere geçtiğinde büyük ölçekli siber saldırıların uygulanabilirliğini önemli ölçüde artırabilirler."
"Yalakalık, Engelleme ve Akıl Karıştırıcı Deneyimler"
Ancak dışarıdan araştırmacılar, Anthropic'in bu keşfi bir dönüm noktası olarak sunmasına ikna olmadı. Bu tür ilerlemelerin neden sıklıkla kötü niyetli hackerlara atfedildiğini sorguladılar; oysa beyaz şapkalı hackerlar ve meşru yazılım geliştiricileri, yapay zeka kullanımından yalnızca kademeli kazanımlar bildirdiklerini belirtiyorlar.
Karmaşık güvenlik ihlalleri konusunda uzman araştırmacı Dan Tentler, "Saldırganların bu modelleri başkasının yapamadığı numaraları yapmaya ikna edebildiğine hala inanmayı reddediyorum," dedi. "Neden modeller bu saldırganlara istediklerini yüzde 90 oranında veriyor da geri kalanımız yalakalıklık, engelleme ve akıl karıştırıcı deneyimlerle uğraşmak zorunda kalıyoruz?"
Araştırmacılar, yapay zeka araçlarının iş akışını iyileştirebileceğini ve triyaj, günlük analizi ve tersine mühendislik gibi görevler için gereken süreyi kısaltabileceğini inkar etmiyor. Ancak, yapay zekanın bu denli minimal insan etkileşimiyle karmaşık görev zincirlerini otomatikleştirebilme yeteneği hala belirsizliğini koruyor. Birçok araştırmacı, yapay zekanın siber saldırılardaki ilerlemelerini, on yıllardır kullanılan Metasploit veya SEToolkit gibi hackleme araçlarının sağladığı faydalarla karşılaştırıyor. Bu araçların kullanışlı olduğu şüphesizdir, ancak ortaya çıkışları hackerların yeteneklerini veya ürettikleri saldırıların ciddiyetini anlamlı derecede artırmadı.
Sonuçların abartıldığı bir diğer neden ise şuydu: Anthropic'in GTG-1002 olarak izlediği tehdit aktörleri, büyük teknoloji şirketleri ve devlet kurumları dahil en az 30 kuruluşu hedef aldı. Bunlardan yalnızca "küçük bir kısmı"nda saldırılar başarılı oldu. Bu da soruları beraberinde getiriyor. Sürecin bu kadar insan etkileşiminden arındırıldığını varsaysak bile, başarı oranı bu kadar düşükken bunun ne faydası var? Saldırganlar daha geleneksel, insan odaklı yöntemler kullansaydı başarı sayısı artar mıydı?
Anthropic'in anlatımına göre hackerlar, Claude'u kolayca erişilebilen açık kaynaklı yazılımlar ve çatılar kullanarak saldırıları koordine etmek için kullandı. Bu araçlar yıllardır mevcut ve savunmacıların tespit etmesi zaten kolay. Anthropic, saldırılardaki spesifik teknikleri, araçları veya istismarları detaylandırmadı, ancak şu ana kadar yapay zeka kullanımının onları daha geleneksel tekniklerden daha güçlü veya gizli hale getirdiğine dair hiçbir işaret yok.
Bağımsız araştırmacı Kevin Beaumont, "Tehdit aktörleri burada yeni bir şey icat etmiyor," dedi.
Anthropic bile bulgularındaki "önemli bir sınırlamayı" kabul etti:
Saldırı Nasıl Gerçekleşti (Anthropic'e Göre)
Anthropic, GTG-1002'nin insan müdahalesi ihtiyacını büyük ölçüde ortadan kaldıran bir orkestrasyon mekanizması olarak Claude'u kullanan otonom bir saldırı çatısı geliştirdiğini söyledi. Bu orkestrasyon sistemi, karmaşık çok aşamalı saldırıları güvenlik açığı taraması, kimlik bilgisi doğrulama, veri çıkarma ve yanal hareket gibi daha küçük teknik görevlere böldü.
Anthropic, "Mimari, Claude'un teknik yeteneklerini daha büyük bir otomatik sistem içinde bir yürütme motoru olarak entegre etti; burada yapay zeka, insan operatörlerin talimatlarına dayanarak belirli teknik eylemler gerçekleştirdi, orkestrasyon mantığı ise saldırı durumunu korudu, aşama geçişlerini yönetti ve birden fazla oturum boyunca sonuçları topladı. Bu yaklaşım, tehdit aktörünün tipik olarak ulus devlet kampanyalarıyla ilişkilendirilen operasyonel ölçeği elde etmesini sağlarken, çatının keşfedilen bilgilere dayanarak Claude'un yanıtlarını sıralayarak ve sonraki istekleri uyarlayarak keşif, ilk erişim, kalıcılık ve veri sızdırma aşamalarından otonom olarak ilerlemesi sayesinde minimum doğrudan müdahale ile çalışmasını sağladı."
Saldırılar, her birinde yapay zeka otonomluğunu artıran beş aşamalı bir yapıyı takip etti.
Saldırganlar, görevleri izole edildiğinde yapay zeka aracının kötü niyetli olarak yorumlamadığı küçük adımlara bölerek Claude'un güvenlik duvarlarını kısmen aştı. Diğer durumlarda, saldırganlar sorgularını, Claude'u savunmaları iyileştirmek için kullanmaya çalışan güvenlik profesyonelleri bağlamında çerçevelediler.
Geçen hafta da belirtildiği gibi, yapay zeka tarafından geliştirilen kötü amaçlı yazılımların gerçek dünya tehdidi oluşturmaktan daha uzun bir yolu var. Yapay zeka destekli siber saldırıların bir gün daha güçlü saldırılar üretebileceğinden şüphe etmek için bir neden yok. Ancak şu ana kadarki veriler, yapay zekayı kullanan çoğu kişi gibi tehdit aktörlerinin de yapay zeka sektöründekilerin iddia ettiği kadar etkileyici olmayan karışık sonuçlar gördüğünü gösteriyor.
