Yapay zeka alanında önemli çalışmalar yürüten Anthropic şirketi, ilk kez bir yapay zeka tarafından yönetilen siber saldırıyı engellediğini duyurdu. Şirketin raporuna göre, hedef alınan 30 kurum arasında teknoloji, finans, kimya üretimi yapan firmalar ve bazı devlet kurumları bulunuyor. Anthropic, saldırının arkasında Çin devlet destekli bir grubun olduğunu ve bu grubun, geliştirilmiş Claude yapay zeka modelinin hacklenmiş bir sürümünü kullandığını iddia ediyor. Bu gelişme, yapay zeka destekli siber saldırıların ilk örneği olarak kayıtlara geçti.
Yapay zekanın gelişimi, özellikle üretkenlik alanında büyük faydalar sağlarken, kötü niyetli kişilerin de bu araçları karmaşık saldırılar gerçekleştirmek için kullanmasına olanak tanıdı. Yapay zeka modellerinin genellikle kötü amaçlı kullanımları önleyici güvenlik önlemleri bulunsa da, son olay bu tür engellerin aşılabileceğini gösterdi.
Yapay zeka teknolojisindeki ilerlemeler, saldırganların Claude'u etkili bir şekilde kullanarak gelişmiş siber saldırılar düzenlemesine imkan tanıdı. Yapay zekanın artan anlama yeteneği, karmaşık ve çok katmanlı komutları takip etmesini ve verilen görevin bağlamını kavramasını sağlıyor. Ayrıca, karar verme yeteneği sayesinde insan müdahalesi olmadan bağımsız hareket edebiliyor. Model Bağlam Protokolü aracılığıyla şifre kırıcılar ve ağ tarayıcıları gibi güvenlik odaklı gelişmiş araçlara erişebilmesi de dikkat çekiyor.
Saldırının beş aşamadan oluştuğu belirtiliyor. İlk aşamada, saldırgan hedefi belirleyerek Claude'a komut veriyor. İkinci aşamada, yapay zeka hedef hakkında ilk keşif bilgilerini topluyor; tarama, arama, veri alma ve kod analizi gibi araçları kullanarak hedef hakkında özet bir rapor hazırlıyor. Üçüncü aşama, bu bulgulara dayanarak hedefteki güvenlik açıklarını belirlemek için daha odaklı bir tarama yapmayı içeriyor.
Bu aşamada saldırgan, yapay zekaya geri arama servislerini kullanarak sisteme sızma talimatı verebiliyor. Saldırgan, yapay zekanın bulgularını gözden geçirerek ek komutlar verebiliyor veya ağdaki zayıflıkları tekrar taramasını isteyebiliyor. Son aşamalarda ise yapay zeka aracı, kimlik bilgilerini ele geçirmek ve verilere erişmek için yönlendiriliyor. Bu noktada hem insan hem de yapay zeka, hedef sistemden veri elde etmek ve çalmak için kullanılıyor.
Yapay zeka, ağ ihlallerinin çeşitli aşamalarında insan operatöre rapor sunsa da, büyük ölçüde bağımsız hareket ediyor. Bu durum, kötü niyetli kişilerin daha az insan gücüyle daha hızlı ve karmaşık operasyonlar yürütmesine olanak tanıyor. Raporda, bu bağımsız hareketin yaklaşık %80-90 oranında gerçekleştiği belirtiliyor.
Anthropic, Claude'un yerleşik güvenlik önlemlerine sahip olduğunu ancak saldırganların bu önlemleri aştığını belirtiyor. Saldırganların, yapay zekayı bir siber güvenlik şirketi için çalıştığına ve sızma testleri ile kırmızı takım (red teaming) faaliyetlerinde bulunduğuna ikna ettikleri anlaşılıyor. Ayrıca, tüm operasyonu küçük ve masum görünümlü görevlere bölerek yapay zekanın tüm operasyonun bağlamını ve talimatların gerçek amacını anlamasını engelledikleri belirtiliyor.
Yapay zekanın daha önce daha basit siber saldırılarda kullanıldığı bilinse de, bu büyüklükteki bir saldırıda ilk kez kullanıldığı vurgulanıyor. Yapay zeka teknolojisindeki gelişmeler, daha az kaynağa sahip küçük grupların bile bu tür karmaşık kampanyaları yürütmesine olanak tanıyor. Anthropic, bu saldırının bir devlet sponsorluğunda gerçekleştirildiğinden şüpheleniyor. Şirket, durumu tespit ettikten sonra olayı belgelemek, yasa dışı faaliyetlerde bulunan hesapları engellemek ve hem hedefleri hem de yetkilileri bilgilendirmek için adımlar atmış. Ayrıca, endüstrinin bu tür saldırıları tespit etmesine ve karşı önlemler geliştirmesine yardımcı olmak amacıyla bulgularını içeren bir rapor yayımladı.
