Google, yapay zeka tarafından üretilen ve kötü amaçlı yazılım geliştirme amacıyla kullanılan beş yeni örneği inceledi. Yapılan analizler, bu örneklerin geleneksel yöntemlerle geliştirilmiş kötü amaçlı yazılımların performansından oldukça uzak olduğunu gösterdi. Bu durum, yapay zeka destekli kodlamanın, daha yerleşik geliştirme yöntemlerinin gerisinde kaldığını ve şu an için gerçek dünya tehdidi oluşturmaktan uzak olduğunu ortaya koyuyor.
Örneklerden biri olan ve 'PromptLock' olarak bilinen bir örnek, büyük dil modellerinin fidye yazılım saldırı yaşam döngüsünü otonom olarak planlama, uyum sağlama ve yürütme etkinliğini analiz eden akademik bir çalışmanın parçasıydı. Ancak araştırmacılar, bu kötü amaçlı yazılımın kalıcılık, yan hareket ve gelişmiş gizlenme taktikleri gibi konularda belirgin sınırlılıklara sahip olduğunu ve daha çok yapay zekanın bu tür amaçlar için kullanılabilirliğinin bir gösterimi niteliği taşıdığını bildirdiler. Bu çalışmanın yayımlanmasından önce, güvenlik firması ESET bu örneği 'ilk yapay zeka destekli fidye yazılımı' olarak duyurmuştu.
Abartılan Beklentilere Kapılmayın
Google'ın incelediği diğer dört örnek olan FruitShell, PromptFlux, PromptSteal ve QuietVault gibi PromptLock da, statik imzalara dayanan daha az gelişmiş uç nokta koruma sistemleri tarafından bile kolayca tespit edilebildi. Tüm örnekler, daha önce karşılaşılan yöntemleri kullanıyordu, bu da onları etkisiz hale getirmeyi kolaylaştırıyordu. Ayrıca, bu örneklerin herhangi bir operasyonel etkisi olmadı; yani savunmacıların yeni savunma mekanizmaları geliştirmesini gerektirmedi.
Bağımsız araştırmacılar, üretken yapay zekanın yaygınlaşmasından bu yana geçen üç yıldan fazla bir süreye rağmen, tehdit geliştirmenin yavaş ilerlediğini belirtiyor. Bu durumun, yapay zeka tarafından üretilen kötü amaçlı yazılımların henüz güvenilir bir tehdit oluşturmaktan uzak olduğunu gösterdiği vurgulanıyor.
Başka bir güvenlik uzmanı da, Google'ın raporunun, yapay zekanın kötü amaçlı yazılım geliştiricilerine, geleneksel yöntemleri kullananlara karşı bir avantaj sağlamadığını gösterdiğini düşünüyor. Uzmanlar, yapay zekanın mevcut kötü amaçlı yazılımları daha korkutucu hale getirmediğini, sadece mevcut yazılım yazarlarının işlerini kolaylaştırdığını, ancak henüz kayda değer bir yenilik getirmediğini belirtiyor. Yapay zekanın gelecekte daha da gelişeceği ancak ne zaman ve ne kadar gelişeceği konusunun belirsiz olduğu ifade ediliyor.
Bu değerlendirmeler, yapay zeka şirketlerinin ve yatırım arayanların abarttığı anlatılara güçlü bir karşı argüman sunuyor. Bu anlatılar, yapay zeka tarafından üretilen kötü amaçlı yazılımların yaygınlaştığı ve mevcut savunmaları tehdit eden yeni bir dönemi başlattığı yönündeydi. Ancak incelenen örnekler, bu iddiaların henüz gerçeği yansıtmadığını gösteriyor.
Google'ın raporu, yapay zeka araçlarının komuta ve kontrol kanallarını yönetmek ve işlemleri gizlemek için kod geliştirmede kullanılmasının analiz edildiğini ve bu konuda başarılı bir otomasyon veya çığır açan bir yetenek görülmediğini belirtiyor. OpenAI de benzer bir görüşü paylaşarak, yapay zekanın geliştiricilere yeni yetenekler kazandırmadığını ifade ediyor. Ancak bu tür sınırlılıklar genellikle göz ardı ediliyor ve yapay zeka destekli kötü amaçlı yazılımların yakın bir tehdit oluşturduğu yönündeki algı güçlendiriliyor.
Google'ın raporunda dikkate değer bir başka bulgu da bulunuyor. Şirketin Gemini yapay zeka modelini kullanan bir tehdit aktörünün, kendisini 'capture-the-flag' oyunlarına katılan beyaz şapkalı hackerlar olarak tanıtarak güvenlik önlemlerini aşmayı başardığı belirtiliyor. Bu tür rekabetçi oyunlar, katılımcılara ve izleyicilere etkili siber saldırı stratejilerini öğretmek ve göstermek amacıyla tasarlanmıştır.
Bu tür güvenlik önlemleri, tüm ana akım büyük dil modellerine, siber saldırılar ve kendine zarar verme gibi kötüye kullanımları önlemek amacıyla entegre edilmiştir. Google, bu tür yanıltıcı girişimlere karşı önlemlerini daha iyi geliştirdiğini bildirdi.
Sonuç olarak, şu ana kadar ortaya çıkan yapay zeka tarafından üretilen kötü amaçlı yazılımlar büyük ölçüde deneysel nitelikte ve etkileyici sonuçlar sunmuyor. Yapay zeka araçlarının daha önce bilinmeyen yeni yetenekler ürettiğini gösteren gelişmelerin izlenmesi önemlidir. Ancak şimdilik, en büyük tehditler büyük ölçüde eski usul taktiklere dayanmaya devam ediyor.
