Yapay zeka alanında faaliyet gösteren Anthropic, küçük yapay zeka modellerindeki gelişmelerin yakın zamanda kendini kopyalayabilen kötü amaçlı yazılımların yeni bir dönemini başlatabileceği uyarısında bulundu. Bu tür yazılımlar, akıllı buzdolapları, elektrikli süpürgeler ve diğer birçok nesnelerin interneti (IoT) cihazlarını etkileyebilecek ve geleneksel yöntemlerle tespit edilip engellenmesi daha zor olacak.
Anthropic'e göre, gelecek yıl itibarıyla daha küçük yapay zeka modelleri, çeşitli IoT cihazlarında otonom olarak kendini kopyalama yeteneği kazanabilir. Bu kabiliyet, insan etkileşimi gerektirmeyen ve daha önce karşılaşılmamış IoT cihazlarını dahi etkileyebilen bilgisayar solucanlarının ortaya çıkmasına yol açabilir. Şirketin yakın zamanda gerçekleştirdiği bir deney, bu tür bir yapay zeka tabanlı kötü amaçlı yazılımın çoğaltılmasında önemli zorluklar olduğunu ortaya koydu, bu nedenle bulgular ihtiyatla karşılanmalı. Ancak sonuçlar, yeni nesil bilgisayar solucanlarının potansiyeli hakkında endişeleri de beraberinde getiriyor.
Engellenmesi Zor Bir Tehdit
Anthropic, sadece potansiyel yeni kötü amaçlı yazılımlar hakkında değil, aynı zamanda bunların durdurulmasının zor olabileceği konusunda da uyardı. Şirketin blog yazısında belirttiği üzere, "merkezi bir kapatma noktası olmadığından, bu tür bir çoğaltıcıyı durdurmak zor olacaktır - yavaş hareket etse bile (çoğalma süresi günler sürebilir). Yapay zeka içermeyen kötü amaçlı yazılımlardan farklı olarak, bilinmeyen cihazları kendi başına anlayabilir."
Daha küçük yapay zeka modellerinin çalışması için, gelişmiş modellere kıyasla çok daha az güçlü donanım gerekmektedir. Anthropic, açık kaynaklı küçük modelleri gerçek veya simüle edilmiş düşük maliyetli, markasız Android TV kutuları ve diğer IoT donanımları üzerinde çalıştırdı. Şirket araştırmacıları, modelleri daha az bit ile temsil etmek için niceleme (quantization) tekniğini kullanarak ve iş yüklerini her cihazda çalışan "parçalara" (shards) bölerek, modellerin çıkarım yapabildiğini, yani model ağırlıklarının yüklenebildiğini ve çıktı üretebildiğini tespit etti.
Hafifletilmiş Gemma4-26B-A4B modeli, çıkarım yapabilmek için yalnızca 15 adet ve her biri 4GB belleğe sahip kutuya ihtiyaç duydu. Qwen3.5-9B modeli ise diğer büyük dil modellerini (LLM) dokuz donanım türünden sekizinde çalışacak şekilde yapılandırabildi. Belirli donanım veya yazılımlar üzerinde çalışacak şekilde yazılması gereken geleneksel kötü amaçlı yazılımların aksine, model, test edildiği cihazlara özgü yapılandırmaları anlık olarak yapabilmek için ağırlıklarını kullanabildi.
Bu bulgu, küçük modellerin geleneksel IoT solucanları gibi kendini kopyalayan enfeksiyonlar oluşturup oluşturamayacağına dair daha fazla araştırmanın başlangıç noktası oldu. Mirai gibi solucanlar, DDoS kodları ve diğer yükleri kurarken, bu yapay zeka solucanları çok daha yüksek bir tehdit oluşturabilir, çünkü modeller hedef cihaza göre saldırıları ve yükleri dinamik olarak özelleştirebilir. Böyle bir enfeksiyon zinciri başladığında, savunmacıların durdurması da daha zor olabilir.
Anthropic'in belirttiğine göre, "Böyle bir 'yapay zeka solucanı', çoğalırken (veya genel bir merkezden yeniden indirerek) model ağırlıklarını taşıyabilir ve ardından doğrudan ele geçirilmiş donanım üzerinde çıkarım yapabilir. Etkin bir şekilde, ağırlıklar kötü amaçlı yazılımın bir parçası haline gelecektir."
Anthropic, bu otonom solucanları "küçük ağırlık tabanlı çoğaltıcılar" olarak adlandırdı. Modeller, ters kabuklar gibi yaygın istismar araçlarına erişimi olan ajanlar çalıştırdı. Saldırıların akışı şu şekildeydi: (1) hedefleri bulma, (2) kod yürütme sağlama, (3) çıkarım yapma ve (4) yeni ana bilgisayarlara yayılma. Geleneksel solucanlara göre önemli bir avantajı, Anthropic'in belirttiği gibi ajanların iş üzerinde öğrenme yeteneğidir. Yapay zeka çoğaltıcısı belirli bir platform cihazını her başaramadığında, gelecekteki çoğaltıcıların aynı etkisiz adımları tekrar kullanarak zaman kaybetmemesi için istemler, kodlar ve notlardan oluşan bir liste bırakabilir.
Anthropic, dinamik çıkarım kurulumunun çoğaltma döngüsündeki en az incelenen ve muhtemelen en zorlu aşama olduğunu belirtti. Bu, her hedefin özel donanım ve yazılımına dayalı uzun bir karar dizisi gerektirir ve uyumlu çıkarım yazılımı seçme, bağımlılıkları yükleme ve platforma özgü hataları ayıklama işlemlerini içerir.
Anthropic, "Bu adımlar seri olarak bağımlıdır ve hatalardan kurtulmak zordur" dedi.
Deney, küçük modellerin bu sorunları giderek daha yetkin bir şekilde otonom olarak çözebildiğini gösteriyor. Ancak şu anda, test edilen hafif modellerin hiçbiri uçtan uca çoğaltma gerçekleştiremiyor; yani yeni cihazları keşfetme, bir açığı kullanarak onlara erişme, bir yük ile enfekte etme, bir çıkarım sunucusu yapılandırma ve süreci tekrarlama gibi işlemleri tek başlarına tamamlayamıyorlar. Süreç aynı zamanda son derece yavaş; 15 Android TV kutusuna dağıtılan Gemma4-26B-A4B, saniyede yalnızca 0.39 token ile çalıştı. Bu, optimize edilmemiş bir Gemma4-26B-A4B için tam bir çıkarım kurulum süresinin 71 ila 150 saat, Qwen3.5-9B için ise 29 ila 51 saat sürmesi anlamına geliyor. (Araştırmacılar, büyük GLM-5.2 modelinin bunu güvenilir bir şekilde yapabildiğini belirtti.)
Şirket, 30 milyar parametreli modellerin halihazırda çoğaltma adımlarının çoğunu tamamlayabildiğini, ancak uçtan uca çoğaltma yaparken hata yaptıklarını belirtti. Şirket, küçük modeller mevcut hızlarında gelişmeye devam ederse, yıl sonuna kadar aynı sınırlı sonuçları elde edebileceklerini ve "küçük ağırlık tabanlı çoğaltıcıların yakında mümkün olabileceğini" ekledi.
Deney, çeşitli önemli soruları cevapsız bırakıyor. Birincisi, küçük modeller tarafından hedeflenen Android cihazlar, kimliği doğrulanmamış bir Android Debug Bridge'i açık bıraktı. Bu araç geliştirme ve hata ayıklama sırasında kullanılır, ancak üretim ortamlarında asla kullanılmamalıdır, çünkü saldırganlara tüm cihaz yığınına erişim izni verir. İkincisi, çoğaltma küçük modellerin kendileri tarafından değil, GLM-5.2'nin süreci koordine etmesiyle gerçekleştirildi, hedefler ise daha küçük bir Llama modelini çalıştırıyordu.
Sonuç olarak, deney küçük ajan tabanlı modellerin birden fazla makine üzerinde karmaşık, dağıtılmış çıkarım altyapıları kurma yeteneği kazandığını gösteriyor. Ancak, bu modellerin kendi başlarına kendini kopyalamaya başlayıp başlamayacakları hala belirsizliğini koruyor.
Yapay zeka araştırmacısı Xiaohan Fu bir röportajında, "İyi tasarlanmış deneysel kuruluma rağmen, çalışma tek başına küçük modellerin otonom olarak çoğalmayı seçeceğini göstermiyor" dedi. "Modellere verilen kesin istemleri ve talimatları içeren tekrarlanabilir ajan kurulumlarının sağlanması, araştırma topluluğunun bulguları daha iyi anlamasına ve etkilerini değerlendirmesine yardımcı olacaktır. Böyle bir şeffaflık, gösterilen çoğaltma yeteneği ile otonom kendini çoğaltma tehdidinin ortaya çıkmasını önlemek için özellikle önemlidir."
