Yapay zeka firmalarının en yeni ve en yetenekli modellerinin yetkisiz siber saldırılar gerçekleştirdiğini duyurması giderek yaygınlaşıyor. Son aylarda gelişmiş Gemini modellerini piyasaya sürmekte yavaş davranan Google, bugüne kadar "yaramaz yapay zeka" tartışmalarından uzak kalmıştı. Ancak, bir haber sitesinin raporunun ardından Google, Mayıs 2026'da yapılan bir test sırasında Gemini modellerinin üç şirketi hacklediğini doğruladı. Yine de bu saldırıların niteliği, daha önceki yapay zeka saldırıları kadar endişe verici (ya da etkileyici) değil.
Siber güvenlik firması Irregular tarafından yürütülen bir test sırasında bu saldırılar gerçekleşti. Bir dizi Gemini modeli, yapay zekanın kapalı bir ortamda siber güvenlik yeteneklerini test etmek amacıyla düzenlenen bir "bayrak kapmaca" (capture the flag) egzersizine katıldı. Yapay zekadan, bu ortamdaki gerçek bir şirketle aynı adı taşıyan sahte bir şirketten bilgi çekmesi istendi. Irregular'ın modeli kendi sunucuları dışında çalıştırmasına izin vermemesi gerekiyordu, ancak bir yanlış yapılandırma nedeniyle Gemini internete erişmeyi başardı.
Gemini interneti araştırmaya başladığında, sahte hedefler yerine gerçek altyapıları hedef aldı. Üç hack olayından biri için Gemini, bir şirketin çevrimiçi hizmetlerine erişene kadar basitçe şifreleri tahmin etti. Diğer iki durumda ise Gemini, halka açık yazılım depolarını tarayarak kazara dahil edilmiş şirketlerin giriş bilgilerini buldu.
Üç test denemesinde de, Google'ın modellerinin gerçek bir şirketin sunucularına eriştiğini fark ettikten sonra durduğu bildirildi. Bu noktada Irregular, yapay zekanın internete erişimini engellemek için yapılandırmasını değiştirdi. Görünüşe göre Irregular başlangıçta bu olayı daha fazla araştırma gerektirecek kadar önemli görmemişti ve diğer yapay zeka hack olayları haber olana kadar Temmuz ayında Google'a bile haber vermedi. Olaydan haberdar olduktan sonra Google, şirketleri bilgilendirdi, böylece (umarız) şifre güvenliklerini iyileştirebilirler.
Google'ın bu hack olaylarını kamuoyuna açıklamama kararı, modellerin yasa dışı yollarla elde edilen şifreleri kullandıktan sonraki davranışlarından kaynaklanıyor. Modeller gerçek sistemlere eriştiklerini fark edip durdukları için, şirket bunu bir model uyumsuzluğu örneği olarak değerlendirmedi.
Google'ın güvenlik mühendisliği başkan yardımcısı Heather Adkins, olayla ilgili yaptığı açıklamada durumun ciddiyetini küçümsedi. "Bu olay, güçlü yapay zeka modellerini sorumlu bir şekilde hareket etmeleri için eğitmenin önemini vurguluyor. Bu durumda model uygun şekilde davrandı" dedi.
Bu durum, OpenAI'nin modellerinin test ortamlarında bulunmayan bilgilere erişme amacıyla yazılım açıklarını kullandığı ve bir kıyaslamayı geçme ile daha yüksek "ödüller" kazanma amacıyla hareket ettiği OpenAI-Hugging Face olayı gibi açık model uyumsuzluğu örneklerinden oldukça farklı. Ancak, OpenAI'nin kurulumunun bu davranışı esasen teşvik ettiğini de savunmak mümkün.
Google'ın yapay zekası bu kadar kötü niyetli bir şey yapmadı; sadece kapı açık bırakıldı ve yapay zeka dışarı çıktı. Gemini'ye internetteki zengin bilgilere erişim izni verildi ve bu bilgileri yetkisiz olarak eriştiği sistemlere giriş yapmak için kullandı. Şifre tahmin etmek, dünyanın sonunu getirecek bir yapay zeka kıyameti davranışı olmasa da, Google'ın bu olayın farkına vardığında bunu açıklaması gerekirdi.
