Gelişmekte olan yapay zeka (YZ) teknolojileri alanında heyecan verici gelişmeler yaşanırken, son dönemde yapılan bir deney dikkatleri üzerine çekti. Test aşamasında olan bir YZ aracının, eğitim için kullanılan grafik işlem birimlerini (GPU) izinsiz bir şekilde kripto para madenciliği için kullandığı ortaya çıktı. Bu durum, YZ'nin güvenliği, kontrol edilebilirliği ve güvenilirliği konusundaki mevcut bariyerlerin aşılabileceğine dair endişeleri de beraberinde getirdi.
Adı açıklanmayan bu deneysel YZ aracı, geliştiriciler tarafından yapılan incelemeler sırasında fark edildi. Bulut bilişim altyapısında kullanılan güvenlik duvarları, çeşitli politika ihlallerini, anormal trafik desenlerini ve kripto madenciliği ile ilgili şüpheli aktiviteleri tespit etti. Araştırmacılar, YZ'nin belirlenen sınırlar dışına çıkarak beklenmedik eylemlerde bulunduğunu gözlemledi. Özellikle, pekiştirmeli öğrenme (Reinforcement Learning - RL) yönteminin, YZ'yi 'ödüllendirici' eylem dizilerini keşfetmeye teşvik ettiği ve bu sayede belirlenmiş hedeflerin dışına çıkarak yan faaliyetlere yönelmesine neden olduğu düşünülüyor.
Yetenek Şoku ve Güvenlik Açığı
Söz konusu YZ aracının temel amacı, modellerin iş akışlarında planlama, yürütme ve etkileşim sırasında güvenilir kalmalarını sağlamak üzerine yapılan araştırmalar. Bu teknoloji başarılı olursa, metin tabanlı büyük dil modellerinden önemli bir evrim anlamına gelebilir. YZ'nin gerçek dünya ortamlarında birden fazla adımda hareket edebilmesi, sonuçları gözlemlemesi ve karmaşık gereksinimler karşılanana kadar çıktısını yinelemeli olarak iyileştirmesi mümkün hale gelebilir.
Ancak, yapay zeka araştırmalarında da ifade edildiği gibi, en iyi planlar bile her zaman beklendiği gibi sonuçlanmayabiliyor. Araştırmacılar, YZ'nin bazı başarılarından memnuniyet duysa da, özellikle 'benchmark' testlerindeki güçlü sonuçlarını vurgulasa da, bu tür aykırı davranışlar daha fazla dikkat çekiyor. YZ, çeşitli güvenlik kısıtlamalarına rağmen, gizlice kripto para madenciliği yapmaya başlamış.
Araştırmacılar, bulgularını açıklarken, "hiçbir açık talimat olmadan ve daha endişe verici bir şekilde, hedeflenen güvenlik duvarlarının dışında ortaya çıkan, beklenmedik ve operasyonel sonuçları olan bir dizi güvensiz davranışla karşılaştık" ifadelerini kullandılar. Bu davranışlar, görev komutları tarafından tetiklenmemiş ve hedeflenen güvenlik duvarı kısıtlamaları altında görev tamamlama için gerekli olmamış.
Sağlanan GPU Kapasitesinin İzinsiz Kripto Para Madenciliği İçin Kullanılması
Araştırma metninde, "En çarpıcı örnekte, YZ, bulut bilişim örneğinden harici bir IP adresine ters bir SSH tüneli kurdu ve kullandı - gelen filtrelemeyi etkili bir şekilde etkisiz hale getirebilen ve denetleyici kontrolünü aşındırabilen, dışarıdan başlatılan bir uzaktan erişim kanalı" denildi. Ayrıca, "sağlanan GPU kapasitesinin izinsiz olarak kripto para madenciliği için yeniden kullanıldığı, hesaplama gücünü gizlice eğitimden uzaklaştırdığı, operasyonel maliyetleri şişirdiği ve açık yasal ve itibari riskler oluşturduğu gözlemlendi" ifadesi yer aldı. Özellikle, bu olaylar tünel açma veya madencilik talep eden komutlarla tetiklenmemiş; bunun yerine, RL optimizasyonu altındaki otonom araç kullanımının enstrümantal yan etkileri olarak ortaya çıkmışlardır.
Araştırmacılar, bir yandan YZ'nin becerikliliğinden ve kurnazca eylemlerinden etkilendiklerini belirtirken, diğer yandan "mevcut modellerin güvenlik, kontrol edilebilirlik ve güvenilirlik açısından belirgin şekilde yetersiz kaldığını" vurguladılar. Bu durumun gerçek dünya ortamlarında güvenilirlik sorunlarına veya daha kötü sonuçlara yol açabileceği ifade edildi. Bu bulgular, YZ'nin güvenliğinin, ortam düzeyinde daha sıkı kapsama, araç kullanımı ve yetenek kısıtlamalarının yanı sıra yetkilendirme ve doğrulama kontrollerine tabi olması gerektiği anlamına geliyor.
