Teknoloji dünyasında, yapay zeka araçlarının beklenmedik hatalar yapması zaman zaman gündeme geliyor. Bu kez karşımıza çıkan olay, bir yapay zeka aracının, geliştiricinin iki buçuk yıllık verisini, veritabanı ve yedeklemeleriyle birlikte anında yok etmesiyle dikkat çekiyor.
Bir geliştirici, web sitesini AWS'e taşıma ve mevcut altyapıyı başka bir proje ile paylaşma sürecindeyken, yapay zeka aracı Claude Code'dan yardım istedi. Claude, bu seçeneğe karşı uyarsa da, geliştirici ayrı iki altyapı kurmanın maliyet ve zahmetinden kaçınmak istedi.
Geliştirici, altyapı yönetimi için kullandığı Terraform aracını devreye soktu. Ancak, mevcut altyapının tam bir tanımını içeren kritik bir 'durum' dosyasını yüklemeyi unuttu. Claude, istenen şekilde yeni site için bir altyapı oluşturdu, ancak eksik durum dosyası nedeniyle sistemde tekrarlanan kaynaklar oluştu.
Bu sorunu gidermek için geliştirici, Claude'dan tekrarlanan kaynakları tespit etmesini istedi. Ardından durum dosyasını yükleyip işlerin yoluna girdiğini düşünse de, durum beklediği gibi olmadı. Terraform gibi araçlar, özellikle verilen komutlara körü körüne uyduğunda çok affetmez olabiliyor.
Claude, eline geçen durum dosyasına dayanarak, bu kez her şeyi doğru kurmak amacıyla mevcut altyapıyı yok etme (destroy) komutunu çalıştırdı. Bu durum, iki web sitesinin de altyapısının tamamen silinmesine, 2.5 yıllık verinin bulunduğu veritabanının ve yedeklerin yok olmasına neden oldu. Geliştirici, Amazon iş desteği ile iletişime geçerek verilerini yaklaşık bir gün içinde geri alabildi.
Olayın ardından geliştirici, benzer durumların yaşanmaması için bazı önlemler alacağını belirtti. Bunlar arasında veritabanı geri yükleme testleri yapmak, Terraform ve AWS izinlerinde silme korumaları uygulamak ve Terraform durum dosyasını yerel makinesi yerine S3 depolama alanına taşımak yer alıyor. Ayrıca, yapay zeka aracına Terraform komutlarını çalıştırma konusunda aşırı güvendiğini kabul eden geliştirici, artık bu tür yıkıcı işlemleri kendisinin manuel olarak yapacağını ifade etti.
Bu olay, yapay zeka araçlarının gücünü ve potansiyel risklerini bir kez daha gözler önüne seriyor. Özellikle altyapı yönetimi gibi kritik alanlarda yapay zeka araçlarından faydalanırken, kullanıcıların da dikkatli olması ve gerekli güvenlik önlemlerini alması büyük önem taşıyor.
