Yapay zeka destekli bir ABD istihbarat raporunun neden olduğu 'tamamen yanlış' bir bilginin, Amerikan ordusunu bir Çin gemisini uluslararası sularda durdurup aramaktan kıl payı kurtardığı bildirildi. Bu olay, yapay zekanın yanlış veri üreterek ciddi diplomatik ve askeri krizlere yol açma potansiyelini bir kez daha gözler önüne serdi.
Habere göre, ABD Özel Harekat Komutanlığı'nda görevli bir analistin yapay zeka araçları kullanarak hazırladığı raporda, söz konusu Çin gemisinin Orta Doğu üzerinden nükleer silah programı bileşenleri taşıdığı iddia edildi. Dört kaynağın paylaştığı bilgilere göre, ABD ordusu gemiye hava desteğiyle müdahale etmeye hazırlanırken, raporda kullanılan bir sohbet botunun geminin taşıdığı malzemeyi yanlış tanımladığı anlaşıldı. Bu durum, bir kaynağın 'neredeyse bir savaş başlatıyordu' şeklinde yorumladığı bir olayın önüne geçilmesini sağladı.
Yapılan Yanlışlık Neler Getirebilirdi?
CNN'in raporuna göre, analistin Çin gemisinin yük manifestosuyla ilgili istihbarat raporlarını analiz etmek için bir sohbet botu kullandığı belirtildi. Bu botun, kamuya açık bilgileri ve gizli sinyal istihbaratı verilerini birleştirerek, felaketle sonuçlanabilecek olaylar zincirini tetikleyebilecek bir istihbarat raporu oluşturduğu ifade edildi.
Yapay zekanın 'halüsinasyon' olarak adlandırılan yanlış bilgi üretme eğilimi, profesyonel raporların güvenilirliğini ciddi şekilde sarsan etkili ve sonuçları ağır olabilecek örneklerden biri olarak öne çıkıyor. 'Halüsinasyon' kelimesinin 2023 yılında Cambridge Sözlüğü'nün yılın kelimesi seçilmesinden bu yana, kurgusal olmayan yazarlar, gazeteciler, akademik araştırmacılar, yargıçlar, doktorlar, polis departmanları ve kurumsal çağrı merkezleri gibi çeşitli alanlardan profesyonellerin yapay zeka araçları tarafından yanıltıldığı pek çok örnek görüldü. Eğitim verilerinin yetersiz kaldığı durumlarda yapay zekanın basitçe bir şeyler uydurduğu bu durum, 'yanlış bilgi üretme' olarak tanımlanıyor.
Bu tür sorunların ABD ordusu gibi yapay zekayı analiz araçları olarak kullanan kurumlarca bilinmesi beklenirken, Savunma Bakanlığı'nın Ocak ayında aldığı bir kararla 'yapay zeka hızlandırma stratejisi' çerçevesinde tüm uygun verilerin yapay zeka kullanımı için erişilebilir hale getirilmesi hedefleniyor.
Savunma Bakanı Pete Hegseth, bu girişimi tanıtırken, "Yapay zeka yalnızca aldığı veriler kadar iyidir ve bunun orada olmasını sağlayacağız" ifadelerini kullanmıştı. Geçtiğimiz Aralık ayında, Savunma Bakanlığı'nın özel 'GenAI.mil' platformunun temeli olarak Google'ın Gemini for Government'ı kullanacağını duyurduğu belirtildi. Geçtiğimiz ay ise platforma Google'ın Grok for Government'ın da bir seçenek olarak eklendiği, ayrıca Anthropic'in ABD istihbarat birimleri için Claude'un özelleştirilmiş bir versiyonunu sunduğu bilgisi paylaşıldı.
Haziran ayında Pentagon'dan bir temsilci, kongreye yaptıkları sunumda yapay zekayı kongre tarafından zorunlu kılınan raporları hazırlamak için kullandıklarını ve 1,5 milyon aktif DoD personelinin ordunun üreteç yapay zeka araçlarını kullandığını belirtti. 2023 yılında, Dışişleri Bakanlığı'nın yayınladığı "Yapay Zeka ve Özerkliğin Askeri Kullanımına İlişkin Bildirge", silahlı kuvvetler tarafından yapay zekanın "ilkeli" kullanımının riskler ve faydalar konusunda dikkatli bir değerlendirme içermesi, istenmeyen önyargıları ve kazaları en aza indirmesi gerektiğini vurguluyordu. Ayrıca, yapay zeka sistemlerinin "hesap verebilir" kullanımının her zaman "döngüde bir insan, sorumlu bir insan komuta ve kontrol zinciri" içermesi gerektiği çağrısında bulunulmuştu.
Ancak geçen yıllarda, Ukrayna'daki Rus çatışmasında tam otonom saldırı dronlarının kullanıldığı ve NATO destekli askeri yükleniciler tarafından test edildiği görüldü. Mart ayında, Savunma Bakanlığı, şirketin modellerinin otonom silah sistemlerinde kullanılmasını protesto ettiği gerekçesiyle Anthropic'i kara listeye aldı. Bu hamlenin bir federal yargıç tarafından geçen ay "ifade özgürlüğünü ihlal eden yasa dışı bir misilleme" olarak değerlendirildiği belirtildi.
Bahsi geçen bu olay, yapay zeka araştırmacılarından gelen "yok oluş seviyesindeki uyarılar" sonrası, yapay zeka güvenliği konusunda yeni bir ulusal diyaloğun fitilini ateşledi. Bu kapsamda, önde gelen yapay zeka laboratuvarlarından düzenlemeler ve koordineli araştırma "pacing"i için çağrılar yapılıyor.
