Yapay zeka alanında faaliyet gösteren Anthropic, yapay zeka modeli Claude'un güvenlik duvarlarının Pentagon'un talepleri doğrultusunda düşürülmesini reddetti. Şirket, ABD Savunma Bakanlığı'nın yaklaşık 200 milyon dolarlık sözleşmeyi iptal etme ve şirketi tedarik zinciri riskli olarak sınıflandırma tehdidine rağmen kararından geri adım atmadı. Anthropic CEO'su Dario Amodei, şirketin vicdani olarak bu talepleri kabul edemeyeceğini belirtti.
Anthropic'in temel itiraz noktaları kitlesel iç izleme ve tamamen otonom silah sistemleri oldu. Şirket, Amerikan vatandaşlarının geniş çapta izlenmesinin demokrasiye aykırı olduğunu ve bireysel özgürlükleri zedelediğini savunuyor. Ayrıca, yapay zeka destekli izlemenin tehlikeli olduğunu ve henüz yasal zeminin bu tür uygulamalara tam olarak ayak uyduramadığını ekledi.
CEO, hükümetlerin mahkeme kararı olmaksızın e-postalar, tarama geçmişleri ve hareketler gibi kişisel verilere erişip bunları yapay zeka aracılığıyla birleştirerek bireyler hakkında kapsamlı profiller oluşturabileceği örneklerini paylaştı. Bu uygulamanın yapay zeka olmadan da tartışmalı olduğunu belirten Amodei, Claude'un bu süreçte bir araç olarak kullanılmayacağını vurguladı.
Şirket ayrıca, Frontier yapay zekanın henüz insan benzeri yargı yeteneğinden yoksun olduğu için tamamen otonom silah sistemlerinde kullanılmaya hazır olmadığını belirtti. Amodei, "Amerika'nın savaşçılarını ve sivillerini riske atacak bir ürünü bilerek sağlamayacağız." dedi. Anthropic'e göre, kısmen insansız silah sistemleri demokrasinin savunması için hayati önem taşıyor, ancak yapay zekanın henüz kendi başına hedef seçme ve öldürme yetkisine güvenilemeyeceği ifade edildi.
Anthropic, bu sistemlerin güvenilirliğini artırmak için araştırma ve geliştirme yapmayı teklif etse de, Savunma Bakanlığı tarafından bu teklif reddedildi. Anthropic, tecrübeli bir askerin yeteneklerini taklit edebilecek hiçbir yapay zeka modelinin bulunmadığını belirterek, bu sistemlerin uygun güvenlik önlemleriyle konuşlandırılması gerektiğini savundu.
Bu iki konu, Anthropic'in Pentagon ile çalışma konusundaki genel desteğinin yanı sıra, "istisnalar" olarak etiketleniyor. Şirket, "talep ettiğimiz iki güvenlik önlemi yerindeyken Savunma Bakanlığı'na ve savaşçılarımıza hizmet etmeye devam etmek" istediğini yineledi.
Güvenlik duvarlarının düşürülmesini reddetmenin sonuçları sadece mevcut sözleşmenin iptaliyle sınırlı kalmayabilir. Savunma Bakanı'nın şirketi bir tedarik zinciri riski olarak sınıflandırma tehdidi, daha önce Amerikan şirketleri için hiç uygulanmamış bir adım. Bu durum, Anthropic için ciddi parasal endişeler de yaratacaktır.
Pentagon ayrıca, Amodei'nin daha önceki "tedarik zinciri riski" sınıflandırmasıyla çelişkili olduğunu belirttiği Savunma Üretim Yasası'nı devreye sokmakla tehdit etti. Bu yasaya göre, ABD'deki herhangi bir özel şirket, ürünlerinin ulusal güvenlik için çok önemli kabul edilmesi nedeniyle hükümete öncelikli hizmet vermeye zorlanabilir.
Anthropic, her iki tehdide karşı da kararlı görünüyor ve Savunma Bakanlığı'nı pozisyonunu yeniden değerlendirmeye çağırıyor. Federal sözleşmenin iptali durumunda, Anthropic, askeri operasyonlarda aksaklıkları önlemek amacıyla başka bir sağlayıcıya sorunsuz bir geçiş sağlamak için çalışacağını belirtti. Bir yapay zeka şirketinin mevcut yönetime karşı bu kadar net bir duruş sergilemesi ilk kez yaşanıyor ve bu durum çevrimiçi platformlarda büyük ölçüde olumlu karşılandı.
