ABD hükümetinin, yapay zeka şirketi Anthropic'i, geliştirdiği 'Claude Fable 5' adlı modelin bir Çin grubu tarafından ele geçirildiği konusunda uyardığı ortaya çıktı. Ancak şirketin CEO'su Dario Amodei'nin, güvenlik açığını gidermeyi veya modeli geri çekmeyi reddettiği iddia edildi. ABD'nin Bilim ve Teknoloji Danışmanları Konseyi eş başkanı ve eski yapay zeka sorumlusu David Sacks, yaptığı açıklamada, yönetimin bu uyarıyı yaptığını ve Anthropic'in buna rağmen bir çözüm sunmadığını belirtti. Sacks, bu durumun kendilerini 'zorla' Fable 5 ve Mythos 5 modellerini dünya çapında devre dışı bırakmaya ittiğini söyledi.
Sacks'a göre, hem Anthropic'in hem de ABD hükümetinin güvendiği bir test ortağı, Fable modelinde tüketicilere sunulan sürüm ile temelini oluşturan Mythos'un sınırsız siber yeteneklerini ayıran güvenlik duvarlarını aşmayı başardı. Hükümetin Amodei'den bu güvenlik açığını kapatmasını veya modeli kullanımdan kaldırmasını talep ettiği, ancak Amodei'nin bunu reddettiği ifade edildi. Sacks, Anthropic'in bu noktada tüketici modelini aktif tutmayı güvenlikten daha öncelikli gördüğünü ve bunun, şirketin 'önce güvenlik' ilkesiyle çeliştiğini vurguladı. Anthropic'in daha önce Mythos'un bir siber silah olarak düzenlenmesi için lobi yaptığı da hatırlatıldı.
David Sacks, bu olayın Anthropic'in hükümetle daha önceki anlaşmazlıklarıyla ilişkilendirilmemesi gerektiğini, yönetimin şirketin teknolojisine değer verdiğini ve sorunun kolayca çözülebileceğini düşündüğünü belirtti.
Beyaz Saray'a yakın bir kaynak ise, Amazon'un bu güvenlik açığını hükümete bildirdiğini ve Amazon CEO'su Andy Jassy'nin konuyla ilgili yönetimle iletişim halinde olduğunu aktardı. Milyarlarca dolar yatırım yapan ve Anthropic'in bulut bilişim altyapısının önemli bir kısmını sağlayan Amazon, bu detayları doğrulamadı. Bir sözcü, hükümetlerin güvenlik riskleri konusunda kendilerinden sıkça danışmanlık aldığını ancak bu tür konuşmaları gizli tuttuklarını ifade etti.
Bu, Mythos'a erişimin ilk sızdırılması değil. Nisan ayında da benzer bir durum yaşanmış ve yetkisiz üçüncü taraflar, bir veri sızıntısından elde edilen bilgilerle kısıtlı modele erişim sağlamıştı. Anthropic'in kamuoyuna yönelik pozisyonu ise, bu güvenlik açığının sınırlı ve evrensel olmadığı yönünde. Şirket, bu durumun bir kod tabanını okuyarak yazılım hatalarını tespit etme isteğine benzediğini ve benzer sonuçların OpenAI'nin GPT-5.5'i de dahil olmak üzere diğer halka açık modellerle de elde edilebileceğini savunuyor. Anthropic, bu tür dar kapsamlı bir güvenlik açığının yüz milyonlarca insan tarafından kullanılan bir modelin geri çekilmesini gerektirmediğini belirtiyor. Ancak Sacks, bu görüşe katılmadığını ve bir siber silahın çalıştırılmasına olanak tanıyan bir güvenlik açığının ciddiye alınması gerektiğini savunuyor.
İddialara göre, Beyaz Saray'ın bu adımı kısmen, Çin bağlantılı bir grubun Mythos'a eriştiği şüphesinden kaynaklanıyor. Bu durum, modelin tersine mühendislikle kopyalanması veya özünün çıkarılması ihtimalini gündeme getiriyor. Anthropic sözcüsü ise Beyaz Saray'ın Fable güvenlik açığıyla ilgili konuşmalarında Çin'in Mythos'a erişimi konusunu gündeme getirmediğini ve Anthropic'in ürünlerine Çin içinden erişimi engellediğini belirtti.
Anthropic, ayrıca Pentagon ile otonom silah sistemlerinde modellerinin kullanımı konusunda yaşanan bir anlaşmazlık nedeniyle ayrı bir dava yürütüyor ve devletin eyalet düzeyindeki yapay zeka düzenlemelerini engelleme çabalarına karşı çıkıyor.
