Yürütülen araştırmalar, Çin'de siyasi olarak hassas veya yasaklanmış konulara yönelik yapay zeka modellerinin ürettiği kodların kalitesinde ciddi düşüşler yaşanabileceğini gösteriyor. ABD merkezli güvenlik firması CrowdStrike'ın yaptığı testlerde, DeepSeek yapay zekasının, İslam Devleti gibi gruplar için ürettiği kodlarda normalden neredeyse iki kat daha fazla hata tespit edildiği belirtildi. Rapora göre, bu durumun Falun Gong, Tibet ve Tayvan gibi diğer hassas konular için de geçerli olabileceği düşünülüyor.
Araştırmanın öne çıkan bulgularından biri, DeepSeek'in endüstriyel kontrol sistemleri için ürettiği kodlarda normalde %22,8 oranında hata görülürken, İslam Devleti projesi taleplerinde bu oranın %42,1'e yükseldiği yönünde. Hatta bazı durumlarda, DeepSeek'in bu tür gruplar için kod üretmeyi tamamen reddettiği de gözlemlenmiş. Yasaklı gruplara yönelik kod üretiminde bu tür temerrüt oranlarının %61 (İslam Devleti) ve %45 (Falun Gong) seviyelerine çıktığı raporlanıyor.
Ancak, DeepSeek'in bu tür kuruluşlar için ürettiği kodların kalitesindeki düşüş bazı çevrelerce şaşkınlıkla karşılanıyor. Bu durumun, yapay zeka modellerinin hassas konulara yaklaşımını ve güvenlik politikalarını sorgulatacağı düşünülüyor.
Tibet ve Tayvan gibi bölgeler için üretilen kodların kalitesindeki düşüşün nedenleri tam olarak netleşmese de, İslam Devleti için üretilen kodlara kıyasla daha az hata içerdiği belirtiliyor.
Neler Oluyor? Olası Teoriler
Yapılan analizlere göre, DeepSeek'in bu tür durumlarda hatalı kod üretmesinin ardında çeşitli nedenler yatıyor olabilir. Bir teoriye göre, bu durum, rakiplerin faaliyetlerini yavaşlatmak ve ilerleyen dönemlerde siber saldırılar için daha geniş bir yüzey alanı oluşturmak amacıyla kullanılan daha az belirgin bir sabotaj yöntemi olabilir.
Başka bir olasılık ise, testlerde en güvenli kodların Amerikan müşterileri için üretilen projelerde bulunmasıdır. Bu durum, DeepSeek'in ABD pazarını hedeflediği ve bu pazara daha fazla odaklandığı şeklinde yorumlanabilir.
Ayrıca, kod kalitesinin hedef pazara göre farklılık göstermesinin, modelin mevcut bölgesel materyallerle eğitilmesinden kaynaklanabileceği de düşünülüyor. Örneğin, ABD'deki kodlama uzmanları için daha fazla eğitim kaynağı bulunurken, Tibet gibi bölgelerde bu kaynakların sınırlı olabileceği ihtimali değerlendiriliyor.
Son olarak, DeepSeek'in kendi inisiyatifiyle, 'isyankâr' olarak tanımladığı varlıklara veya bölgelere daha fazla hata barındıran kodlar sağlıyor olabileceği de bir hipotez olarak sunuluyor. Bu teorilerin hiçbiri henüz kesinleşmiş olmasa da, yapay zeka şirketinin Pekin ile olan güçlü bağları dikkat çekiyor. Hatta geçtiğimiz ağustos ayında, şirketin Nvidia yerine Huawei donanımlarıyla model eğitime başladığı ve bu geçişin donanım sorunları nedeniyle gecikmelere yol açtığına dair haberler çıkmıştı.
