Çinli teknoloji devi Huawei, yapay zeka pazarının lideri Nvidia'ya karşı geliştirdiği iddialı sistemiyle dikkatleri üzerine çekiyor. Şirketin yeni yapay zeka kümesi CloudMatrix 384'ün, belirli testlerde Nvidia'nın bazı güçlü işlemcilerini geride bıraktığı öne sürülüyor.
Huawei ve bir yapay zeka girişimi iş birliğiyle yayımlanan bir teknik makale, Ascend 910C çiplerinden oluşan CloudMatrix 384 kümesinin, DeepSeek R1 gibi büyük dil modellerini (LLM) çalıştırma konusunda Nvidia'nın H800 ve hatta H100 işlemcilerini geride bıraktığını iddia ediyor. Özellikle Çin pazarı için tasarlanan H800 ve güçlü H100'e karşı elde edildiği söylenen bu başarı, Huawei'nin bu alandaki ilerlemesini gösteriyor.
ABD'nin çip üretimindeki en ileri teknolojilere erişimini kısıtladığı Huawei, bu zorluğu aşmak için adeta 'kaba kuvvet' yöntemini benimsemiş gibi görünüyor. CloudMatrix 384 sistemi, 16 sunucu rafına yayılmış devasa bir yapı. Bu sistemde 384 adet çift çipletli HiSilicon Ascend 910C NPU (Yapay Zeka İşlemcisi) ve 192 adet CPU (Merkezi İşlem Birimi) bir araya getiriliyor. Sunucular arası tüm iletişimde optik bağlantılar kullanılması, veri aktarımının son derece hızlı olmasını sağlıyor.
Yayımlanan makalede Huawei'nin CM384 ile amacının "yapay zeka altyapısının temellerini yeniden şekillendirmek" olduğu belirtiliyor. Bir şirket yetkilisi de makalenin, yerli teknoloji ekosisteminde Çin'de geliştirilen NPU'ları kullanarak Nvidia'nın GPU'larını (Grafik İşlem Birimi) geride bırakma konusunda "güven inşa etmek" amacıyla yayımlandığını ifade ediyor.
Kağıt üzerinde CloudMatrix 384 kümesi, Nvidia'nın GB200 NVL72 sistemiyle karşılaştırıldığında daha yüksek ham işlem gücü sunabiliyor. Huawei'nin sistemi BF16 hesaplamada 300 PFLOPs sunarken, NVL72'nin değeri 180 BF16 PFLOPs olarak belirtiliyor. Huawei'nin CloudMatrix-Infer LLM çözümü adlı yazılımının da prompt doldurma ve yanıt üretme hızlarında Nvidia'nın SGLang çerçevesine kıyasla daha verimli olduğu öne sürülüyor.
Ancak CloudMatrix 384'ün önemli bir dezavantajı var: güç tüketimi ve verimlilik. Nvidia'nın GB200 NVL72'sine göre yaklaşık dört kat daha fazla güç tüketiyor. CM384 toplamda 559 kW enerji harcarken, NVL72'nin tüketimi 145 kW civarında. Daha fazla çipi bir araya getirmek ham gücü artırsa da, verimlilik yaklaşık 2.3 kat daha düşük kalıyor.
Öte yandan, Çinli müşteriler Nvidia destekli yapay zeka kümelerine erişimde kısıtlamalarla karşılaşıyor. Bu nedenle, güç tüketimi dezavantajına rağmen Huawei'nin sistemi onlar için çekici bir seçenek sunabilir. Ayrıca Çin'de enerji fiyatlarının son yıllarda düştüğü de biliniyor.
Nvidia CEO'su Jensen Huang'ın da daha önce belirttiği gibi, çip bazında bakıldığında Nvidia'nın teknolojisi Huawei'den genel olarak bir nesil ileride. Ancak Huang'ın da altını çizdiği gibi "Yapay zeka paralel bir problem, yani bilgisayarların her biri çok güçlü olmasa bile... sadece daha fazla bilgisayar ekleyin." Bu da Huawei'nin CloudMatrix ile izlediği stratejinin, belirli kısıtlamalar altında bile rekabetçi sonuçlar doğurabileceğini gösteriyor.
