Yapay zeka alanında büyük ilerlemeler kaydeden Huawei, ilk kez rack-scale kümesi CloudMatrix'i gözler önüne sererek devasa bir başarıya imza attı.
Huawei'nin Yapay Zeka Kümesi, GB200'den 2 Kat Daha Yüksek FP16 Performansı Sunuyor, Ancak Bedeli Ağır
Çinli yapay zeka firmaları NVIDIA'nın çözümleriyle rekabet ederken, Huawei hem performans hem de bulunabilirlik açısından şüphesiz ön saflarda yer alıyor. Şirket, özellikle "Ascend" serisi yapay zeka hızlandırıcılarıyla daha popüler hale geldi. Ancak Huawei yakın zamanda rack-scale çözümlerine de genişleyerek büyük bir etki yarattı. Çinli firma, NVIDIA'nın üst düzey donanımıyla rekabet etmeyi başardı ve bu durum NVIDIA CEO'sunun bile endişelenmesine neden oldu.
CloudMatrix 384 içsel olarak tartışılmış olsa da, Huawei bugüne kadar kamuoyuna sunmamıştı. Şanghay Dünya Fuar Merkezi'nde düzenlenen WAIC konferansında Huawei, CloudMatrix kümesini ilk kez "Atlas 900 A3 Superpod" adıyla tanıttı. Özellikler açısından bakıldığında, CloudMatrix 384 (CM384) yapay zeka kümesi, "all-to-all topology" (tümüne-tüm bağlantı) konfigürasyonunda birbirine bağlanmış 384 adet Ascend 910C çip içeriyor.
İlginç bir şekilde, Huawei, NVIDIA'nın GB200'ünden beş kat daha fazla Ascend çipi barındırarak mimari kusurları kapatmayı başarmış. Bir CloudMatrix kümesinin, GB200 NVL72'den neredeyse iki kat daha yüksek olan 300 PetaFLOPS BF16 hesaplama gücü sunduğu belirtiliyor. Ancak buradaki tek dezavantaj, CloudMatrix 384'ün tüketmesi beklenen güç miktarı; bu değerin GB200 NVL72'nin güç tüketiminin 3.9 katı olduğu ve yapay zeka iş yüklerinde "korkunç" performans/watt rakamları sunduğu söyleniyor.
Tek bir CloudMatrix 384 yapay zeka kümesinin fiyatının 8 milyon dolar olduğu iddia ediliyor. Bu rakam, NVIDIA'nın GB200 NVL72 konfigürasyonundan neredeyse üç kat daha fazla. Dolayısıyla Huawei'nin ürününün temel amacı maliyet-etkin performans sunmak değil, yerel kaynaklarla üretilmiş ve Batı alternatifleriyle rekabet edebilecek kadar yetenekli bir ürün sağlamaktır. Bu özel çözüm, NVIDIA CEO'su Jensen Huang tarafından da doğrulanmış olup, Huawei'nin Grace Blackwell sistemleriyle rekabet etmeyi başardığını belirtmiştir.
