Yapay zeka alanında yaşanan gelişmeler hız kesmeden devam ederken, NVIDIA'nın Blackwell GB200 NVL72 yapay zeka sunucuları, özellikle Uzmanlar Karışımı (MoE) mimarilerinde AMD'nin Instinct MI355X modeline kıyasla dikkat çekici bir performans sıçraması yaptı.
Yapay zeka modelleri giderek artan bir şekilde Uzmanlar Karışımı (MoE) odaklı bir hale geliyor. Bu yaklaşım, bilgi işlem kaynaklarının daha verimli kullanılmasını sağlarken, yoğun modellerle kıyaslandığında büyük ölçeklerde ciddi bir hesaplama darboğazı oluşturabiliyor. MoE mimarisi, ayrı ayrı çalışan 'uzman' alt ağları sayesinde, düğümler arasında muazzam bir iletişim ve veri aktarımı gerektiriyor. Bu durum, gecikme sorunlarına ve bant genişliği baskısına yol açıyor. Büyük veri merkezleri, en iyi performans-maliyet oranını sunan çözümleri ararken, yapılan bir analizlere göre NVIDIA'nın GB200 NVL72, MoE mimarileri için öne çıkan seçenek haline geldi.
Yapılan değerlendirmelerde, NVIDIA'nın Blackwell yapay zeka sunucularının, benzer küme yapılandırmalarında AMD'nin MI355X modeline kıyasla GPU başına 28 kat daha yüksek işlem hacmi (saniyede 75 token) sağladığı belirtiliyor. Bu performans farkının ardında yatan neden ise NVIDIA'nın geliştirdiği 'eş-tasarım' yaklaşımı yatıyor. Bu yaklaşım, GB200 ile birlikte 72 çekirdekli konfigürasyonu ve 30 TB hızlı paylaşımlı belleği kullanarak, MoE yapay zeka modellerindeki performans darboğazlarını aşmayı hedefliyor. Bu sayede NVIDIA, uzman paralelliğini yepyeni bir seviyeye taşıyor.
Yapay zeka ekonomisi açısından, hangi mimarinin daha iyi toplam sahip olma maliyeti (TCO) rakamları sunduğu önemli bir faktör. Yapılan bir araştırmaya göre, NVIDIA'nın GB200 NVL72 sunucuları, daha yüksek etkileşim oranıyla token başına yaklaşık 15'te 1 oranında daha düşük bir maliyet sunarak, NVIDIA'nın donanım yığınının bu kadar yaygın olarak benimsenmesinin nedenlerinden birini açıklıyor. NVIDIA, yıllık ürün döngüsüyle her yeni yapay zeka alanında (çıkarım, ön doldurma, kod çözme ve daha fazlası) hakimiyetini sürdürerek liderliğini koruyor.
Bu rakamlar, yapay zeka alanındaki AMD ve NVIDIA rekabetinin tam bir resmini sunmasa da, AMD'nin henüz yeni nesil sunucu ölçekli çözümlerini tanıtmadığı unutulmamalıdır. MI355X Instinct çözümleri, yüksek HBM3e kapasitesi sayesinde oldukça yoğun ortamlarda rekabetçi bir seçenek olarak biliniyor. Ancak, yalnızca MoE performansında NVIDIA şu anda açık ara lider durumda. Gelecekteki sunucu ölçekli çözümlerle rekabetin daha da artması bekleniyor.
