NVIDIA, MLPerf Inference v6.0 kıyaslamalarına katılan ilk şirketlerden biri olarak, rakiplerini geride bırakan ezici bir performans sergiledi. Şirketin Blackwell Ultra tabanlı çözümleri, yapay zeka işleme gücünde yeni rekorlar kırdı.
NVIDIA Blackwell Ultra ve Üstün Tasarım Bütünlüğü MLPerf v6.0'da Zirvede
Hesaplama platformlarının yeteneklerini sergilemek ve kıyaslama sonuçlarını duyurmak söz konusu olduğunda, NVIDIA her zaman ön saflarda yer aldı. Özellikle MLPerf yarışmalarında, şirketin titiz test süreçlerini başarıyla tamamlayan nadir firmalardan biri olması dikkat çekiyor. En son blog yazısında NVIDIA, MLPerf v6.0'a yaptığı en son başvuruyu değerlendirerek, Blackwell Ultra ve gelişmiş tasarım bütünlüğü sayesinde "en yüksek yapay zeka fabrikası verimliliğini ve en düşük token maliyetini" elde ettiğini belirtti. Yapay zeka öğrenme testlerindeki galibiyetleri, en yakın rakibinin dokuz katına ulaşarak şirketin altyapıdaki liderliğini açıkça ortaya koyuyor.
Yeni Inference v6.0 sürümüyle birlikte MLCommons ekibi, DeepSeek-R1, GPT-OSS-120B ve Mixtral 8x7B gibi daha yeni akıl yürütme ve MoE modelleri için destek ekledi. Aynı zamanda, bu sürüm yoğun LLM'ler, üretken öneri sistemleri ve görüntü-dil modellerine de odaklanarak, kıyaslamanın günümüz kurumsal gereksinimlerinde yaygın olarak kullanılan daha geniş bir iş yükü yelpazesini hedeflediğini gösteriyor. Bu durum, NVIDIA CEO'sunun MLPerf'i en "yoğun" kıyaslama setlerinden biri olarak tanımlamasının ve NVIDIA'nın bu alanda baskın olmasının nedenlerinden biri olarak görülebilir. İşte NVIDIA'nın elde ettiği sonuçlar ve bu sonuçlardaki ilginç ayrıntılar.
Sonuçlar, GPU başına token/saniye rakamlarında önemli bir fark göstermekle kalmıyor, aynı zamanda NVIDIA'nın avantajının yazılım optimizasyonlarından da kaynaklandığını ortaya koyuyor. Bu nedenle, birkaç ay önce DeepSeek-R1 kıyaslamasında yapılan ilk başvurudan bu yana, NVIDIA donanım değişikliği yapmadan %270 daha yüksek token verimliliği elde etti. Donanım düzeyinde ise GB200 NVL72 ile karşılaştırıldığında, NVIDIA v6.0 ile 2,77 kat daha hızlı bir sonuç elde ediyor. Bu da, nesil yükseltmelerinin MLPerf v6.0 gibi agresif kıyaslamalarda bile tutarlı ve belirgin olduğunu gösteriyor.
NVIDIA, geçen yıl MLPerf Inference'a DeepSeek-R1 sonuçlarını gönderen tek şirket olduğunu iddia ediyor ve donanımı daha da sıkı bir şekilde inceleyen yeni sürümde Blackwell Ultra ile elde edilen liderliği koruyor.
NVIDIA'nın donanımıyla neler başardığı konusunda şeffaf olma yaklaşımı, şirketin geliştirici topluluğu tarafından takdir edilmesinin nedenlerinden biridir. MLPerf genel olarak agresif bir test setidir, bu nedenle birçok ASIC üreticisi ve hatta AMD, kıyaslama sürecine NVIDIA kadar kapsamlı katılmamıştır. Aynı zamanda, Inference v6.0 testleri, token/dolar ve büyük ölçekli dağıtımlar için toplam sahip olma maliyeti (TCO) rakamlarıyla kanıtlandığı üzere, NVIDIA'nın müşterilerine mümkün olan en iyi donanımı sağlama anlatısını da destekliyor.
