En yeni MLPerf Training 6.0 kıyaslama sonuçları açıklandı ve NVIDIA, Blackwell GPU'ları ile yine performans rekorları kırdı.
Blackwell GPU'lar, NVIDIA'nın Benchmark Listelerini Zirveye Taşımasıyla MLPerf 6.0'da Rakipleri Gölgede Bıraktı
MLCommons tarafından paylaşılan en güncel MLPerf Training v6.0 kıyaslama sonuçları, büyük ölçekli ve giriş seviyesi yapay zeka dağıtımları için iki yeni MoE testini içeriyor: DeepSeek V3 (671 milyar parametre) ve GPT-OSS 20B (21 milyar parametre). Açık kaynaklı ve hakem denetimli bir kıyaslama paketi olan MLPerf, tüm satıcıların en yeni ve en gelişmiş donanımlarının sonuçlarını listelemelerine olanak tanıyor. NVIDIA uzun süredir bu alanda hakimiyetini sürdürüyor ve bu eğilim devam ediyor.
NVIDIA, önümüzdeki aylarda yapay zeka destekli Vera Rubin platformunu piyasaya sürmeye hazırlanırken, mevcut nesil Blackwell mimarileri, özellikle GB300 NVL72 sistemleri, rakipsiz bir potansiyel sergiliyor. En son sonuçlarda NVIDIA şunları gösteriyor:
- Her kıyaslamada en hızlı eğitim süresi
- NVIDIA Blackwell NVL72 sistemlerini kullanarak 8.192 GPU'da en büyük ölçekli eğitim
- Paketteki tüm yedi kıyaslamada gönderimi olan tek platform
Kıyaslama sonuçlarına gelince, NVIDIA her birinde en hızlıydı ve MLPerf 6.0'daki tüm kıyaslamalara sonuç gönderen tek oyuncu oldu.
Referans olarak, NVIDIA'nın Blackwell platformları olağanüstü hızlara ulaştı. NVIDIA'nın 4.46 dakikada tamamladığı bir görevi, en yakın rakibi 58.63 dakikada tamamlayabildi. Bu, 13.1 katlık bir zaman farkı demek. Ve en yeni kıyaslamalarda ise rakipler benchmark sonuçlarını hiç göndermedi.
Bu arada NVIDIA, mevcut mimarilerinin performansını ek optimizasyonlarla artırmaya devam ediyor. Blackwell GB200 zaten lansmanından çok daha hızlı olsa da, GB300 sistemleri, NVFP4'ün daha yüksek yapay zeka hesaplama yoğunluğu sayesinde aynı NVL72 konfigürasyonunda %60'a kadar daha hızlı çalışıyor.
Blackwell mimarisi ayrıca, Llama 3.1 405B üzerinde Microsoft Azure'da çalışan 8192 GPU'dan oluşan en son MLPerf Eğitim kümesini sunacak şekilde ölçeklendi. Sistem, bu kıyaslamadaki en hızlı eğitim süresi olan 7.07 dakikada kalite hedefine ulaştı.
- Microsoft Azure, GB200 NVL72 sistemlerini kullanarak Llama 3.1 405B eğitimini 8.192 GPU'ya kadar ölçeklendirdi ve bu kıyaslama için en hızlı eğitim süresi olan 7.07 dakikada referans kalite hedefine ulaştı.
- CoreWeave, GB300 NVL72 sistemlerini Spectrum-X Ethernet ağı ile bağlayarak 8.192 GPU ölçeğinde kalite hedefine 2.02 dakikada ulaşarak DeepSeek-V3 671B için en hızlı eğitim süresini sağladı.
Son olarak, NVIDIA Blackwell GPU'larının AMD'nin en yeni MI300 serisi (MI355X'e kadar) teklifleriyle karşılaştırmasını sunmak istedik.
DeepSeek v3 671b'de NVIDIA tek başına hakim güç durumunda ve rakipler tek bir benchmark sonucu bile göndermedi.
Flux1'de, 32 adet NVIDIA GB300 GPU, 512 adet MI300X ve 64 adet MI320X hızlandırıcısından daha hızlı sonuç veriyor. Daha yeni MI350 serisi için herhangi bir gönderim yapılmadı.
Llama 2 70b'de, NVIDIA'nın GB300 ve GB200 8 hızlandırıcılı sistemleri rakiplerinden daha iyi performans gösteriyor.
Son olarak, Llama 3.1 8b'de NVIDIA aynı sayıda hızlandırıcıda daha fazla performans sunmaya devam ediyor ve ölçeklendirme yapılarıyla bu performansın ötesine geçiyor.
İster devasa ölçeklerde ister mütevazı konfigürasyonlarda olsun, NVIDIA sürekli olarak rakiplerinden daha iyi performans gösterdi, çoğu zaman rakiplerinin gönderemeyeceği sonuçlar elde etti. Sürekli yazılım optimizasyonları ve ufukta beliren Vera Rubin platformu ile NVIDIA'nın yapay zeka eğitimindeki liderliği her zamankinden daha güçlü.
