Yapay zeka alanındaki en güncel rekabetin nabzını tutan MLPerf v5.1 test sonuçları açıklandı. Bu yeni raporda, yapay zeka çıkarım (inference) performansında zirveyi zorlayan NVIDIA Blackwell Ultra GB300 ve AMD Instinct MI355X gibi yeni nesil çipler dikkat çekiyor.
MLCommons tarafından yayımlanan son MLPerf v5.1 AI Inference testlerinde öne çıkanlar arasında NVIDIA'nın Blackwell Ultra GB300'ü, AMD'nin Instinct MI355X'i ve Intel Arc Pro B60 yer alıyor. GB300 ve MI355X, her iki firmanın da en güçlü yapay zeka çözümleri olması nedeniyle büyük ilgi görüyor. Bu çiplerin MLPerf testlerindeki performanslarına yakından bakalım.
DeepSeek R1 (Offline) testlerinde NVIDIA'nın GB300'ü etkileyici bir performans sergiliyor. 72 GPU'luk karşılaştırmada GB200'e kıyasla %45'lik bir performans artışı sunan GB300, 8 GPU'luk karşılaştırmada ise %44'lük bir iyileşme gösteriyor. Bu sonuç, NVIDIA'nın Blackwell Ultra ile vaat ettiği %50'lik performans artışına oldukça yakın.
DeepSeek R1 (Server) karşılaştırmasında ise 72 GPU'luk denemede %25, 8 GPU'luk denemede ise %21'lik bir performans kazancı gözlemleniyor.
Llama 3.1 405B (Offline) testine geldiğimizde ilk kez AMD Instinct MI355X ile bir karşılaştırma yapıyoruz. Bu testte GB200 ile karşılaştırılan MI355X, 8 GPU konfigürasyonu için bir sunum yapılmamış olsa da, yeni AMD Instinct platformunun %27'lik önemli bir artış sağladığı görülüyor.
Llama 2 70B (Offline) testinde ise AMD Instinct MI355X, 64 çiplik bir konfigürasyonda saniyede 648.248 token üretimi, 32 çiplik konfigürasyonda saniyede 350.820 token üretimi ve 8 çiplik konfigürasyonda saniyede 65.770 token üretimi gibi rakamlara ulaşıyor. Bu, NVIDIA GB200'ün (x8) konfigürasyonuna göre devasa bir, tam 2.09 katlık bir artış anlamına geliyor. Intel Arc Pro B60'ın bu testteki skoru saniyede 3.009 token olsa da, sunulan değere bakıldığında özellikle veri merkezi ve yüksek performanslı hesaplama (HPC) odaklı Blackwell Ultra ve AMD Instinct serisi çiplerle kıyaslandığında daha farklı bir değer önerisi sunduğu söylenebilir.
Bu sonuçlarla birlikte, NVIDIA'nın yeni Blackwell Ultra GB300 platformunu kullanarak elde ettiği çeşitli rekorlar ve tüm test sonuçları paylaşıldı.
NVIDIA'nın Blackwell Ultra'sı, MLPerf'teki ilk performansını sergilediği bu testlerde akıl yürütme (reasoning) alanında da rekorlar kırdı. Blackwell Ultra GPU'lar, offline karşılaştırmalarda Hopper platformuna göre 4.7 kat, server karşılaştırmalarında ise 5.2 kat daha yüksek skorlar elde etti.
Önümüzdeki MLPerf testlerinde NVIDIA, AMD ve Intel'in mevcut platformlarını daha da optimize ederek daha yüksek performans skorlarına ulaşmasını bekleyebiliriz. Bu rekabetin, yapay zeka teknolojilerinin gelişimine önemli katkılar sağlaması öngörülüyor.
