Teknoloji devi Intel, en yeni MLPerf Inference v6.0 kıyaslamalarını yayınlayarak yapay zeka çıkarım performansında önemli gelişmeleri gözler önüne serdi. Özellikle Intel Arc Pro B70 ve Arc Pro B60 GPU'ları, bu testlerde dikkat çekici sonuçlar elde etti.
Intel'den Yapay Zeka Optimizasyonları: Mevcut Arc Pro GPU'lar Yüzde 18 Hızlandı, Yeni Arc Pro B70 Yüzde 80 Fark Yarattı
MLCommons tarafından yayımlanan en güncel MLPerf Inference v6.0 kıyaslamaları, çeşitli GPU ve CPU'ların yapay zeka çıkarım performansını detaylı bir şekilde ortaya koyuyor. Bu sonuçlar, Intel için ayrı bir önem taşıyor çünkü yakın zamanda tanıtılan ve Big Battlemage çipini barındıran en yeni Arc Pro GPU'ları olan Arc Pro B70 ve Arc Pro B65'in ilk performans gösterimlerine sahne oldu.
Bugünkü testler, Intel'in Arc Pro B70 ve Arc Pro B65 GPU'larından oluşan ve toplamda 128 GB'a kadar VRAM kapasitesine sahip dörtlü bir sistem üzerinde gerçekleştirildi. Bu konfigürasyon, 120 milyar parametreli modelleri rahatlıkla çalıştırabiliyor. Sistemin, Intel'in en yeni Xeon 6 işlemcileriyle birlikte kullanılması, önceki amiral gemisi model olan Arc Pro B60'a (GPU başına 24 GB) kıyasla %80 daha yüksek çıkarım performansı sağladı.
Intel MLPerf v6.0 GPT-OSS-120B Çıkarım Kıyaslaması
Intel MLPerf v6.0 llama2-70b-99 Çıkarım Kıyaslaması
Intel MLPerf v6.0 llama3.1 8b Çıkarım Kıyaslaması
GPU'lar arasındaki bu muazzam performans farkının yanı sıra Intel, yaptığı yapay zeka yazılım optimizasyonlarıyla da mevcut GPU'larında, örneğin Arc Pro B60'ta %18'lik bir hızlanma elde etmeyi başardı.
GPU'lara ek olarak Intel, Xeon 6 işlemcilerini de MLPerf Inference v6.0 testlerine sundu. P-Çekirdekli en yeni Xeon 6 serisi, AMX ve AVX-512 gibi yerleşik özelliklerle nesil performansında %90'lık bir artış sağlıyor.
Intel'in mevcut GPU ve CPU'larını çıkarım işlemleri için optimize etmeye devam etmesi sevindirici bir gelişme ve bu durum MLPerf Inference v6.0 kıyaslamalarına da açıkça yansıyor. Arc Pro serisi, 32 GB VRAM ve bin doların altında sunduğu yüksek yapay zeka işlem gücü ile yapay zeka alanında oldukça güçlü bir seçenek olarak öne çıkıyor. GPU'ların yakın zamanda perakende satışa sunulması bekleniyor.