Intel, yapay zeka alanındaki gücünü bir kez daha gözler önüne serdi. Yakın zamanda duyurulan Project Battlematrix iş istasyonu, Intel Arc Pro B60 GPU'lar ile MLPerf v5.1 testlerinde NVIDIA'ya karşı şaşırtıcı bir performans artışı elde etti. Özellikle performans/maliyet oranında Intel, rakibini geride bırakmayı başardı.
MLCommons tarafından yayınlanan en güncel MLPerf Inference v5.1 test sonuçları, Intel'in GPU sistemlerinin dikkat çekici başarısını ortaya koyuyor. Intel Xeon P-çekirdekli işlemciler ve Intel Arc Pro B60 grafik kartlarıyla güçlendirilen ve Project Battlematrix kod adıyla bilinen bu iş istasyonları, yapay zeka çıkarım (inference) görevlerinde iddialı sonuçlara imza attı.
Llama 8B gibi önemli yapay zeka modellerinde yapılan testlerde, Intel Arc Pro B60'ın performans/maliyet oranı, NVIDIA RTX Pro 6000 ve L40S'e kıyasla sırasıyla 1.25 kata ve 4 kata kadar daha yüksek çıktı. Bu sonuçlar, özellikle yüksek performans gerektiren iş istasyonları ve kenar uygulamalardaki yapay zeka çıkarım iş yükleri için Intel platformunun sunduğu performansı ve erişilebilirliği vurguluyor.
Bu durumun önemi, yüksek çıkarım performansı sunarken veri gizliliğinden ödün vermek istemeyen veya pahalı abonelik modellerine bağlı kalmak istemeyen profesyoneller için yeni bir alternatifin ortaya çıkmasıyla daha da belirginleşiyor. Özellikle büyük dil modellerini (LLM) dağıtma ihtiyacı duyanlar için bu gelişmeler büyük önem taşıyor.
Project Battlematrix kod adlı Intel GPU sistemleri, modern yapay zeka çıkarım ihtiyaçlarını karşılamak ve tam yığın doğrulanmış donanım ve yazılımı bir araya getiren hepsi bir arada bir çıkarım platformu sunmak üzere tasarlandı. Intel GPU sistemleri, Linux ortamları için optimize edilmiş yeni bir konteynerli çözümle kullanım kolaylığı ve basitlik sunmayı hedefliyor. Çoklu GPU ölçeklendirme ve PCIe P2P veri transferleri ile olağanüstü çıkarım performansı sunarken, ECC, SRIOV, telemetri ve uzaktan firmware güncellemeleri gibi kurumsal düzeyde güvenilirlik ve yönetilebilirlik özellikleri de barındırıyor.
İşlemciler, yapay zeka sistemlerinde kritik bir rol oynamaya devam ediyor. Orchestration merkezi olarak işlemci, ön işleme, iletim ve genel sistem koordinasyonunu üstleniyor. Intel'in son dört yılda işlemci tabanlı yapay zeka performansındaki sürekli iyileştirmeleri, Intel Xeon'u GPU destekli sistemlerde yapay zeka iş yüklerini barındırma ve yönetme konusunda tercih edilen işlemci konumuna taşıdı. Intel, aynı zamanda MLPerf testlerine sunucu işlemci sonuçları gönderen tek tedarikçi olarak, hem işlemci hem de hızlandırıcı mimarilerinde yapay zeka çıkarım yeteneklerini hızlandırma konusundaki liderliğini ve derin bağlılığını gösteriyor. Özellikle, P-çekirdekli Intel Xeon 6, MLPerf Inference v5.1'de nesilden nesile 1.9 kat performans artışı elde etti.
