Teknoloji dünyası, yapay zeka alanındaki gelişmelerle nefes kesici yeniliklere tanıklık etmeye devam ediyor. Bu alanda yapılan çalışmaların merkezinde yer alan işlemciler, performanslarıyla öne çıkıyor. Son olarak, NVIDIA'nın Vera CPU'su, özellikle Agentic AI iş yüklerinde sergilediği üstün çekirdek performansıyla dikkatleri üzerine çekti.
Agentic AI Benchmark Testlerinde NVIDIA Vera CPU, AMD EPYC'i Geride Bıraktı!
Yapay zeka tarafından üretilen kodların çalıştırılması ve agent (aracı) iş akışları için özel olarak tasarlanmış bir platform olan Daytona, en son karşılaştırmalı test sonuçlarını paylaştı. Bu testlerde, NVIDIA Vera CPU'nun performansı, AMD EPYC "Zen 5" işlemcilerle kıyaslandı. Sonuçlar, Vera'nın agent odaklı sanal ortamlarda sunduğu avantajları gözler önüne seriyor.
Agentic AI iş akışlarının, güçlü CPU altyapısına büyük ölçüde bağımlı olduğu bilinen bir gerçek. GPU'lardan CPU'lara doğru yaşanan bu kayma, Agentic AI'ın yükselişiyle birlikte önemli bir boyut kazandı. Dosya sistemleri, bağımlılıklar, kabuk komutları ve testler gibi unsurları içeren iş yüklerinin yeni yapay zeka pazarında merkezde yer almasıyla birlikte, CPU'ların hızlı, verimli ve bu tür iş akışlarını destekleyecek şekilde tasarlanması büyük önem taşıyor.
NVIDIA Vera CPU, baştan sona yapay zekayı göz önünde bulundurarak tasarlandı ve bu durum, yapılan benchmark testlerinde de açıkça görülüyor. Daytona ekibi, işlemcilerin performansını, farklı sanal ortamlarda (sandbox) aynı kodlama ajanı görevini çalıştırarak ölçtü. Bu testlerde, CPU'ların yalnızca çok sayıda sanal ortamı desteklemesi değil, aynı zamanda bu ortamları hızlı bir şekilde başlatabilmesi de kritik öneme sahip.
Testlerde, NVIDIA Vera CPU, saniyede 13.3 tamamlanmış ajan işiyle zirveye ulaştı. Daha da önemlisi, 10 saniyede (10.8 saniye) 1000 sanal ortamı ve sadece 27 saniyede 2000 sanal ortamı çevrimiçi hale getirebildi. Karşılaştırma yapmak gerekirse, AMD'nin EPYC "Zen 5" işlemcisi, 1000 sanal ortamı 88 saniyede çevrimiçi hale getirebildi. Bu, sanal ortamların çevrimiçi hale gelme süresinde 8 katlık bir hızlanma anlamına geliyor.
Vera'nın daha hızlı çekirdek performansının öne çıktığı nokta burası. Karşılaştırmada kullanılan temel AMD EPYC Zen 5 işlemcisi EPYC 9755'ti ve bu işlemci 1000 sanal ortamı 88.4 saniyede çevrimiçi hale getirdi. Daha yüksek frekansa sahip olan EPYC 9575F modeli ise aynı işlemi 32.3 saniyede gerçekleştirebildi.
AMD, daha hızlı saat hızına sahip bir işlemciyle daha yüksek performans elde edebilmiş olsa da, Vera mimarisinin çekirdek performansının Zen 5 mimarisinin önünde olması sayesinde liderliğini korudu. Vera CPU, 2000 sanal ortamı, Zen 5'in 1000 sanal ortamı başlatmasından daha kısa sürede çevrimiçi hale getirebiliyor, bu da devasa bir hızlanma demek.
Şu ana kadar paylaşılan performans metrikleri şu şekilde:
- EPYC 9575F: Saniyede yaklaşık 8 ajan işi
- EPYC 9755: Saniyede yaklaşık 11 ajan işi
- NVIDIA Vera: Saniyede 13.3 ajan işine ulaşıyor ve 2.000 sanal ortamda bile 13 civarında seyrediyor
Daytona tarafından paylaşılan bir diğer ilginç metrik ise makine başına verimlilik. Bu metrik, bu tür iş yüklerini sürdürmek için gereken makine sayısını kapsıyor. Saniyede 1000 işi tamamlamak için NVIDIA'nın Vera platformu, EPYC 9755'ten %15 daha az, EPYC 9575F CPU'dan ise %38 daha az makine gerektiriyor.
Bu durum, Vera'nın daha az sunucu, daha düşük güç tüketimi, daha az soğutma ve büyük ölçekli yapay zeka fabrikalarının kurulum maliyetlerinin azaltılmasıyla şirketlerin daha fazlasını daha azla yapabilmesini sağlayarak toplam sahip olma maliyetini (TCO) düşürdüğü anlamına geliyor. Alternatif olarak, rakiplerle aynı altyapı harcamasıyla daha yüksek verimlilik elde edilebilir.
Ajanlar, altyapıyı bir yoğunluk sorununa dönüştürüyor: her biri kendi dosya sistemine, araçlarına ve ortamına ihtiyaç duyuyor. Bu ortamların binlerce kez oluşturulması ve paylaşılan donanımlarda üretken tutulması gerekiyor.
Bu ölçütte NVIDIA Vera öne çıktı. 1.000 Daytona sanal ortamını 10.8 saniyede, 2.000 sanal ortamı ise 27.4 saniyede çevrimiçi hale getirdi ve ardından 2.000 eşzamanlı sanal ortamda bile saniyede yaklaşık 13 tamamlanmış ajan işine yakın bir performans sürdürdü. Bu, aynı iş hacmi için EPYC 9755'ten yaklaşık %15 ve 9575F'den ise yaklaşık %38 daha az makine anlamına geliyor.
