Yatırım bankası Morgan Stanley'e göre, NVIDIA'nın Blackwell GPU'ları ile bir veri merkezi kurmanın maliyeti, Google ve Amazon'un özel yapım yapay zeka çiplerine kıyasla iki katına çıkmasına rağmen, NVIDIA çiplerinin sunduğu hesaplama gücü verimliliği bu farkı kapatıyor. NVIDIA'nın en yeni yapay zeka GPU'larının yüksek maliyetleri piyasada önemli bir tartışma konusu olurken, CEO Jensen Huang defalarca yaptığı açıklamalarda çiplerinin pahalı olmasına rağmen uzun vadede daha fazla getiri sağladığını vurguluyor.
NVIDIA'nın Watt Başı Hesaplama Performansı Özel Yapım Yapay Zeka Çiplerinin 8 Katına Kadar İleride
Morgan Stanley, son analizlerinde NVIDIA'nın çeşitli yapay zeka GPU'larının Watt başına TFLOPS (Saniyede Trilyon Kayan Nokta İşlemi) performansını, Amazon ve Google tarafından sunulan özel yapım yapay zeka ASIC'leri ile karşılaştırıyor. Analizlere göre, büyük ölçekli teknoloji şirketlerinin (hyperscalers) NVIDIA'nın Blackwell yapay zeka GPU'ları ile bir gigawatt'lık bir veri merkezi kurmak için yapacakları sermaye harcaması, Google'ın tensor işlem birimleri (TPU'ları) veya Amazon'un Trainium çipleri ile aynı veri merkezini kurmaya kıyasla iki katına çıkıyor.
Ancak, Morgan Stanley, NVIDIA çiplerine yatırım yapmanın, daha yüksek hesaplama gücü verimliliği sundukları için harcanan paraya değdiğini ekliyor. Morgan Stanley'in tahminlerine göre, NVIDIA çiplerinin Watt başına performansı, özel yapım ASIC'lerin "2 ila 8 katı ileride".
NVIDIA'nın Rubin Çipleri Özel Yapım Yapay Zeka Çiplerinden Anlamlı Oranda Daha İyi Performans Gösteriyor
Yatırım bankasının raporuna eşlik eden slayt, NVIDIA'nın Vera Rubin (FP4), Vera Rubin (FP8), GB300 (FP8) ve H100 (FP8) yapay zeka GPU'larının Watt başına TFLOPS performansını hesaplıyor. Listenin en üst performans gösteren GPU'sunun Vera Rubin (FP4) olduğu görülüyor ve puanı 19.5 olarak kaydedilmiş. Diğer çiplerin puanları ise sırasıyla 6.8, 6.0 ve 3.1 olarak yer alıyor. Öte yandan, Google'ın TPUv7 (FP8) ve Trn3 (FP8) çiplerinin Watt başına TFLOPS değerleri sırasıyla 4.3 ve 2.5 olarak belirlenmiş. Bu değerler, söz konusu çiplerin performansının Blackwell ve Hopper nesli GPU'lar arasında yer aldığını veya Hopper çiplerinin altında kaldığını gösteriyor.
NVIDIA'nın çipleri Watt başına en yüksek performansı sunarken, kullanıcılar farklı metrikleri de dikkate almaya başlıyor. Örneğin, yapay zeka altyapısı sağlayıcısı Nebius'tan bir uzmana göre, yapay zeka çiplerinin maliyetleri, üretilen milyonlarca token başına maliyet ve bir GPU'yu çalıştırmanın saatlik maliyeti üzerinden de değerlendiriliyor. Nebius'un tahminlerine göre, Groq'un yapay zeka çiplerinin token başına maliyeti beş ila on sent arasında değişirken, NVIDIA'nın Blackwell çiplerinin maliyeti token başına 25 sent seviyesinde. Ayrıca Groq çiplerinin saniyede 800 tokene kadar çıktı sağlayabildiği, bu rakamın NVIDIA çiplerinin saniyede 450 tokenlik hızından önemli ölçüde yüksek olduğu belirtiliyor.
