Yapay zeka (YZ) alanındaki donanım rekabeti hız kesmeden devam ederken, Morgan Stanley'den gelen yeni bir analiz NVIDIA'nın GB200 NVL72 platformunun üstünlüğünü gözler önüne serdi. Yapılan değerlendirmelere göre, NVIDIA'nın bu gelişmiş sistemi, büyük ölçekli yapay zeka fabrikaları için benzersiz bir verimlilik ve karlılık sunuyor.
GB200 NVL72, her biri 72 adet NVIDIA B200 GPU ve 36 adet Grace CPU'yu içeren, yüksek hızlı NVLink 5 ara bağlantı teknolojisiyle donatılmış yapay zeka sunucu raflarından oluşuyor. Mevcut verilere göre, bu rafların maliyeti yaklaşık 3.1 milyon dolar civarında seyrederken, önceki nesil H100 rafları yaklaşık 190.000 dolara mal oluyor.
Ancak Morgan Stanley, bu başlangıç maliyetlerinin ötesinde, NVIDIA'nın GB200 NVL72 platformunun uzun vadede çok daha ekonomik bir tercih olduğunu savunuyor. Analizler, 100 MW'lık bir yapay zeka fabrikasında NVIDIA GB200 NVL72'nin %77.6 gibi dikkat çekici bir kar marjı sağladığını gösteriyor. Bu alanda ikinci sırayı ise %74.9 kar marjı ile Google'ın TPU v6e podları alıyor.
İlginç bir şekilde, Morgan Stanley'in hesaplamalarına göre, AMD'nin MI300 ve MI355 platformlarını kullanan yapay zeka fabrikaları sırasıyla %-28.2 ve %-64 gibi negatif kar marjlarına sahip.
Morgan Stanley'in raporu, 100 MW'lık bir yapay zeka veri merkezinin toplam altyapı maliyetini yaklaşık 660 milyon dolar olarak hesaplıyor ve bu maliyetin 10 yıl üzerinden amorti edildiğini varsayıyor. GPU maliyetleri ise 4 yıl üzerinden amorti edilerek düşük uçta 367 milyon dolardan yüksek uçta 2.273 milyar dolara kadar değişkenlik gösteriyor. Banka, operasyonel maliyetleri ise çeşitli soğutma sistemlerinin güç verimliliklerini küresel elektrik fiyatlarının ortalamasıyla çarparak hesaplıyor.
Bu çerçevede, NVIDIA GB200 NVL72 sistemlerinin toplam sahip olma maliyeti (TCO) 806.58 milyon dolar ile en yüksek seviyede yer alırken, onu 774.11 milyon dolar ile MI355X platformu takip ediyor. Ancak elde edilen kar marjı oranları, NVIDIA'nın bu yeni platformunun yapay zeka üretimi için sunduğu muazzam verimliliğin altını çiziyor.
