Yapay zeka alanında çığır açan teknolojiler geliştiren NVIDIA, bir yandan da bu devasa gücün arkasındaki donanımın maliyetini adeta astronomik rakamlara taşıyor. Şirketin yeni nesil Rubin ve Rubin Ultra sunucu platformları, özellikle bellek maliyetleri nedeniyle büyük bir fiyat artışıyla karşı karşıya.
Bellek Maliyetleri NVIDIA'yı Zirveye Taşıyor
Yükselen DRAM ve donanım maliyetleri, NVIDIA'nın Rubin sunucu fiyatlarını adeta uzaya fırlatıyor. Blackwell sunucularının bile oldukça pahalı olduğunu düşünüyorsanız, Rubin nesli sunucu başına maliyetlerde tarihi bir zirveye ulaşacak.
Yapılan analizlere göre, Rubin ve Rubin Ultra raf sistemlerinin maliyet dökümü, büyük oranda artan bellek maliyetlerinden kaynaklanan devasa bir fiyat artışını ortaya koyuyor.
Temel bilgilere göz atacak olursak: NVIDIA NVL72 rafı "Oberon" olarak adlandırılıyor ve 72 GPU ile 36 CPU kullanıyor. Tek bir Vera Rubin tepsisi 4 "Rubin" GPU ve 2 "Vera" CPU barındırıyor. Bir anakart üzerinde iki GPU ve bir CPU bulunuyor; bu yapıya "Superchip" deniyor. NVL72 rafında 36 adet Superchip yer alıyor. Yani toplamda 72 GPU ve 36 CPU bulunuyor.
Her Rubin GPU, 288 GB HBM4 belleğe sahipken, her Vera CPU 1.5 TB LPDDR5X bellekle geliyor. Bir NVL72 rafı için bu, toplamda 20.7 TB HBM4 belleği ve 54 TB LPDDR5X belleği anlamına geliyor. Vera Rubin NVL72 raflarında ağ iletişimi, soğutma, güç, ara bağlantılar gibi daha pek çok bileşen de yer alıyor.
Önceki analizlerde, bellek maliyetlerinin yükselişiyle ilgili tahminler paylaşılmıştı. Bu tahminler, GPU'lar, CPU'lar, bellek ve Rubin VR200 "Oberon" raflarını oluşturan diğer altyapı bileşenlerinin tam birim maliyetlerini kapsıyordu.
Yeni tahminlere göre, Rubin VR200 "Oberon" rafı, toplamda çip başına 288 GB HBM4 belleğe sahip 72 adet Rubin V200 GPU içerecek. Bu, raf başına toplamda 20.736 GB HBM4 belleği demek. Bu raflardaki yalnızca HBM4 belleğin maliyeti 382.000 Amerikan dolarına ulaşacak ve bu rakama LPDDR5X maliyetleri dahil değil. GB başına maliyet ise 18.40 dolar.
Blackwell ile karşılaştırıldığında, Rubin'in HBM maliyetleri iki katından fazla olacak ve $/Gb maliyeti 11.26 dolardan 18.40 dolara yükselecek. Her bir Rubin sunucusunun ortalama satış fiyatı (ASP) raf başına 6 milyon dolar olacakken, Blackwell'in bu değeri yaklaşık 3 milyon dolar civarındaydı. HBM, raf maliyetlerinin %6.4'ünü oluşturuyor.
Rubin Ultra için fiyat artışı ise daha da dikkat çekici. Her bir Rubin Ultra V300 çipi, 576 GB HBM4e bellek barındıracak ve NVL144 "Kyber" rafları 82.944 GB'a kadar HBM4e DRAM içerecek.
GB başına maliyetin Rubin V200 ile benzer, yani yaklaşık 18.49 dolar olması beklenirken, raf başına toplam HBM maliyeti 1.534 milyon dolara yükselecek. Bu rakam, standart Rubin "Oberon" raflarından 4 kat, Blackwell Ultra'dan ise neredeyse 5 kat daha fazla. Her bir Rubin Ultra "Kyber" Rafı'nın ortalama satış fiyatının 21 milyon dolar olması bekleniyor; bu rakam Blackwell Ultra için 4 milyon dolardı.
Verilere göre, NVIDIA'nın Vera Rubin yapay zeka veri merkezlerinin geliştirme maliyeti gigawatt başına 47 milyar doların üzerinde olacak ve yıllık enerji faturaları 1.3 milyar dolara ulaşacak. NVIDIA Rubin sadece pahalı olmakla kalmayacak, aynı zamanda bu sunucuları çalıştırmak da önemli bir maliyet getirecek. Aynı zamanda Rubin'in sektörde en düşük toplam sahip olma maliyetini (TCO) ve jeton maliyetini sunması bekleniyor; bu da akıl almaz düzeylerde yapay zeka performansı anlamına geliyor.
Rubin'e olan talebin ne kadar büyük olduğu göz önüne alındığında, Blackwell'i büyük ölçüde geride bırakması bekleniyor. Önde gelen yapay zeka firmaları, ilk Vera Rubin sistemlerini şimdiden kuruyor ve bu yapay zeka süper bilgisayarlarının tam hacimli üretimi devam ederken, dünya yakında bu yapay zeka firmalarının neden büyük ölçekli yapay zeka veri merkezlerine devasa paralar harcadığını görecek. NVIDIA, dünya genelinde lider yapay zeka yeteneklerini sunma yolunda ilerliyor.
