Nvidia'nın yeni 4.000 dolarlık mini bilgisayar platformu DGX Spark, aldığı eleştirilerle gündemde. Oculus VR'ın eski CTO'su John Carmack'ın performans ve güç tüketimiyle ilgili dile getirdiği endişeler, Framework'ten ve hatta AMD'den destek teklifi almasına yol açtı. AMD, Strix Halo işlemcili alternatif bir çözüm sunarak dikkatleri üzerine çekti.
Carmack, sosyal medya hesabından yaptığı açıklamada, DGX Spark'ın belirtilen 240 watt yerine maksimum 100 watt güç çektiğini belirtti. Nvidia'nın nadir kullanılan FP4 hesaplama birimi için duyurduğu bir petaflop'luk performansa karşılık, Carmack'ın tahminlerine göre yoğun hesaplamalarda bu değerin çok daha düşük, yaklaşık 125 teraflop civarında olduğunu ve kendisinin de bundan çok daha azını alabildiğini ifade etti. Ayrıca, uzun süreli kullanımda beklenmedik kapanmaların yaşandığını ve sistemin piyasaya sürülmeden önce performansının düşürüldüğünü ima etti.
Benzer şekilde, bağımsız testler de perakende bir Spark ünitesinin CPU ve GPU birleşik yük altında 200 watt'ın biraz altında güç çektiğini ve hiçbir senaryoda 240 watt'lık tavan güce ulaşamadığını ortaya koydu.
Bu iddialardan etkilenen Framework, Carmack'a AMD Strix Halo işlemcili bir bilgisayar denemesi için teklifte bulundu. AMD'nin Yapay Zeka Yazılımları Başkan Yardımcısı Anush Elangovan da Carmack'ın konuya dahil olarak, Strix Halo ile yapacağı araştırmaları desteklemeye hazır olduklarını belirtti.
Carmack'ın paylaşımı, Nvidia'nın vaat ettiği performansın gerçekliğini yeniden sorgulatırken, FP4 performansının belirli matris işlemlerinde etkili olan 2:4 yapısal seyreklikten faydalanması durumunda iki katına çıkabildiği ancak FP8 veya BF16 gibi daha yoğun formatlarda bu değerin önemli ölçüde düştüğü belirtiliyor. Nvidia'nın teknik özelliklerinde 273 GB/s bellek bant genişliği ve Nvidia Grace CPU ile paylaşılan 128 GB LPDDR5X bellek bulunması, Spark'ı daha çok kapasite odaklı bir sistem haline getiriyor.
Spark'ın, token başına hız yerine büyük modelleri bellekte barındırması hedefleniyor. Nvidia'nın pazarlaması, Blackwell mimarisi sayesinde yerel olarak 20 milyar parametreli modelleri çalıştırabileceğini öne sürüyor. Ancak kullanıcıların yaşadığı kapanma sorunları ve güç limitleri, 150mm şasi içindeki dar termal ve güç zarfının performansın düşmesine neden olabileceğini düşündürüyor.
Bu düşük performansın arkasında firmware kaynaklı bir sınırlama mı, termal darboğazlar mı yoksa başka nedenler mi olduğu henüz net değil. Nvidia, Carmack'ın paylaşımları veya kullanıcıların rapor ettiği kararsızlık hakkında henüz kamuoyuna bir açıklama yapmadı. Bu süreçte, Nvidia'nın geliştirici forumlarında GPU çökmeleri ve beklenmedik kapanmalarla ilgili çok sayıda rapor yer alıyor.
DGX Spark için henüz erken olsa da, kullanıcıların GB10 çipine yönelik yüksek beklentileri göz önüne alındığında, Nvidia'nın amiral gemisi geliştirici kitinin neden potansiyel performansının önemli bir kısmını masada bıraktığını açıklaması gerekecek.
