Yapay zeka alanında çığır açan geliştirmeleriyle tanınan Nvidia, ilk olarak bu yılın başlarında duyurduğu ve Mayıs ayında piyasaya sürülmesi beklenen DGX Spark mini-PC'sini nihayet teknoloji meraklılarıyla buluşturuyor. Orijinal planlarda yaşanan bazı aksaklıklar nedeniyle gecikme yaşayan bu güçlü platform, 15 Ekim'den itibaren satışa sunulacak. Hem Nvidia'nın kendi sitesinden hem de Dell, Asus, MSI ve HP gibi iş ortakları aracılığıyla temin edilebilecek.
DGX Spark, özellikle yapay zeka modellerinin yerel olarak çıkarım (inference) yapması ve geliştirilmesi için özel olarak tasarlanmış bir mini-PC platformu. Günümüzün en gelişmiş yapay zeka modelleri, birçok üst düzey ekran kartının sunabileceğinden çok daha fazla GPU belleği gerektiriyor. DGX Spark, 128 GB'lık birleşik ve paylaşılabilir LPDDR5X bellek havuzuna sahip. Bu bellek, 20 çekirdekli Nvidia Grace CPU ve 1 petaFLOP'a kadar yapay zeka çıkarım performansı sunabilen bir Blackwell GPU arasında paylaşılıyor. Bu performans, özellikle FP4 kuantizasyon ve seyrekliği (sparsity) uygulanmış modeller için geçerli.
Nvidia'nın açıklamalarına göre, tek bir DGX Spark yerel olarak 200 milyar parametreye kadar olan modelleri destekleyebiliyor (yine FP4 kuantizasyon varsayımıyla). Eğer tek bir ünite yeterli olmazsa, iki DGX Spark sistemi dahili Nvidia ConnectX 7 NIC ile birbirine bağlanarak bellek ve işlem gücü iki katına çıkarılabiliyor.
DGX Spark, Ubuntu tabanlı Nvidia'nın kendi DGX OS'ini çalıştırıyor ve yapay zeka geliştiricileri için kritik öneme sahip CUDA yazılım yığınını destekliyor. Strix Halo gibi oyuncu odaklı çiplerden farklı olarak, DGX Spark'ın Arm ve Linux temelli yapısı, onu doğrudan bir oyun platformu olarak daha az çekici hale getiriyor. Ancak meraklı kullanıcılar, biraz çaba ile bu cihazda oyun deneyimi yaşayabilirler.
Daha önce AMD'nin Ryzen AI Max+ 395 SoC (Strix Halo olarak da bilinen) tabanlı mini-PC'leri, geniş bellek havuzu ve makul çıkarım performansı sunan, nispeten uygun fiyatlı çipler pazarında önemli bir yere sahipti. Strix Halo, 128 GB'a kadar sistem belleğinin 112 GB'ını GPU belleği olarak destekleyebiliyor. Ancak bu sistemler, yaygın olarak kullanılan CUDA yığınını yerel olarak desteklemediği için, yapay zeka projelerini hayata geçirmek isteyen geliştiriciler için bazı engeller teşkil edebiliyordu. DGX Spark, bu noktada CUDA desteğiyle önemli bir avantaj sağlıyor.
Nvidia, DGX Spark ile Anaconda, Cadence, ComfyUI, Docker, Google, Hugging Face, JetBrains, LM Studio, Meta, Microsoft, Ollama ve Roboflow gibi birçok yazılım ortağıyla çalıştığını ve araçlarının DGX Spark ile uyumlu olmasını sağladığını belirtiyor. Bu da, yerel olarak büyük dil modelleri (LLM) çalıştırmak isteyenler için DGX Spark'ın sağlam bir temel olacağı anlamına geliyor.
Nvidia, Ocak ayında DGX Spark sistemlerinin başlangıç fiyatının 3.000 dolar olacağını belirtmişti. Ancak ilk parti DGX Spark'ın fiyatı 3.999 dolar olarak belirlendi. Bu fiyata rağmen, kompakt boyutu, nispeten düşük 240W güç tüketimi ve CUDA yığınına sunduğu eksiksiz destek ile yapay zeka alanında hızla büyüyen bu pazarda birçok kullanıcıyı cezbetmesi bekleniyor. Cihazın bu kadar uzun süre beklemesinin, hızla değişebilen bu pazarda bir dezavantaj olup olmayacağını zaman gösterecek.
