NVIDIA, yapay zeka (YZ) alanında çığır açan güncellemelerle karşımızda. Yerel YZ geliştirme platformları olan DGX ve RTX sistemlerinde önemli performans artışları sağlayan NVIDIA, ayrıca DGX Spark platformunu 8'li kümelere kadar destekleyerek bellek kapasitesini de artırdı.
NVIDIA'nın duyurusuna göre, DGX ve RTX sistemleri YZ çıkarım performansında %40'a varan bir hızlanma elde etti. Bu, özellikle büyük dil modelleri (LLM) ve karmaşık YZ görevlerinin daha hızlı işlenmesi anlamına geliyor.
DGX Spark platformu için de önemli gelişmeler yaşandı. Daha önce 4'lü küme desteği sunan NVIDIA, artık 8'li kümelere kadar destek sağlayacak. Bu sayede, 64 GB'lık DGX Spark sistemleri toplam 512 GB, 128 GB'lık sistemler ise tam 1 TB belleğe ulaşabiliyor. Bu devasa bellek kapasitesi, daha büyük modellerin çalıştırılmasına, daha uzun bağlamların işlenmesine, eşzamanlı ajanların kullanılmasına ve dağıtık geliştirmeye olanak tanıyor. NVIDIA, 1 TB belleğin GLM 5.3 gibi en yeni nesil modelleri çalıştırmak için yeterli olduğunu belirtiyor.
Bu güncellemelerle birlikte, Nemotron 3.5 Bolt 74B 24GB gibi yeni YZ modelleri de duyuruldu. Bu modeller, özellikle 64 GB DGX Spark konfigürasyonları için optimize edilmiş durumda.
Recursive Flint adlı yeni bir yerel kodlama modeli de RTX Spark için optimize edildi. Bu 40 milyar parametreli model, saniyede 220 token'ın üzerinde çıkarım hızı sunarak geliştiricilere önemli bir avantaj sağlıyor.
Ayrıca, NVIDIA yeni bir dizi model kontrol noktası yayınladı. Bu kontrol noktaları, yerel YZ donanımlarındaki RAM verimliliğini artırmak için optimize edildi. Bu sayede, en yeni nesil açık modeller, yeterli belleği KV önbelleği için bırakarak çalıştırılabiliyor. Örneğin, Qwen3.8-Flash-Next-FP4-Local modeli tek bir DGX Spark 128GB veya RTX PRO 6000 üzerinde, GLM-5.3-Flash-FP4-Local modeli ise iki sistem üzerinde çalışabiliyor.
NVIDIA, vLLM ve llama.cpp açık kaynak topluluklarıyla işbirliği yaparak ajan tabanlı YZ iş yüklerinde daha hızlı çıkarım performansı elde edilmesini sağlıyor. Bu işbirliği sayesinde DGX Spark, Qwen 3.8 27B modelinde %30, DGX Station, GLM 5.3 Flash modelinde %20 ve RTX PRO 6000 Blackwell, Qwen 3.8 Flash-Next modelinde %40 daha hızlı performans sunuyor.
NVIDIA'nın yerel YZ alanındaki diğer önemli duyuruları ise şu şekilde:
- RTX Spark'a Underdog Desktop Agent geliyor: YZ modelleri tamamen cihaz üzerinde çalışarak kişisel ajanların kullanıcı verisi PC'den ayrılmadan çalışmasını sağlıyor.
- Recursive Superintelligence'dan yeni yerel kodlama modeli: Recursive Flint, NVIDIA yerel donanımları için optimize edilmiş açık ağırlıklı kodlama yetenekleri sunuyor.
- Yeni modeller için sıfırıncı gün desteği: Nemotron, GLM, DeepSeek, Qwen, MiniMax ve FLUX.3 modellerindeki güncellemeler, yerel ajanlar ve kodlamadan görüntü oluşturmaya ve düzenlemeye kadar geniş bir iş yükünü destekliyor.
- Daha hızlı yerel çıkarım ve daha bellek verimli modeller: llama.cpp ve vLLM optimizasyonları, ajan tabanlı iş yüklerini hızlandırırken, optimize edilmiş model kontrol noktaları daha uzun bağlamlar için daha fazla bellek kullanılmasını sağlıyor.
- DGX Spark 64GB Cuma günü geliyor: Yeni sistemler, geliştiricilere yerel YZ uygulamaları oluşturmak ve çalıştırmak için ek bir giriş noktası sunuyor.
- DGX Spark 8 sisteme kadar ölçekleniyor ve daha basit model dağıtımı geliyor: Geliştiriciler, 1 TB'a kadar birleştirilmiş belleğe sahip kümeleri manuel olarak yapılandırabiliyor. Bu ay güncellenecek NVIDIA Sync, 8 sistem desteği ve modelleri indirmeyi ve kodlama araçlarına bağlamayı kolaylaştıran Model Launcher'ı ekleyecek.
- Ekim ayındaki DGX Spark yazılım güncellemesi günlük kullanımı basitleştiriyor: Wi-Fi Assistant, cihaz modunda ağ değiştirmeyi kolaylaştırırken, güncellenmiş DGX Spark Yetenekleri sorun giderme, bakım ve iş akışı rehberliği sunuyor.
- DGX Station için yedi yeni kurumsal yönetim entegrasyonu: Absolute Security, Splunk by Cisco, Fleet Device Management, Microsoft Intune, Perforce Puppet, Progress Software Chef ve Tanium ile entegrasyonlar, BT ekiplerinin yerel YZ altyapısını dağıtmasına ve yönetmesine yardımcı oluyor.
- DGX Station for Windows Aralık ayında piyasaya çıkıyor: Üretim uygulamaları ve ajan kılıfları desteği, yerel YZ'yi tasarım, simülasyon, doğrulama ve mühendislik otomasyonuna getiriyor.
- Üç yeni açık kaynaklı robotik iş akışı: DGX Station üzerindeki referans iş akışları, geliştiricilerin robot modellerini iyileştirmesine, becerikli manipülasyon becerilerini eğiten ve sentetik veri üretimi için dünya modellerini eğiten iş akışlarını tamamlamasına yardımcı oluyor.
- NVIDIA Cloud Functions DGX Station'a erken erişimde geliyor: Ekipler, yerel model uç noktalarını ortak bir arayüz aracılığıyla paylaşabilir ve uygulama kodunu değiştirmeden alttaki modelleri güncelleyebilir.
NVIDIA'nın bu son güncellemeleri, DGX Spark ve RTX sistemlerini yerel YZ için güçlü ve erişilebilir platformlar olarak sağlamlaştırıyor. Bu sayede geliştiriciler, en yeni nesil iş yüklerini tamamen kendi donanımlarında çalıştırmak için gereken ölçeği, optimize edilmiş modelleri ve daha hızlı çıkarım yeteneklerini elde ediyor.
