Yapay zeka dünyasında çığır açan gelişmeler yaşanmaya devam ediyor. NVIDIA, yapay zeka ajanlarının yeteneklerini bir üst seviyeye taşımak amacıyla 120 milyar parametreli yeni Nemotron 3.5 Super VL modelini duyurdu. Bu yenilikçi adım, özellikle açık ağırlıklı (open-weight) modeller konusundaki NVIDIA'nın kararlılığını bir kez daha gözler önüne seriyor.
Yüksek Verimli Super VL ve Bolt Sınıfı Modellerle Nemotron Yelpazesi Genişliyor
NVIDIA, sadece Nemotron 3.5 Super VL ile yetinmeyerek, aynı zamanda edge (uç) cihazlar için de iki yeni model tanıttı: 24 GB bellekli Nemotron 3.5 Bolt 74B-A9B ve 4 GB bellekli Nemotron 3.5 Bolt E4B. Bu modeller, farklı işlem gücü ve bellek gereksinimlerine sahip çeşitli yapay zeka uygulamaları için çözüm sunuyor.
Nemotron 3.5 Super VL: Yapay Zeka Ajanları İçin Yeni Bir Dönem
120 milyar parametreye sahip olan Nemotron 3.5 Super VL, sürekli çalışan yapay zeka ajanları için özel olarak tasarlandı. NVIDIA'nın açıklamalarına göre bu model, talimat takibi, araç kullanımı, görsel anlama ve çok adımlı iş akışları gibi çok modlu ajan görevlerinde 'üst düzey doğruluk' sunuyor. Ayrıca, NVIDIA'nın en büyük akıl yürütme modeline yakın bir performans sergilerken, parametre sayısının yaklaşık beşte birini kullanıyor olması dikkat çekici.
Bu modelin, sınıfındaki en hızlı açık ağırlıklı ajan modeli olduğu iddia ediliyor. Yaklaşık beş kat daha hızlı çalışarak, yüksek hacimli kurumsal görevlerin hızla tamamlanmasını sağlıyor. Güçlü görsel yeteneklere sahip olan Nemotron 3.5 Super VL, optik karakter tanıma, tablolar, grafikler ve web sayfaları, PDF'ler gibi görsel belgelerdeki yapılandırılmış verileri hedefliyor. Metin ve görsel anlama yeteneklerini birleştirerek, ajanların ayrı sistemler arasında görev yönlendirmesine gerek kalmadan metinleri çıkarmasına, grafikleri okumasına ve içgörüler üretmesine olanak tanıyor.
Kurumlar, Nemotron 3.5 Super VL'yi kendi özel verileri, araçları ve iş akışlarıyla yeniden eğitebiliyor ve maksimum gizlilik ile kontrol için tercih ettikleri altyapıda kullanabiliyorlar. NVIDIA, modeli açık ağırlıklar, veri kümeleri ve eğitim tarifleriyle sunuyor. Nemotron 3.5 Super VL, 25 trilyondan fazla token ve yaklaşık 4 milyon eğitim sonrası örnek üzerinde eğitilmiş durumda. Ayrıca, DGX Spark, DGX Station, Jetson ve bulut ortamları dahil olmak üzere NVIDIA'nın tüm donanım yelpazesinde sorunsuz çalışıyor ve NVIDIA NIM aracılığıyla üretim için hazır bir mikro hizmet olarak paketlenmiş durumda.
Nemotron 3.5 Bolt Serisi: Edge Cihazlar İçin Optimize Edildi
NVIDIA'nın Nemotron 3.5 Bolt 74B-A9B 24GB modeli ise yerel ajan iş yüklerini işlemek üzere optimize edilmiş bir edge modelidir. Super VL mimarisine dayanan bu hibrit karışım-uzmanlar (MoE) modeli, 74 milyar parametreye sahip olup, aynı anda sadece 9 milyarını aktive ediyor. Kritik olarak, 2-bit niceleme kullanarak 24 GB belleğe sığabiliyor. Bu sayede, çok adımlı akıl yürütme, web tarama ve araç çağırma gibi günlük yerel görevleri yönetmek için hız ve zekayı dengeleyerek öne çıkıyor.
Nemotron 3.5 Bolt 74B-A9B 24GB kullanıcıları, herhangi bir iş yükünü buluta göndermeden, PC bileşenlerini araştırmak veya kod yazıp hata ayıklamak gibi görevleri yerel olarak atayabiliyor. NVIDIA RTX Spark ve DGX Spark 64 GB donanımlar için özelleştirilmiş olup, Hugging Face üzerinde vLLM, Ollama, LM Studio ve llama.cpp gibi platformlar için destekle sunuluyor.
Son olarak, Nemotron 3.5 Bolt E4B 4GB, hızlı fiziksel ve konuşma ajanları için özel olarak geliştirilmiş bir edge modelidir. GeForce RTX, Jetson ve RTX/DGX Spark donanımlarında çalışmak üzere tasarlanmıştır. Doğal konuşma ile çok turlu araç kullanımı, talimat takibi ve uygulama durumu temellendirmesini birleştirmede mükemmeldir. Bu yetenekler, yerleşik arayüzleri, etkileşimli karakterleri ve hızlı yerel sesli ve cihaz asistanlarını etkili bir şekilde desteklemesini sağlıyor.
Bu yeni modeller, NVIDIA'nın yapay zeka alanındaki yenilikçiliğini ve açık kaynak ekosistemine olan desteğini pekiştirirken, yapay zeka ajanlarının yeteneklerini ve erişilebilirliğini önemli ölçüde artıracak gibi görünüyor.
