QNAP, yapay zeka (AI) alanında çığır açan yeni bir depolama çözümüyle karşımızda. Firmanın en yeni Edge AI NAS modeli, 6 yıllık bir geçmişe sahip olan AMD EPYC "Zen 2" işlemciyi, NVIDIA'nın en güçlü GPU'larından biriyle, yani 96 GB VRAM'e sahip RTX PRO 6000 Blackwell ile buluşturuyor.
Eski Buluşuyor Yeniyle: Yapay Zeka Depolama Cihazında 16 Zen 2 Çekirdek ve 96 GB RTX PRO 6000 GPU
QNAP'ın "QAI-h1290FX" adını verdiği bu yeni Edge AI NAS cihazı, özellikle Büyük Dil Modelleri (LLM), Retrieval-Augmented Generation (RAG) ve çeşitli Üretken Yapay Zeka (GenAI) uygulamaları için tasarlanmış. Cihaz, iki temel donanım bileşenini bir araya getirerek dikkat çekiyor.
Sistemin kalbinde, 16 çekirdek ve 32 iş parçacığına sahip AMD EPYC 7302P işlemci yer alıyor. Zen 2 mimarisine dayanan bu işlemci, yapay zeka çıkarım görevlerini kenar (edge) seviyesinde halletmek için yeterli performans sunuyor.
İkinci önemli bileşen ise ekran kartı (GPU). QNAP, bu noktada kullanıcılara iki seçenek sunuyor: 32 GB VRAM'e sahip RTX PRO 4500 Blackwell veya firmanın amiral gemisi niteliğindeki 96 GB VRAM'li RTX PRO 6000 Blackwell. Her iki kart da yapay zeka için muazzam hesaplama gücü sağlıyor. PRO 4500, yaklaşık 30 milyar parametreli LLM'ler için idealken, PRO 6000 ise 70 milyar parametrenin üzerindeki LLM'ler için biçilmiş kaftan.
CPU ve GPU'nun yanı sıra, QNAP QAI-h1290FX, 12 adet U.2 NVMe/SATA SSD desteği sunuyor. Ayrıca, çift 25GbE ve çift 2.5GbE LAN portu ile yüksek hızlı ağ bağlantısı imkanı da bulunuyor. İhtiyaç halinde PCIe yuvalarına ek 100GbE ağ kartları takılabiliyor (ayrı satılır). NAS cihazı, büyük ölçekli yapay zeka veri depolaması için QNAP'ın JBOD genişletme üniteleriyle de uyumlu.
Cihazın öne çıkan özellikleri ise şöyle sıralanıyor:
- Tamamı SSD Depolama Mimarisi: On iki adet U.2 NVMe/SATA SSD yuvası, yapay zeka modellerinin yüksek frekanslı çalıştırılması ve veri akışı için ultra hızlı G/Ç (Giriş/Çıkış) sağlıyor.
- 16 Çekirdekli AMD EPYC 7302P İşlemci: Yapay zeka çıkarımı, sanallaştırma ve yoğun paralel iş yükleri için ideal olan 32 iş parçacıklı sunucu sınıfı işlem gücü sunar.
- GPU Hazır Mimarisi: Opsiyonel NVIDIA RTX PRO 6000 Blackwell GPU'yu destekler. 96 GB'a kadar GPU belleği ve CUDA, Tensor ile Transformer Engine hızlandırma desteği sayesinde, yerel LLM çıkarımı, görüntü üretimi ve derin öğrenme iş yüklerinde performansı önemli ölçüde artırır.
- Konteynerize Yapay Zeka Ortamı ve GPU Kaynak Yönetimi: Docker ve LXD'yi sezgisel GPU atamasıyla destekler. Kullanıcılar, yerleşik AI uygulama merkezi aracılığıyla yapay zeka araçlarını hızla başlatabilir ve komut satırı yapılandırmasına gerek kalmadan GPU kaynaklarını atayabilir.
- Tamamen Yerel Dağıtım, Bulut Bağımlılığı Yok: Yapay zeka destekli sohbet asistanları, belge arama motorları veya bilgi tabanlarını tamamen şirket içi (on-premises) olarak çalıştırın. Hassas verileri içeride tutarken yapay zeka iş akışlarını hızlandırın.
- Yüksek Hızlı Ağ Bağlantısı ve Ölçeklenebilir Mimari: Çift 25GbE ve çift 2.5GbE portu ile gelir. PCIe yuvaları opsiyonel 100GbE yükseltmelerini destekler. Büyük ölçekli yapay zeka veri depolaması için QNAP JBOD genişletme üniteleriyle uyumludur.
QNAP, yeni yapay zeka NAS cihazının NVIDIA RTX PRO 6000 96 GB Blackwell GPU ile elde ettiği bazı gerçek dünya performans verilerini de paylaştı. Testler, farklı boyutlardaki çeşitli modelleri kapsayarak saniyede 172 token'a kadar performans gösterdiğini ortaya koyuyor.
QNAP, Ollama aracılığıyla yerel olarak çalıştırılan LLM'lerin yanı sıra, aynı yapılandırma için vLLM eşzamanlı çıkarım testlerinin sonuçlarını da paylaştı:
Test Edilen Büyük Dil Modeli: deepseek-ai/DeepSeek-R1-Distill-Qwen-7B (Hugging Face)
Test Edilen Büyük Dil Modeli: openai/gpt-oss-20b (Hugging Face)
QNAP, yapay zeka sunucusunun yeteneklerini daha da genişletmek için ayrı olarak satın alınabilen geniş bir yelpazede depolama, ağ ve arayüz genişletme kartları sunuyor. RAM de ayrı satılıyor ve 8 GB DDR4-3200 modüllerinden 64 GB DDR4-3200 kitlerine kadar seçenekler mevcut.
