ABD merkezli yapay zeka şirketi Tensordyne, NVIDIA'nın Blackwell ve Rubin çiplerini geride bıraktığını iddia ettiği yeni yapay zeka çipi Napier'ın üretim bandından çıktığını duyurdu. Şirket, Napier'ın benzeri görülmemiş token verimliliği ve performansı sunacağını belirtiyor.
Tensordyne'ın Yeni Napier Yapay Zeka Çipi, NVIDIA'nın Çiplerini Geride Bırakma Hedefiyle Geliyor
Napier çipi, Broadcom ve HPE Juniper Networks ile iş birliği içinde tasarlanan Tensordyne Napier TDN sisteminin ana bileşeni olacak. Napier platformu, yenilikçi logaritmik yapay zeka matematiği, sıkı entegre edilmiş bellek mimarisi ve düşük güç tüketimiyle daha yüksek token verimliliği sağlayan yüksek performanslı ölçeklendirme ara bağlantısı aracılığıyla yapay zekayı birleştirmeyi hedefliyor.
TSMC'nin 3nm sürecinde üretilen Napier çipinin başarılı tape-out (üretim aşamasına geçiş) ile artık seri üretime hazır olduğu belirtildi. Bu önemli kilometre taşının ardından Tensordyne, beta dağıtımı ve 200 milyon doların üzerinde öngörülen Napier sistem talebini karşılayacak daha geniş bir altyapı planı üzerinde çalışıyor. Odak noktasının ise yapay zeka çıkarımı (AI inferencing) olduğu vurgulanıyor.
Çip, 138 milyar transistöre sahip ve 144 GB HBM3E bellek, 256 MB SRAM ve Dense FP8 formatında 2.1 PFLOPs'luk zirve yapay zeka hesaplama gücü sunuyor. Ayrıca 300W TDP (Termal Tasarım Gücü) ile geliyor.
Mevcut yapay zeka altyapısının güç tüketimiyle kısıtlandığı bir dönemde, Tensordyne bu zorlukların üstesinden gelmek için yeni bir çıkarım yığını geliştirdi. Bu yığın, matematik, hesaplama, bellek ve ağ iletişimi alanlarında yenilikçi yaklaşımlar içeriyor.
TDN Matematik (Logaritmik Matematik)
TDN, büyük ölçekli çarpma işlemlerini basitleştirilmiş toplama tabanlı hesaplamalarla değiştirerek, ileri düzey yapay zeka modellerinde watt başına performans verimliliğini önemli ölçüde artırıyor.
TDN AIP (Yapay Zeka İşlemcisi)
Her TDN işlemcisi, büyük miktarda hızlı SRAM'i HBM bellekle sıkı bir şekilde entegre ederek işlemci boşta kalma sürelerini en aza indiriyor ve sektördeki en büyük modellerin verimli bir şekilde çalışmasını destekliyor.
TDN Link (Her Yöne Ölçeklenebilir Ara Bağlantı)
Tensordyne'ın özel ölçeklendirme kumaşı, işlemciler arasındaki iletişim gecikmesini mikrosaniyenin altında tutarak hesaplama kullanımını en üst düzeye çıkarıyor ve ara bağlantı darboğazlarını azaltıyor.
Tüm bu teknolojiler, Tensordyne'ın TDN72 Çıkarım Podu ve Raf sistemiyle bir araya geliyor. Her Pod, 72 adet Napier AI çipi barındırıyor. Bu sistem, NVIDIA'nın NVL72 rafı ve 72 Blackwell veya Rubin GPU'su ile karşılaştırıldığında çok daha az altyapı kapasitesi gerektiriyor. Bir Napier Rafı, TDN72 podlarını birleştirerek şu sonuçları sunuyor:
- 17 kat daha fazla token/watt (NVIDIA Blackwell'e kıyasla)
- 13 kat daha fazla token/saniye (NVIDIA Blackwell'e kıyasla)
- Raf başına yıllık 33 milyon dolara kadar daha fazla gelir
72 çipli Napier sunucuları, 10 TB HBM kapasitesi sunacak ve FP4 ile 10T modellerini destekleyebilecek. Tamamen hava soğutmalı raf, toplam 288 çip (sunucu başına 72), 608 PFLOPs FP8 hesaplama gücü, 74 GB SRAM, 42 TB HBM3e bellek ve 120kW güç derecelendirmesi içerecek.
Tensordyne, karşılaştırmalarını sadece Blackwell ile sınırlı tutmuyor; aynı zamanda Napier çözümünü NVIDIA'nın gelecek vaat eden Rubin platformuyla da kıyaslıyor. Şirket, kendi platformunun tek bir raf konfigürasyonunda 1000 token/s hızında ve çoklu trilyon parametreli modelleri desteklediğini iddia ediyor. NVIDIA'nın aynı performansı elde etmek için dokuz adet Rubin + Groq LPX rafına ihtiyaç duyacağı belirtiliyor.
Tensordyne'ın Napier platformu, yapay zeka çıkarımında iddialı bir ilerlemeyi temsil ediyor. NVIDIA Blackwell'e göre 17 kat daha fazla token/watt ve 13 kat daha yüksek verimlilik sunarken, tek bir kompakt alanda dokuz Rubin tabanlı rafın performansına ulaşarak hız-maliyet ve güç-performans arasındaki geleneksel dengeleri alt üst ediyor.
Dramatik ölçüde düşük altyapı talepleri, raf başına 33 milyon dolara kadar daha fazla yıllık gelir potansiyeli ve çoklu trilyon parametreli modeller için verimli ölçeklenebilirlik ile Napier, NVIDIA'nın Blackwell ve Rubin çiplerine sadece rakip olmuyor; aynı zamanda yeni nesil yapay zeka dağıtımları için mümkün olanın sınırlarını yeniden tanımlıyor.
