NVIDIA, yapay zeka (YZ) sistemleri için tasarladığı yeni nesil ağ kartı ConnectX-8'i tanıttı. Şirket, bu gelişmiş kartın sıradan bir ağ kartı değil, adeta bir "SuperNIC" olduğunu belirtiyor. ConnectX-8, özellikle NVIDIA'nın yeni nesil Blackwell sistemleriyle entegre çalışacak şekilde üretildi ve PCIe Gen6 ile 800 Gbps hızlara ulaşabiliyor.
NVIDIA ConnectX-8 SuperNIC, En Yeni Blackwell Sistemleri İçin 800 Gbps Hız Sunuyor
NVIDIA'ya göre, yapay zeka eğitimi (AI training) ve çıkarımı (AI inference) birbirinden farklı iş yükleridir ve bu iş yükleri için esnek uçtan uca ağ politikaları gerektirir. Çıkarım, gecikmeye duyarlı, ayrıştırılmış ve bölümlenmiş bir iş yüküdür; dış dünya ile geniş arayüzlere ihtiyaç duyar. Eğitim ise senkronize, uzun süren bir iş yüküdür; kuyruk gecikmesi verimliliği etkiler ve dış dünya ile minimum arayüze sahiptir.
ConnectX-8 ağ kartı, bir "SuperNIC" olarak adlandırılıyor ve hem Spectrum-X Ethernet hem de Quantum-X InfiniBand platformlarını destekliyor.
ConnectX-8'in Öne Çıkan Özellikleri:
- Milyonlarca GPU üzerinde kullanılan RDMA teknolojisi
- YZ bant genişliği, gecikme ve ölçeklendirme için tasarlanmış 800G RDMA donanım hattı
- Entegre yük dengeleme, tıkanıklık kontrolü ve güvenilirlik
- YZ iş yükleri ve veri merkezi çeşitliliği için derin veri yolu programlanabilirliği
- Sistem mimarisiyle sıkı entegrasyon
- Kurumsal düzeyde güvenlik
Teknik özelliklere bakıldığında, ConnectX-8 800G SuperNIC, Verbs, NCCL, NIXL ve DOCA API'leriyle uyumludur. 800 Gb/s InfiniBand XDR veya 2x400G Ethernet entegre Spectrum-X Ethernet arayüzü ile 8 porta kadar destek sunar. Ana bilgisayar I/O arayüzü olarak 48 şeritli PCIe Gen6 kullanılır ve bu, entegre bir PCIe anahtarı aracılığıyla sağlanır.
NVIDIA, ConnectX-8 RDMA'nın farklı mesaj boyutlarında (64 KB ile 1 MB arası) 800G hızında sınırsız ölçeklenebilirlik sunduğunu belirtiyor. SuperNIC, sadece bir ağ kartından daha fazlasıdır; GPU'ları diğer kümelere bağlayan bir ASIC gibi davranır.
Bu ağ kartı ilk olarak NVIDIA'nın en yeni Blackwell GB300 NVL72 sistemlerinde kullanıma sunuluyor. Bu sistemler, geçtiğimiz günlerde tanıtılan Blackwell Ultra GPU'ya dayanıyor. CX8 PCIe anahtarı, NVLINK C2C bant genişliğinde daha fazla tasarruf sağlarken ağlar arasında QoS (Hizmet Kalitesi) imkanı sunuyor.
NVL72 anakartındaki iki CX8 PCIe anahtarından her biri, Grace CPU için Gen5 x16 şerit, Blackwell Ultra GPU için ise Gen6 x16 şerit sunuyor. SSD'ler de PCIe Gen5 x4 şerit alıyor.
NVIDIA, ConnectX-8'in 64 GPU'ya kadar nasıl ölçeklenebildiğini de gösteriyor.
Günümüzde yapay zekanın temelinin ölçeklendirme olması nedeniyle NVIDIA, ConnectX-8 Entegre Spectrum-X Ethernet Anahtarı'nı geliştirdi. Bu, Spectrum-X Ethernet anahtar altyapısının bir uzantısı olup, anahtar fonksiyonlarıyla yük dengeleme ve tıkanıklık kontrolü sunuyor. ConnectX-8 RDMA, yapay zeka ağları için geleneksel işletim sistemi hizmetlerinin ölçeklenmesine olanak tanırken, ConnectX-8 Paket İşlemcisi, yapay zeka fabrikalarının güvenli ve yönlendirilmesini sağlıyor.
Ağ performansını verimli tutmak için ConnectX-8, 16T RISC-V olay işlemcisi olan bir Veri Yolu Hızlandırıcısı içeriyor. Tüm bu teknolojiler ve donanım düzeyindeki entegrasyonlarla Spectrum-X Ethernet, standart RDMA ağ kartları/anahtarlarıyla karşılaştırıldığında %60 daha kısa eğitim adımı süresi ve yük altında sıfıra yakın kuyruk gecikmesi sunuyor.
Spectrum-X Performans Verileri:
- 1.6 kat daha yüksek etkili bant genişliği (Yük Dengeleme)
- 1.3 kat daha yüksek kolektif bant genişliği (Kuyruk Gecikmesi)
- 2.2 kat daha yüksek all-reduce bant genişliği (Gürültü İzolasyonu)
- 1.3 kat daha yüksek all-to-all bant genişliği (Dayanıklı Performans)
- 1000 kat daha hızlı telemetri toplama (Yüksek Frekanslı Telemetri)
Spectrum-X ve ConnectX-8 SuperNIC, PCIe Gen6 desteğiyle birlikte 800G hızını getiriyor. Şirket, bu teknolojilere sahip çözümleri şimdiden Blackwell sistemlerinde sunuyor ve önümüzdeki aylarda daha fazla detayın paylaşılması bekleniyor.
