Yapay zeka alanında çığır açan gelişmeler yaşanırken, NVIDIA, veri iletim hızını rekor seviyelere taşıyacak ve veri merkezlerinin enerji verimliliğini önemli ölçüde artıracak ilk entegre optik (Co-Packaged Optics - CPO) anahtarını tanıttı. Yapay zeka çözümleri sunan Lambda AI firması, NVIDIA'nın bu öncü teknolojisine sahip ilk örneklerden birini inceledi.
Yapay Zeka Fabrikalarında Ağ Teknolojisinin Önemi
Yapay zeka sistemlerinde, özellikle devasa GPU kümeleri arasında veri akışının inanılmaz hızlarda gerçekleşmesi büyük önem taşıyor. Bu noktada ağ teknolojileri, veri merkezlerinin kalbi haline geliyor. Hızın yanı sıra, ağ çözümleri, anahtarlamada harcanan gücü azaltarak, arıza noktalarını minimize ederek ve daha yüksek token verimliliği sağlayarak yapay zeka performansını doğrudan etkiliyor.
NVIDIA'nın yeni Quantum-X InfiniBand çözümleri, yapay zeka şirketlerine dağıtılmaya başlandı. Bu platformlar, silikon fotoniği ve entegre optik teknolojisini kullanarak, GB300 NVL72 ölçeğindeki sunucularda 800 Gbps'ye varan bağlantı hızları sunuyor. Lambda AI'nin raporlarına göre, bu yeni nesil ağ çözümleri, üç katmanlı bir kümede ağ enerjisinin %86'sını oluşturuyor.
Lambda AI, NVIDIA'nın Q3450-LD anahtarla güçlendirilen bu en yeni entegre optik çözümünü alan ilk firmalardan biri oldu. Bu anahtarlar sayesinde, ağ katmanının güç tüketimi önemli ölçüde azalıyor. Geleneksel anahtar çözümleri yaklaşık 7.0 kW güç tüketirken, NVIDIA'nın silikon fotoniği tabanlı çözümü yalnızca 3.95 kW güç harcıyor. Bu durum, GB300 "Blackwell Ultra" platformlarında GPU'lar için ekstra 3.05 kW'lık bir güç tasarrufu anlamına geliyor.
Entegre optik teknolojisinin bir diğer önemli avantajı ise arıza noktalarının azalması. Lambda AI tarafından yapılan bir açıklamada, 128.000 GPU'luk bir veri merkezinde ağ yapısında 655.000 adet ayrı alıcı-verici modül bulunduğu ve her birinin potansiyel bir arıza noktası oluşturduğu belirtiliyor. Entegre optik çözümleriyle birlikte, optik bileşen sayısı massive ölçüde azaldığından, arıza olasılığı da düşüyor.
Peki, NVIDIA Quantum-X InfiniBand "Q3450-LD" nasıl bir yapıya sahip? Lambda AI'ye gönderilen mühendislik örnekleri, 18 adet çıkarılabilir ışık kaynağı modülünden ve 144 adet MPO portundan oluşuyor. Geleneksel OSFP yuvaları yerine, NVIDIA Quantum-X çözümü, doğrudan silikon fotoniği motoruna bağlanan fiber dizi bağlantılarını kullanıyor.
Ünitenin arka tarafında, güç için 48V DC ve DGX uyumlu baralı konektörler bulunuyor. Entegre optiklere soğutma ise dört adet UDQ4 sıvı soğutma bağlantısı ve çift dahili döngü ile sağlanıyor. GB300 NVL72 rafları kurmuş olanlar için tasarımda tanıdık birçok unsur da mevcut.
Yapay zeka alanındaki hızlı gelişmeler ve daha fazla token verimliliği talebi, veri merkezlerinin esnek ve kesintisiz veri hareketine olan ihtiyacını artırıyor. Silikon fotoniği tabanlı entegre optik çözümleri tam da bu noktada devreye girerek, aynı veri merkezi alanında daha fazla hesaplama gücü sağlıyor. NVIDIA bu alanda öncülük yaparken, diğer teknoloji devleri de bu devrimin gerisinde kalmamak için çalışmalarını sürdürüyor.
