Teknoloji devi NVIDIA, yapay zeka (YZ) alanındaki çalışmalarını hızlandırmak amacıyla özel tasarlanmış yeni bellek çözümü NVHBM'yi tanıttı. Bu yenilikçi teknoloji, gelecekteki GPU'larda kullanılacak ve mevcut HBM çözümlerine kıyasla %30 daha fazla bant genişliği ve %15 daha düşük güç tüketimi sunacak.
NVHBM, Yapay Zeka Performansını Nasıl Artıracak?
NVHBM, NVIDIA'nın NVLink Fusion teknolojisinin bir uzantısı olarak geliştirildi. Özellikle yapay zeka modellerinin milyarlarca parametreye ulaştığı günümüzde, bellek bant genişliği kritik bir önem taşıyor. NVHBM, bellek denetleyicisini ana çipten (XPU) ayırarak doğrudan HBM'nin temel katmanına entegre ediyor. Bu sayede bellek performansı ve verimliliği önemli ölçüde artırılıyor.
Bu yaklaşımın, ana çip üzerindeki alanı da %25'e kadar tasarruf sağladığı belirtiliyor. Bu tasarruf edilen alan, ek hesaplama yetenekleri için kullanılabilecek.
NVIDIA'ya göre NVHBM, standart HBM çözümlerine göre daha yüksek bant genişliği ve verimlilik sağlıyor. Bellek denetleyicisinin HBM temel katmanına yerleştirilmesi, veri iletimini hızlandırarak yapay zeka iş yüklerinin daha akıcı çalışmasına olanak tanıyor.
NVHBM, birden fazla bellek sağlayıcısından temin edilebilecek standart bir uygulama olarak sunulacak. Bu, farklı tedarikçilerle entegrasyon ve uyumluluk süreçlerini kolaylaştıracak.
Bu teknolojinin ilk kullanıcılarından biri ise Amazon'un Annapurna Labs olacak. İki şirket, NVHBM teknolojisini ve NVLink ölçeklendirme mimarisini entegre ederek yapay zeka iş yüklerinde daha yüksek performans ve verimlilik elde etmeyi hedefliyor. Gelecek nesil AWS Trainium yongaları, özellikle Trainium4 ile başlayarak, NVIDIA GPU'larını Amazon yongalarıyla ortak bir rack-scale mimari altında birleştirmek için NVLink Fusion'u kullanacak.
NVIDIA'nın daha önce Feynman GPU'ları için özel HBM geliştirdiği göz önüne alındığında, NVHBM'nin 2028 yılında piyasaya sürülmesi beklenen yeni nesil GPU'larda yer alması güçlü bir ihtimal olarak görülüyor.
