FuriosaAI ve Broadcom iş birliğiyle geliştirilen yeni nesil yapay zeka hızlandırıcısı, HBM4/E belleğiyle dikkat çekiyor.
FuriosaAI'nin Yeni Nesil Yapay Zeka Hızlandırıcısında 2nm Çiplet Mimarisi ve HBM4/E Bellek Desteği ile Büyük Ölçekli Yapay Zeka İşlem Gücü
FuriosaAI, şu anda 5nm üretim süreciyle TSMC'de seri üretimi devam eden ikinci nesil RNGD platformunu temel alan üçüncü nesil yapay zeka hızlandırıcısını duyurdu. İkinci nesil RNGD yapay zeka platformu, özellikle Büyük Dil Modelleri (LLM) ve Ajan Yapay Zeka (Agentic AI) iş yüklerini hedefleyen, 180W PCIe tabanlı bir tasarıma sahip. Yeni nesil tasarım ise Ajan Yapay Zeka'ya olan talebin artmaya devam etmesiyle birlikte, yapay zeka çıkarım (inference) segmentine odaklanacak.
FuriosaAI'nin üçüncü nesil yapay zeka hızlandırıcısının öne çıkan özellikleri şunlardır:
- Bu platform, 2nm işlem teknolojisini HBM4/4E bellek ile birleştirerek, büyük ölçekli yapay zeka işlem kümeleri (compute clusters) arasında yüksek bant genişlikli ve raf ölçeğinde ağ bağlantısı olanağı sağlıyor.
- Mimari, yüksek bant genişlikli veri hareketine odaklanarak talepkar çıkarım iş yükleri için optimize edilmiştir. Bu sayede, en verimli GPU'lardan bile daha yüksek performans-watt oranı ve daha fazla token yoğunluğu sunuyor.
- Bu yeni nesil çip, hali hazırda seri üretimde olan Furiosa'nın mevcut nesil RNGD çipini temel alıyor. Müşterileri arasında Samsung SDS ve LG AI Research gibi firmalar bulunuyor.
FuriosaAI'nin paylaştığı detaylara göre, çip platformu gelişmiş bir 2nm işlem çekirdeği ve HBM4/E bellek standardını kullanacak. Firma, Broadcom ile birlikte çalışarak gelişmiş paketleme yeteneklerinden faydalanacak ve birden fazla silikon çipini tek, yüksek performanslı bir yapay zeka çipinde (System-on-chip) entegre etmeyi hedefliyor.
Firmanın paylaştığı ön izleme görselinde, 3. Nesil Yapay Zeka çipinin 12 adet HBM4/E bellek yuvası, iki adet büyük işlem çipleti (2nm) ve iki adet G/Ç denetleyicisi görülüyor. Eğer Furiosa, her yuvada 36 GB kapasiteli 12-Hi bellek modülleri kullanırsa, bu toplamda 432 GB belleğe karşılık geliyor.
İşlem mimarisinin yanı sıra FuriosaAI, büyük ölçekli yapay zeka işlem kümeleri arasında daha yüksek bant genişliği ve raf ölçeğinde ağ bağlantısı sağlayacak olan Broadcom'un Ethernet ve PCIe IP'lerinden de yararlanacak. Yapay zeka çipi, özellikle eğitim sonrası örnekleme gibi gerçek dünya yapay zeka iş yükleri için optimize edilmiş durumda ve yüksek bant genişliği bu nedenle firmanın en yeni HBM4/E standartlarını tercih etmesinde önemli bir rol oynuyor.
Firma, GPU'ların gerektirdiği iş parçacığı (thread) yönetimi yerine bant genişliğine odaklanarak, modern GPU tasarımlarından daha yüksek verimlilik ve daha yüksek token işlem hacmi sunacağını iddia ediyor. Ayrıca, firmanın yazılım yığını sayesinde geliştiricilerin, işlem hacmi ve gecikme gereksinimlerini karşılarken yeni yapay zeka modellerini hızlı bir şekilde dağıtabileceğini belirtiyor.
Furiosa'nın SDK'sı, yüksek seviye PyTorch kodunu otomatik olarak silikon üzerine eşleyen genel bir derleyici kullanıyor. Daha ayrıntılı kontrol gerektiren geliştiriciler için Furiosa'nın Sanal ISA'sı (Virtual ISA), geleneksel GPU programlamanın karmaşıklığı olmadan donanım kontrolü sağlayan bildirimsel bir programlama modeli sunuyor.
Bu üçüncü nesil FuriosaAI hızlandırıcısının 2028'in ilk yarısında örneklenmeye başlanması ve yeni nesil yapay zeka veri merkezlerinin işlem gereksinimlerini karşılamaya hazır olması bekleniyor.
