Yapay zeka veri merkezlerinin önündeki en büyük engellerden biri olan bellek darboğazını aşmak için Qualcomm, çığır açan yeni teknolojisini duyurdu: Yüksek Bant Genişlikli Hesaplama (HBC).
Qualcomm, yaptığı bir etkinlikte, Dragonfly markası altında sunduğu HBC (High-Bandwidth Compute) adlı yenilikçi teknolojisiyle bellek kapasitesi ve bant genişliğinde önemli bir artış sağlamayı hedefliyor. HBC mimarisi, işlem gücünü güçlendirilmiş bellek bant genişliği ile birleştiren, 3D yığılı tasarıma sahip, özel olarak tasarlanmış ve belleğe yakın bir çözüm sunuyor. Bu sayede Qualcomm, teknoloji sektörünü etkisi altına alan bellek darboğazlarını çözmeyi amaçlıyor.
Günümüzde yapay zeka hızlandırıcıları için yaygın olarak kullanılan Yüksek Bant Genişlikli Bellek (HBM), artan güç tüketimi ve buna bağlı olarak artan toplam sahip olma maliyeti (TCO) nedeniyle verimliliğini yitirmeye başlıyor. Token başına artan maliyetler de bu verimsizliği daha da belirgin hale getiriyor.
Qualcomm, HBC (High Bandwidth Compute) ile yeni mimarisinin token başına daha düşük enerji tüketimi, artırılmış bellek bant genişliği ve daha düşük TCO sunduğunu iddia ediyor. Bu mimari dört temel üzerine inşa ediliyor: 3D entegrasyon liderliği, Sistem Seviyesi tasarım, Düşük Güçlü DDR (LPDDR) liderliği ve Güç verimliliği uzmanlığı.
Peki HBC nasıl çalışıyor? HBC hızlandırıcı, LPDDR yığınının altında yer alıyor. LPDDR, daha büyük kapasiteleri nedeniyle bellek tercihi olarak seçiliyor. LPDDR yığını, silikon içi vias (TSV'ler) aracılığıyla HBC hızlandırıcıya bağlanacak.
İlk nesil HBC Gen1 çözümü, yakında çıkacak olan AI250 hızlandırıcı yongasında uygulanacak. Bu yongada, HBC destekli LPDDR yığını aynı 2D organik alt tabaka üzerinde bulunacak. Her bir AI250 hızlandırıcı, kart başına 133 TB/s bant genişliği sunacak; bu da LPDDR5X kullanan AI200'e göre 18 kat daha fazla bir artış anlamına geliyor.
Rekabetçi düzeyde, HBC HBM'ye kıyasla watt başına 6 kat daha fazla bant genişliği ve SRAM'a kıyasla watt başına 200 kat daha fazla kapasite artışı vaat ediyor. Qualcomm, yapay zekanın karşı karşıya olduğu en büyük darboğazlar olan bellek kapasitesi, bellek bant genişliği ve TCO konularını ele almak için tedarik zincirindeki stratejik ortaklarıyla birlikte çalışacak.
AI250 yapay zeka hızlandırıcıları ile ilk nesil HBC Gen1 çözümünün 2027 ortasında piyasaya sürülmesi bekleniyor. Qualcomm ayrıca daha geniş bir yol haritası üzerinde çalışıyor ve 2028 için ikinci nesil HBC Gen2 çözümünü de sundu. Bu çözüm, AI300 yapay zeka hızlandırıcısına eşlik edecek ve AI200'e kıyasla etkili bant genişliğinde 54 kat, HBM'ye kıyasla ise watt başına bant genişliğinde 7 kat artış sunacak.
