Teknoloji dünyasında bellek standartlarını belirleyen kuruluş JEDEC, SPHBM4 adını verdiği yeni bir bellek standardını yakında tamamlayacak. Bu yeni standart, geleneksel organik substratlarla uyumluluğu sayesinde HBM4 sınıfı bant genişliği sunarken, daha dar bir 512-bit arayüz ve daha yüksek kapasiteler ile entegrasyon maliyetlerini düşürmeyi hedefliyor. Eğer bu teknoloji yaygınlaşırsa, HBM'nin hizmet verebileceği birçok pazar boşluğunu dolduracak ancak GDDR belleklerin yerini alması beklenmiyor.
Yüksek bant genişliğine sahip bellek (HBM) için kullanılan 1024-bit veya 2048-bit gibi geniş arayüzler, rakipsiz performans ve enerji verimliliği sağlasa da, üst düzey işlemcilerde değerli silikon alanını fazlasıyla kaplıyor. Bu durum, yapay zeka hızlandırıcıları başına düşen HBM yığınlarının sayısını sınırlayarak bellek kapasitesini etkiliyor ve hem bireysel hızlandırıcıların hem de bunları kullanan büyük kümelerin yeteneklerini kısıtlıyor.
'Standart' Bir Paket İçinde HBM
Standart Paket Yüksek Bant Genişliğine Sahip Bellek (SPHBM4), HBM4 bellek arayüz genişliğini 2048 bitten 512 bite indirerek ve 4:1 seri hale getirme ile aynı bant genişliğini koruyarak bu sorunu çözüyor. JEDEC, '4:1 seri hale getirme'nin HBM4'teki 8 GT/s veri aktarım hızını dört katına çıkarması veya daha yüksek saat hızlarına sahip yeni bir kodlama şeması sunması konusunda bir açıklama yapmıyor. Ancak hedef açık: 512-bit arayüz ile toplam HBM4 bant genişliğini korumak.
SPHBM4 paketlerinin içinde, endüstri standardı bir taban yonga (muhtemelen bir dökümhane tarafından bir mantıksal üretim süreci kullanılarak üretilecek) kullanılacak. Bu durum, 'geniş' DRAM yongalarını 'dar' bir taban yongasına yönlendirmekle ilgili yoğunluk ve yavaş DRAM kabloları ile hızlı taban yonga kabloları arasındaki saat senkronizasyonu zorlukları nedeniyle maliyeti düşürmeyebilir. Ayrıca standart HBM4 DRAM yongaları kullanılacak, bu da denetleyici geliştirmeyi basitleştirecek ve yığın başına kapasitenin HBM4 ve HBM4E ile aynı seviyede, yani 64 GB'a kadar kalmasını sağlayacak.
Kağıt üzerinde bu, SPHBM4 bellek kapasitesinin HBM4'e kıyasla dört katına çıkması anlamına geliyor. Ancak pratikte, yapay zeka çipi geliştiricileri, silikon alanının her yeni işlem teknolojisiyle daha pahalı hale gelmesiyle, bellek kapasitesini daha yüksek hesaplama yetenekleri ve çiplerine entegre edebilecekleri çok yönlülük ile dengeleyecektir.
Bir GDDR7 Katili mi?
Teknoloji meraklıları, SPHBM4 belleğin neden oyun GPU'ları ve grafik kartları için kullanılmadığını merak edebilir. GDDR7 veya potansiyel PAM4 kodlamalı GDDR7X'e kıyasla daha uygun bir maliyet artışıyla daha yüksek bant genişliği sağlaması mümkün görünüyor.
HBM4 sınıfı bant genişliği sunmak üzere tasarlanan SPHBM4, temel olarak performans ve kapasiteyi güç ve maliyet gibi diğer unsurların önüne koyacak şekilde tasarlanmıştır.
HBM4 veya HBM4E'den daha ucuz olmasına rağmen, SPHBM4 hala yığılmış HBM DRAM yongaları, bir arayüz taban yongası, TSV (Through-Silicon Via) işlemi, bilinen iyi yonga akışları ve gelişmiş paket içi montaj gerektiriyor. Bu adımlar, muazzam tüketici ve oyun hacimlerinden, basit paketlerden ve olgun PCB montajından yararlanan standart GDDR7'ye kıyasla maliyetleri domine ediyor ve hacimle iyi ölçeklenmiyor. Bu nedenle, birçok GDDR7 çipini tek bir gelişmiş SPHBM4 ile değiştirmek maliyetleri azaltmak yerine artırabilir.
Uygulama Detaylarında Gizli Sanat
512-bit bellek veri yolu karmaşık bir arayüz olmaya devam etse de, JEDEC SPHBM4'ün geleneksel organik substratlar üzerinde 2.5D entegrasyona olanak tanıdığını ve pahalı ara katmanlar gerektirmediğini belirtiyor. Bu, entegrasyon maliyetlerini önemli ölçüde düşürüyor ve tasarım esnekliğini potansiyel olarak artırıyor. Bu arada, endüstri standardı 512-bit arayüzü ile SPHBM4, UCIe veya özel arayüzlere dayanan C-HBM4E çözümlerine kıyasla daha düşük maliyetler sunabilir (standartlaştırmanın sağladığı hacim sayesinde).
Silikon tabanlı çözümlere kıyasla, organik substrat yönlendirmesi SoC ve bellek yığınları arasında daha uzun elektriksel kanal uzunluklarına izin vererek büyük paketlerde düzen kısıtlamalarını kolaylaştırabilir ve mevcut olandan daha fazla bellek kapasitesini paket yakınına sığdırabilir. Yine de, geleneksel substratlar kullanılarak 3084-bitlik bir bellek arayüzünün (veri ve güç kablolarının yanı sıra) yönlendirilmesini hayal etmek zor, ancak zamanla göreceğiz.
