Yapay zeka ve veri merkezlerinin artan ihtiyaçlarını karşılamak amacıyla, yüksek bant genişlikli bellek (HBM) standartlarının gelecek nesilleri detaylandırıldı. HBM4'ten başlayarak HBM8'e kadar uzanan bu yol haritası, her nesilde önemli ilerlemeler vadediyor.
HBM Bellekler Önümüzdeki On Yılda Yapay Zeka ve Veri Merkezi Talebini Karşılamak İçin Önemli Ölçüde Ölçeklenecek: HBM4'ten HBM8'e, 64 TB/s Bant Genişliği ve 24-Hi Yığınlar Araştırma Aşamasında
Yakın zamanda yapılan bir sunumda, gelecek nesil HBM standartlarından ne bekleyebileceğimize dair detaylar paylaşıldı. Bu detaylar arasında HBM4, HBM5, HBM6, HBM7 ve HBM8 gibi henüz araştırma ve geliştirme aşamasında olan standartlar yer alıyor. Gelecek on yılda bellek teknolojisinde yaşanacak devrim niteliğindeki gelişmeler bu sunumda ortaya konuldu.
HBM4 ile başlayalım. Bu standart, 2026 yılında piyasaya sürülecek gelecek nesil veri merkezi ve yapay zeka işlemcileri için ana hedef olacak. Önde gelen teknoloji şirketleri, HBM4'ü gelecek ürünlerinde kullanacaklarını doğrulamış durumda.
HBM4 bellek standardının ana özellikleri:
- Veri Hızı: ~ 8 Gbps
- Giriş/Çıkış Sayısı: 2048 (4096)
- Toplam Bant Genişliği: 2.0 TB/s
- Yığın Sayısı: 12/16-Hi
- Çip Başına Kapasite: 24 Gb
- HBM Başına Kapasite: 36/48 GB
- HBM Başına Paket Gücü: 75W
- Paketleme Yöntemi: Microbump (MR-MUF)
- Soğutma Yöntemi: Doğrudan Çipe Sıvı Soğutma (Direct-To-Chip Liquid Cooling)
- Özel HBM Taban Çipi Mimarisi
HBM4, yığın başına 2.0 TB/s bellek bant genişliği ve 12 veya 16 çipli yığınlarla HBM başına 36-48 GB kapasite sunmayı hedefliyor. Soğutma için doğrudan çipe sıvı soğutma yöntemi kullanılırken, paketleme için Microbump (MR-MUF) yöntemi benimseniyor.
HBM4e ise veri hızını 10 Gbps'ye, bant genişliğini yığın başına 2.5 TB/s'ye çıkarıyor. 12-Hi ve 16-Hi yığınlara dayalı olarak çip başına 32 Gb kapasite ile 48/64 GB'a kadar bellek kapasitesi sunması bekleniyor.
HBM5, HBM6 ve Ötesi: Kapasite ve Hızda Katlanarak Artış
HBM5 standardı, 2029 civarında piyasaya sürülmesi beklenen gelecek platformları hedefliyor. Standart HBM5 sürümünde veri hızı 8 Gbps olarak kalırken, giriş/çıkış hatları 4096 bit'e çıkıyor. Bant genişliği yığın başına 4 TB/s'ye yükseliyor ve temel olarak 16-Hi yığınlarla gelecek. 40 Gb DRAM çipleri ile HBM5, yığın başına 80 GB kapasiteye ulaşacak ve yığın başına güç tüketiminin 100W civarında olması bekleniyor.
HBM5 bellek standardının ana özellikleri:
- Veri Hızı: 8 Gbps
- Giriş/Çıkış Sayısı: 4096
- Toplam Bant Genişliği: 4.0 TB/s
- Yığın Sayısı: 16-Hi
- Çip Başına Kapasite: 40 Gb
- HBM Başına Kapasite: 80 GB
- HBM Başına Paket Gücü: 100W
- Soğutma Yöntemi: Daldırma Soğutma (Immersion Cooling), Termal Vias (TTV), Termal Bağlama
HBM6 ile veri hızı 16 Gbps'ye, bant genişliği ise 8 TB/s'ye iki katına çıkacak. Bu nesilde 16-Hi'nin ötesine geçilerek 20-Hi yığınlar görülmesi bekleniyor, bu da yığın başına 96-120 GB bellek kapasitesine ulaşılmasını sağlayacak. HBM6'nın 2032 civarında gelmesi öngörülüyor. Hem HBM5 hem de HBM6'da daldırma soğutma çözümlerinin kullanılması bekleniyor.
HBM6 bellek standardının ana özellikleri:
- Veri Hızı: 16 Gbps
- Giriş/Çıkış Sayısı: 4096
- Toplam Bant Genişliği: 8.0 TB/s
- Yığın Sayısı: 16/20-Hi
- Çip Başına Kapasite: 48 Gb
- HBM Başına Kapasite: 96/120 GB
- HBM Başına Paket Gücü: 120W
- Paketleme Yöntemi: Bağlantısız Bakır-Bakır Doğrudan Bağlama (Bump-less Cu-Cu Direct Bonding)
- Soğutma Yöntemi: Daldırma Soğutma (Immersion Cooling)
HBM7 ve HBM8: Gelecek On Yıl İçin Belleklerin Sınırlarını Zorlamak
HBM6 gelecek on yılın başında öne çıkarken, HBM7 ve HBM8 standardı tamamen yeni bir seviyeye taşıyacak. HBM7, yığın başına 24 Gbps pin hızları ve HBM6'nın iki katı olan 8192 giriş/çıkış hattı sunacak. Artan veri hızı ve giriş/çıkış yeteneği, bant genişliğini HBM6'nın 3 katı olan 24 TB/s'ye çıkaracak. 64 Gb çip başına kapasite ile, 20-24 çipli bellek yığınları sayesinde yığın başına 160-192 GB kapasite görülecek. Her yığının paket gücünün 160W olması bekleniyor.
HBM7 bellek standardının ana özellikleri:
- Veri Hızı: 24 Gbps
- Giriş/Çıkış Sayısı: 8192
- Toplam Bant Genişliği: 24.0 TB/s
- Yığın Sayısı: 20/24-Hi
- Çip Başına Kapasite: 64 Gb
- HBM Başına Kapasite: 160/192 GB
- HBM Başına Paket Gücü: 160W
- Paketleme Yöntemi: Bağlantısız Bakır-Bakır Doğrudan Bağlama
- Soğutma Yöntemi: Gömülü Soğutma (Embedded Cooling)
HBM6, HBM7 ve HBM8 için çip yığınlaması bağlantısız Bakır-Bakır doğrudan bağlama yöntemiyle gerçekleştirilecek ve HBM7/HBM8 gömülü soğutma çözümlerini kullanacak. HBM7 ayrıca yepyeni HBM-HBF ve HBM-3D LPDDR mimarilerini de tanıtacak.
HBM8 için ise bellek standardı 2038 yılına kadar gelmeyecek, ancak beklenen özellikler arasında 32 Gbps veri hızı ve giriş/çıkış hatlarının 16.384'e çıkarılması yer alıyor. Bellek çözümü, yığın başına 64 TB/s bant genişliği sunacak ve 80 Gb çip başına kapasite ile 200/240 GB bellek kapasiteleri görülecek. HBM başına paket gücünün 180W'a kadar çıkması bekleniyor.
HBM8 bellek standardının ana özellikleri:
- Veri Hızı: 32 Gbps
- Giriş/Çıkış Sayısı: 16384
- Toplam Bant Genişliği: 64 TB/s
- Yığın Sayısı: 20/24-Hi
- Çip Başına Kapasite: 80 Gb
- HBM Başına Kapasite: 200/240 GB
- HBM Başına Paket Gücü: 180W
- Paketleme Yöntemi: Bağlantısız Bakır-Bakır Doğrudan Bağlama
- Soğutma Yöntemi: Gömülü Soğutma (Embedded Cooling)
HBF Mimarisi ve Yenilikçi Soğutma Yöntemleri
Sunumda bahsedilen bir diğer önemli konu ise HBF (Yüksek Bant Genişlikli Flash) mimarisi. Bu mimari, bellek yoğun Büyük Dil Modeli (LLM) çıkarımının taleplerini karşılamak üzere tasarlandı. HBF, standart DRAM bellek yerine NAND kullanarak, 16-Hi yığınlarda daha yüksek kapasiteler sunuyor ve HBF TSV çözümü ile ara bağlantı sağlıyor.
Her HBF yığını, bir HBM yığınına paralel olarak bağlanıyor ve ek olarak 1 TB'a kadar kapasite sunabiliyor. Bu HBF yığını, hızlı bir 2 TB/s HBM-HBF ara bağlantısı aracılığıyla iletişim kuruyor. Gelecekte cam tabanlı silikon ara bağlayıcıların gelmesiyle, gömülü soğutma standart bir yaklaşım haline gelecek. Bu yöntem, ara bağlayıcı üzerinden doğrudan HBM, HBF ve işlemci birimlerine soğutma sağlayacak.
Önümüzdeki yıllarda bu gelişmelerin hayata geçtiğini görmek teknoloji dünyası için oldukça heyecan verici olacak.
