Samsung, Yapay Zeka (YZ) sistemlerinin geleceğini şekillendirecek devrim niteliğinde bir adım atarak, Yüksek Bant Genişlikli Bellek (HBM) teknolojisinin temelini oluşturan yongaları (base die) ileri seviye mantık işlem süreçleriyle dönüştürüyor. Bu yenilik, belleğin yalnızca veri taşıyan pasif bir bileşen olmaktan çıkıp, YZ sistemleri için akıllı bir ortak haline gelmesini sağlayacak.
Samsung, YZ İçin Belleği Doğrudan İşlemci Üzerine Yerleştiren 3D ZHBM Yolunda Üç Aşamalı Yol Haritasını Belirledi
Samsung'un Bellek Tasarım Ekibi'nden bir yetkilinin sunumunda öne çıkan temel konu, HBM'nin ileri seviye mantık işlem süreçleri kullanılarak nasıl evrimleştirileceği ve bu süreçte HBM'nin temel yongasının (base die) rolünün yeniden tanımlanmasıydı.
Sunum, HBM mimarisinin kısa bir tekrarıyla başladı. HBM mimarisi iki ana bölümden oluşuyor: çekirdeği ve DRAM hücrelerini barındıran C-die (Core Die) ve altta yer alarak çeşitli DRAM işlemlerini yöneten B-die (Base Die). Çekirdek yongalar, D1a, D1b, D1c gibi gelişmiş DRAM süreçleri kullanılarak 16 katmana (16-Hi) kadar ölçeklenebiliyor ve bu katmanlar çok sayıda TSV (Through-Silicon Via) ile birbirine bağlanıyor. HBM yongaları, temel yongaya entegre bir PHY (Fiziksel Katman) içeriyor. Bu sayede, işlemci yongasına (XPU: GPU, TPU vb.) hızlı bir arayüz üzerinden bağlanarak veriyi anlık olarak taşıyabiliyor.
HBM Temel Yongası Evrimi: Anahtar Noktalar
- Konuşmacı: Samsung Bellek İş Birimi, DLM Tasarım Ekibi
- Temel Mesaj: İleri seviye mantık işlem süreçleri, HBM temel yongasını basit bir arayüzden, YZ sistemleri için akıllı ve aktif bir ortağa dönüştürüyor.
- Başlıca Etkenler: Artan bant genişliği (her nesilde ikiye katlanması) ve kapasite talepleri, TSV yoğunluğu ile PHY G/Ç (I/O) gücü/alan kısıtlamalarıyla karşı karşıya.
- Çözüm Yolu: Temel yongayı ileri seviye mantık nodlarına taşımak → Özel HBM (CHBM) → Gelişmiş HBM (AHBM) → ZHBM (gerçek 3D).
DRAM/HBM evrimindeki mevcut eğilime bakıldığında, YZ talebinin artması ve işlemci hızlandırıcılarına daha fazla veriyi daha hızlı besleme ihtiyacının katlanarak büyümesiyle birlikte yüksek bant genişliği ana itici güç haline geliyor. Günümüzde HBM4, yığın başına 3 TB/s'nin üzerinde bant genişliği sunarken, HBM4E bu değeri 4 TB/s'ye, HBM5 ise HBM4'e göre iki katına çıkararak 60 GB'ın üzerinde kapasitelerle karşımıza çıkıyor. Ancak bant genişliği ölçeklenmesi, temel yongadaki TSV sayıları, pitch limitleri ve G/Ç sayısı/hız limitleri gibi bazı sınırlamalara sahip.
Gelişmiş işlem teknolojileri de bir başka sınırlama oluşturuyor ve her nesilde temel yonga ile XPU SoC arasındaki işlem süreci farkı daralıyor. Yine de, gelişmiş mantık nodlarının kullanımı bazı avantajlar sunuyor. Samsung, güç tüketimini düşürmek ve aktif alanı azaltmak amacıyla HBM4'te D1c ve 4nm süreçlerini kullandığını belirtiyor. Bu değişiklikler, gerçek DRAM ve gelişmiş mantık entegrasyonunun başlangıcını işaret ediyor.
Samsung'un odaklanmak istediği alanlardan biri de temel yonga üzerine değer katan özelliklerin entegrasyonunu araştıran özel HBM (custom HBM) çözümleri. Standart HBM temel yongalarında temel veri ve test yolu fonksiyonları görülürken, özel HBM'nin temel fikri, standart çekirdek yonga katmanlarını paylaşırken, SoC benzeri işlevleri temel yongaya entegre etmek için gelişmiş mantık işlem süreçlerinden yararlanmak.
Özel HBM çözümü zaten gelişmiş mantık işlem süreçlerini kullandığı için, bazı fonksiyonları temel yongaya taşıyarak XPU'dan değerli alan kazanılmasına yardımcı olabiliyor. Özel HBM ayrıca, standart HBM modüllerinde yer alan geleneksel HBM PHY'yi, gelişmiş mantık işlem süreçlerini kullanan bir D2D (Device-to-Device) arayüzü ile değiştiriyor. Bu, daha küçük bir alana sahip olmasının yanı sıra, doğrudan enerji verimliliğini artıran daha kısa kanallara sahip. Bu aynı zamanda XPU genişlemesi için değerli silikon alanını da serbest bırakıyor.
HBM4'ten HBM5'e kadar, gelişmiş mantık işlem süreçlerine sahip özel HBM çözümü, PHY ve D2D alanını önemli ölçüde azaltabiliyor. Bu, daha kısa kanal uzunluğuna yol açarken, termal sıcak noktaların oluşması gibi bir zorluğu da beraberinde getiriyor. Bu sorunu çözmek için Samsung, temelini Samsung'un cHBM4 (özel HBM4) çözümünden alan ve tepe sıcaklığını %35'ten fazla azaltan ve PHY'nin %50'sini kapsayan Isı Yolu Bloğu (HPB) teknolojisini zaten tanıttı.
Bu çözüm halihazırda uygulandığı için, bir sonraki adım mantığın XPU'lardan cHBM'ye kaydırılması. Birincil aday, termal etki açısından yönetilebilir olan bellek denetleyicisidir. Göz önünde bulundurulan diğer blok ise, bellek denetleyicisinde hücre düzeyinde hata giderme ve yönlendirmeyi sağlayan SRAM tamir kaynakları için kullanılmayan temel yonga alanından yararlanan bir Yakın-MC "SRAM Tabanlı" hücre tamir planıdır.
İkinci aşamada Samsung, günümüz YZ ortamında bağlam pencerelerinin katlanarak büyümesi ve devasa KV önbellek gereksinimlerini beslemesiyle ihtiyaç duyulan bellek kapasitelerini genişletmek için kullanılmayan alana bir bellek genişletme denetleyicisi/PHY'si entegre etmeyi de öneriyor. PHY, harici bellek çözümleri aracılığıyla daha yüksek kapasiteleri entegre etmek için kullanılabilir. cHBM'de temel yongaya taşınabilecek diğer silikon yönleri arasında, D2D bant genişliği gereksinimlerini azaltabilen, güç ve termal yükü düşürebilen kısmi hesaplama "İşlem Öğeleri" (Processing Elements) de yer alıyor.
Üç Aşamalı Devrimci Yol Haritası
Tüm bu aşamalar, 3D entegrasyonu olan üçüncü aşamaya giriyor. Bunun için Samsung, HBM'yi XPU'nun üzerine dikey olarak entegre eden yeni bir HBM çözümü olan zHBM'yi geliştiriyor. Bu sıkı entegre çözüm, silikon alanından daha fazla tasarruf sağlıyor ve 2.5D ara katmanın kullanımını ortadan kaldırıyor.
Samsung'un zHBM çözümü, HBM yığını içindeki veri seyahat mesafelerini en aza indirmek için dağıtılmış G/Ç'lerden yararlanırken, 3D yapı geleneksel 2D arayüzleri ortadan kaldırıyor ve ultra düşük güç tüketimiyle tasarlanmış sistemler için çok daha yüksek verimlilik sunuyor. Güç düşüşü, G/Ç gücündeki azalmadan kaynaklanıyor, çünkü optimizasyonlar gereksiz güç yükünün birikmesini önlemek için SerDes'i (Seri/Paralel Dönüştürücü) kaldırıyor.
Standart bir HBM4e yığınına kıyasla, zHBM çözümünün güç verimliliğinde %70 iyileşme, DRAM bant genişliğinde %230 artış, DRAM modülü başına 100W'a kadar tasarruf ve XPU'ya (örnekte GPU) %8,3 daha fazla güç sağladığı iddia ediliyor. Sunulan çözüm, bir XPU üzerinde dört yığın zHBM sergiliyor.
zHBM'yi etkinleştirmek için Samsung, ultra yüksek G/Ç yoğunluğu sağlayarak birleşik bir SoC-DRAM tasarımı oluşturmak için WoW (Wafer on Wafer) ve HCB (Hybrid Cube Bonding) gibi gelişmiş paketleme teknolojileri üzerinde çalışıyor.
Özetle, gelişmiş mantık işlem süreçleri aracılığıyla HBM temel yongasının evrimi, YZ çağı bellek mimarileri için dönüştürücü bir değişimi işaret ediyor. Temel yongayı gelişmiş nodlara taşıyarak Samsung, geleneksel veri yönlendirme ve testin ötesinde eşi görülmemiş bir esneklik sağlıyor. Üç aşamalı yol haritası bu vizyonu gerçekleştiriyor:
- Faz 1: Kompakt T2D arayüzü, termal yönetim için ısı yolu blokları ve bellek denetleyicisinin devredilmesiyle değerli XPU silikon alanını geri kazanıyor—daha yüksek çekirdek yoğunluğu ve yerleşik SRAM aracılığıyla verimli hücre bazında onarıma olanak tanıyor.
- Faz 2: Gelişmiş RAS (Güvenilirlik, Erişilebilirlik, Servis Verilebilirliği) telemetri, yonga içi test, bellek içi kapasite genişletme ve seçici işlem öğeleri (AHBM) entegre ederek işlevselliği genişletiyor. Bu hibrit yaklaşım, veri hareketini azaltıyor, güç tüketimini düşürüyor ve yeni nesil YZ modellerinin hem bant genişliği hem de kapasite taleplerini karşılıyor.
- Faz 3: 2.5D ara katmanı ortadan kaldıran ZHBM ile gerçek 3D yakınsamayı gerçekleştiriyor. Dağıtılmış G/Ç'ler ve dikey yığınlama, ultra düşük güç (yaklaşık 0,5 pJ/bit hedefleniyor), 2 katın üzerinde bant genişliği ve daha yüksek hesaplama performansı için önemli sistem düzeyinde termal boşluk sunuyor.
Bu gelişmeler, bugünün özel HBM'si ve yarının ZHBM'si ile birlikte, temel yongayı XPU'nun aktif, akıllı bir ortağı olarak konumlandırıyor. Gelişmiş paketleme ve birleşik SoC-DRAM ortak tasarımında ustalaşarak, YZ sistemlerini kısıtlayan güç, alan ve kapasite duvarlarının üstesinden gelinecek, gelecekte daha yüksek verimlilik, performans ve ölçeklenebilirliğin önü açılacaktır.
