Yapay zeka hesaplama gücünü artırma yolunda kritik bir eşiğe gelindiği ve geleneksel HBM (Yüksek Bant Genişlikli Bellek) teknolojisinin sınırlamalarına ulaşıldığı düşünülüyor. Üretim süreci, silikon yongaların HBM yığınına dönüştürülmesinde önemli kapasite kayıplarına yol açıyor. Bu durum, endüstriyi SRAM tabanlı çözümler, işlemci içi bellek (PIM) entegrasyonu, CXL havuzlama ve 3D DRAM gibi alternatif teknolojilere yöneltiyor. Özellikle 3D DRAM mimarisi, mevcut durumda bir çözüm olarak görülüyor ve AMD'nin bu konudaki son açıklamaları, sunduğu olağanüstü enerji verimliliğini vurguluyor. Ancak bu umut vadeden teknolojinin ticarileşmesinin önünde hala önemli engeller bulunuyor.
AMD, Hibrit Bağlantılı 3D DRAM'in Enerji Verimliliğini Gözler Önüne Serdi
AMD'ye göre, hibrit bağlantı teknolojisiyle üretilen 3D DRAM, geleneksel HBM yığınlarına kıyasla tam 17 kat daha fazla enerji verimliliği sunuyor. AMD'nin bu denli iddialı açıklamalarda bulunmasının kendine özgü nedenleri var. Zira şirket daha önce, ekstra önbellek belleğini bir işlemcinin dikey olarak üzerine yığarak oyun ve hesaplama performansını büyük ölçüde artıran 3D V-Cache işlemcilerini piyasaya sürmüştü. Bu teknoloji, önbellek katmanlarının işlemci çekirdekleriyle aynı düzlemde yatay olarak yerleştirilmesinin aksine dikey bir yığınlama kullanıyor.
Ancak, 3D yığınlama teknolojisini DRAM'e uygulamak, kendine özgü zorlukları da beraberinde getiriyor. Bu terimleri bilmeyenler için hızlıca bir hatırlatma yapalım:
- HBM, birden fazla DRAM çipini dikey olarak yığar ve veri akışını bu dikey katmanlar aracılığıyla sağlayan TSV'ler (Silikon İçinden Geçişler) kullanılır. Bu yığın, bir XPU'nun (Hızlandırıcı İşlem Birimi) yanına yerleştirilir ve HBM'nin en alt katmanındaki PHY (Fiziksel Katman), XPU ile veri aktarımını yönetir.
- 3D DRAM, DRAM çiplerini bir XPU'nun üzerine dikey olarak yerleştirerek PHY kaynaklı darboğazı ortadan kaldırır. Ayrıca, bu dikey yığınlar birbirine ve XPU'ya hibrit bağlantı yoluyla bağlanır.
- Mikro-toplar (microbumps), geleneksel HBM'de üst üste yığılan DRAM katmanlarını birbirine bağlamak için kullanılan minik, fiziksel lehim toplarıdır (genellikle kalay-gümüş alaşımlarından yapılır). Bağlantıları sağlamlaştırmak için lehimin eritilmesi gerektiğinden, silikon katmanları arasında fiziksel boşluklar oluşur. Bu boşluklar daha sonra sıvı plastik yapıştırıcı ile doldurulur, bu da parazitik elektriksel direnç yaratır, bağlantıların birbirine ne kadar yakın yerleştirilebileceğini sınırlar ve ısıyı hapseder.
- Hibrit bağlantı ise lehim gerektirmeyen bir paketleme teknolojisidir. Bu yöntemde, silikon yongalar atomik düzeyde pürüzsüz hale getirilinceye kadar parlatılır ve açığa çıkan bakır bağlantı noktaları ince bir yalıtım dielektrik tabakasının (genellikle silikon oksit veya karbon nitrür) içine gömülür. İki dielektrik katmanı oda sıcaklığında bir araya geldiğinde, moleküler düzeyde kaynaşır. Ardından uygulanan ısı işlemi, bakır atomlarının genişleyip birbirine doğrudan kaynaşmasını (Cu-Cu bağlantısı) sağlar.
Ancak 3D DRAM mimarisi, birtakım zorluklar içeriyor. Hibrit bağlantının ısıtma işlemi sırasında ortaya çıkabilen yüksek sıcaklıklar, DRAM hücrelerinin şarj tutma yeteneğinin bozulmasıyla DRAM yenileme performansını olumsuz etkileyebilir. Dahası, bu teknoloji atomik düzeyde bir düzlük gerektirir; yalnızca birkaç nanometre boyutundaki tek bir yabancı parçacık bile bakırdan bakıra olan bağlantıyı bozabilir.
Buna rağmen, eğer hibrit bağlantı işleminin ısıtma aşamasındaki termal tolerans sorunu çözülürse (ki d-Matrix, bellek katmanlarını bir XPU'nun altına yığarak bu sorunu çözüyor) ve son derece sıkı temiz oda koşulları sağlanırsa, 3D DRAM teknolojisi oldukça hızlı bir şekilde hayata geçirilebilir ve AMD'nin vaat ettiği verimlilik seviyelerine ulaşılabilir.
