Yapay zeka (YZ) hızlandırıcılarının Yüksek Bant Genişlikli Bellek (HBM) ve SSD'ler arasındaki ciddi performans farkıyla karşı karşıya kaldığı bu dönemde, SK hynix ve SanDisk, Yüksek Bant Genişlikli Flash (HBF) adını verdikleri yeni bir standartla bu performans boşluğunu kapatmayı hedefliyor. İki bellek üreticisi, farklı şirketlerin uyumlu ürünler geliştirebileceği bir ekosistem yaratmayı amaçlıyor.
HBF Teknik Özellikleri, Sekiz veya 16 Katmanda NAND Yongaları İstifleyerek Tek Bir Yapılandırmada 512 GB'a Kadar Kapasite Sunuyor
Kısacası HBF, HBM ile kurumsal SSD'ler arasında konumlandırılabilecek özelliklere sahip. HBM gibi, HBF de birden fazla bellek yongasının istiflenmesine dayanıyor, ancak DRAM yerine depolama kapasitesini artırmak için NAND flash kullanıyor. HBF'in ana rolü, HBM'nin yerini tamamen almak yerine kapasite sınırlamalarını tamamlamak olacak. Büyük Dil Modelleri (LLM), hesaplama için hemen gereken HBM aracılığıyla işlenebilirken, HBF daha büyük kapasitelerde verileri depolayacak.
SK hynix ve SanDisk'in en son teknik özellikleri, HBF'in 0,4 TB/s ile 3 TB/s arasında değişen bant genişlikleriyle 512 GB'a kadar çıkmasına olanak tanıyor. Teknolojinin YZ çıkarım performansına nasıl fayda sağlayacağını anlamak için, 500 milyar parametreli bir YZ modeli olduğunu varsayalım. Eğer her gigabayt bir milyar parametre barındırabiliyorsa, bu 500 GB'a denk gelir. Tüm modeli HBM'de depolamak maliyet-etkin olmadığından, şirketler bu YZ modellerini depolamak için HBF'den yararlanabilir.
Yüksek Bant Genişlikli Flash ayrıca UCIe (Universal Chiplet Interconnect Express) standardını da destekleyerek, HBF'nin çeşitli CPU'lara ve GPU'lara bağlanabilmesini sağlıyor ve tam bir esneklik katmanı sunuyor. SK hynix'in çözüm geliştirme başkanı Kim Chun-sung, şirketin "bellek ve depolama arasındaki sınırları genişleteceğini ve genel sistem verimliliğini artıran yeni mimariler oluşturmaya katkıda bulunacağını" belirtti.
SK hynix ve SanDisk HBF standardını yaygınlaştırma çabalarını sürdürürken, Samsung şimdiden CMX çözümleri geliştirip seri üreterek NVIDIA gibi şirketlerle sağlam ilişkiler kuruyor. 500 katmana kadar yığılabilen V10 ve V11 NAND flash üretimiyle, bu teknoloji devi GPU offloading'i artırmak için verilere hızlı erişim sağlamak isteyen YZ sunucularının ultra hızlı depolama gereksinimlerini hedefleyecek ve böylece YZ çıkarım performansını iyileştirecek.
Hangi standart hız kazanacak? Önümüzdeki aylarda öğreneceğiz gibi görünüyor.
