Yapay zeka iş yüklerinin giderek artan bellek ihtiyacı, yüksek kapasite ve bant genişliği gereksinimini her zamankinden daha önemli hale getiriyor. Ancak aynı zamanda, teknoloji dünyası genel olarak yaygın bellek ve depolama çözümü kıtlıklarıyla karşı karşıya. Bu durum, teknoloji şirketlerini yapay zeka için kapasite/bant genişliği gereksinimlerini hafifletecek yenilikler bulmaya yöneltiyor.
Marvell, bu soruna çözüm getirmek için CXL denetleyicilerinin bir parçası olan yeni Structera CXL ürünlerini tanıttı. Bu iki yeni denetleyici, bellekte bulunan veriler için sıkıştırma sunuyor. Daha da önemlisi, çoğu CXL denetleyicisinin veri setleri için herhangi bir sıkıştırma sağlamadığı düşünülürse, bu önemli bir yenilik.
Structera CXL denetleyicileri, CDB (Compression-Decompression Block) adı verilen özel olarak tasarlanmış bir donanım bloğu ile geliyor. Bu özel silikon çözümü, tam bant genişliğinde çalışıyor ve yazılım tabanlı çözümlerin aksine, veriler DRAM'e yazılırken sıkıştırıp okunurken gerçek zamanlı olarak dekompresyonunu sağlıyor.
Bu işlem, ana işlemciden (CPU) bağımsız olarak gerçekleşiyor. Bu da platform için daha fazla bellek kaynağının kullanılabilir olmasını sağlıyor. Sıkıştırma bloğu ayrıca, OCP (Open Compute Project) standartlarına uyumlu olduğundan, üretimde yerleşik bir özellik olarak satır içi sıkıştırma sunan tek CXL bellek denetleyicisi olma özelliğini taşıyor.
Marvell Structera X CXL Denetleyicisi
Structera X, hem DDR5 hem de DDR4 standartları için destek sunan bir CXL bellek genişletme denetleyicisi olarak tasarlanmış. Denetleyici, dört adet ARM Cortex M7 çekirdeği, CDB bloğu, Çoklu Kanal DMA, 56 MB son seviye önbellek, 4 DDR kanalı ve AES-XTS 256-bit bellek şifreleme/deşifreleme özelliklerini barındırıyor. Ana öne çıkanlar şunlardır:
- CXL 2.0 / PCIe 5.0 x16 port veya 2x8 port denetleyicisi
- 200 GB/s'ye kadar bellek bant genişliği
- Kanal başına üç adede kadar DIMM desteği
- 6 TB'tan fazla DDR5 DRAM bellek kapasitesi desteği
- 4 TB'tan fazla DDR4 DRAM bellek kapasitesi desteği
- Satır içi LZ4 sıkıştırma/dekompresyon
- Satır içi XTS-AES 256-bit şifreleme ve deşifreleme
- Yerleşik donanım güvenlik modülü ve güvenli önyükleme
Marvell Structera A CXL Denetleyicisi
Structera A CXL, bellek erişim performansını optimize eden bir yakın bellek hızlandırıcısıdır. 16 adet Arm Neoverse V2 çekirdeği, bir CDB bloğu, dört adet Arm Cortex M7 çekirdeği, 64 MB son seviye önbellek içeriyor ve ayrıca 4 DDR kanalı sunuyor. Ana öne çıkanlar şunlardır:
- CXL 2.0 / PCIe 5.0 x16 port denetleyicisi
- 200 GB/s bellek bant genişliği
- 4 x DDR5-6400 bellek kanalı
- Kanal başına iki adede kadar DIMM desteği
- 3.2 GHz'de çalışan 16 adet Arm Neoverse® V2 (Demeter) çekirdeği
- Satır içi LZ4 sıkıştırma/dekompresyon
- Satır içi XTS-AES 256-bit şifreleme ve deşifreleme
- Yerleşik donanım güvenlik modülü ve güvenli önyükleme
Performansa gelince, CDB'nin LZ4 sıkıştırma algoritmasının özel bir sürümünü kullandığı belirtiliyor. Bu, yüksek sıkıştırma oranı ile ultra düşük gecikme süresi arasında bir denge sunan kayıpsız bir algoritmadır. CDB, bire-çok bellek eşlemesi sunuyor.
Anahtar Performans Sonuçları: Structera X 2404/2504
Structera X/A'da Sıkıştırma Oranları
Sektör standardı karışık gerçek dünya veri türleri, Structera donanımında ana bilgisayar LZ4 oranlarına eşit veya bunlara yakın oranlar elde ediyor.
Structera CDB, ana bilgisayar tarafındaki LZ4 sıkıştırma kalitesiyle eşleşerek, yazılım tabanlı sıkıştırma ihtiyacını ortadan kaldırıyor ve ana bilgisayar işlem kaynaklarını boşaltıyor.
Bellek kıtlığı ve fiyatları artmaya devam ettikçe, Marvell'in Structera CXL serisi gibi çözümler yapay zeka endüstrisi için kritik bir rol oynayacaktır.
