Artan donanım maliyetleriyle mücadele eden Meta, bir yandan da DDR5 belleklerin yüksek fiyatları ve tedarik sıkıntılarıyla karşılaşıyor. Bu duruma inovatif bir çözüm getiren şirket, eskiyen sunucularından topladığı DDR4 bellek modüllerini, kendi geliştirdiği Vistara ASIC çipi sayesinde yeni nesil DDR5 uyumlu sunucularında kullanmaya başladı. Bu sayede, yalnızca DDR5 desteği sunan AMD EPYC 'Turin' işlemcili en yeni sunucularına, daha eski DDR4 bellekleri entegre edebiliyor.
Bu tür çözümler geliştiren tek şirketin Meta olmadığını belirtmekte fayda var. Güney Kore merkezli bir teknoloji girişimi olan Panmnesia da, gecikme süresini artırmadan sunuculara daha büyük bellek havuzları bağlama imkanı sunan hazır bir CXL denetleyici ve anahtar geliştirdi. Bu ürün, Panmnesia'nın çözümlerini rakiplerinden ayrıştıran önemli bir özellik.
Özel ASIC, DDR4 Belleklerin Yeni Sunucularla Çalışmasını Sağlıyor
Meta'nın ilk nesil özel CXL bellek genişletici ASIC'i Vistara, eski DDR4 bellekleri modern sunucularla uyumlu hale getirmek için tasarlandı. Bu çip, PCIe 5.0 x16 arayüzü üzerinden bir CXL 2.0 Tip-3 bellek genişletici uygulayarak standart DDR4 RDIMM'leri ana işlemcilere bağlıyor. Her ASIC, iki bağımsız 72-bit DDR4 bellek kanalını destekleyerek, 64 GB'lık DIMM'ler ile 256 GB'a kadar kapasite sunabiliyor. Şu anda Meta, hizmetten kaldırılmış sunuculardan topladığı 32 GB DDR4 modülleriyle ASIC başına 128 GB bellek kullanıyor.
Meta, Vistara'yı MemServer platformunda kullanıyor. Bu platformda, iki ASIC, PCIe 5.0 x8 bağlantıları üzerinden tek bir 158 çekirdekli AMD Turin işlemciye bağlanıyor. Her sunucu, 768 GB DDR5-6400 yerel belleği, 256 GB CXL üzerinden bağlı DDR4-2400 bellek ile birleştirerek toplam bellek kapasitesini 1 TB'a çıkarıyor. Yazılım katmanı, CXL belleğini şeffaf bir şekilde ayrı bir NUMA düğümü olarak sunuyor ve Linux'un daha yavaş DDR4 katmanına (76 GB/sn bant genişliği ile) daha az kullanılan verileri taşımasına ve sık erişilen verileri yerel DDR5'te (614 GB/sn bant genişliği ile) tutmasına olanak tanıyor.
ASIC, güvenli önyükleme, cihaz başlatma, aygıt yazılımı yönetimi ve sağlık izleme için üç adet RISC-V işlemci çekirdeğine dayanıyor. Meta, CXL denetleyicisini ve bellek hattını optimize ederek protokol yükünü azalttığını, kuyruk gecikmelerini en aza indirdiğini ve boşta çalışma süresini yaklaşık 50ns'ye düşürdüğünü iddia ediyor. Çip ayrıca Reed-Solomon iki sembollü hata düzeltme ve x4 chip-kill desteği gibi gelişmiş güvenilirlik özelliklerini de içeriyor.
Sadece Meta'nın Vistara'sı Değil
Meta, DDR5 bellek kullanan yeni sunucularına eski DDR4 belleklerini ekleyerek maliyetleri düşürmek isteyen tek şirket değil. Vistara yalnızca Meta'nın kullanımına sunulurken, Panmnesia'dan diğer şirketlerin de erişebileceği yeni bir CXL genişletici çözümü bulunuyor.
Panmnesia CEO'su Myoungsoo Jung, "CPU ile cihazlar arasına bir anahtar yerleştirmenin, bu sistemlerin beklediği bellek erişim gecikmesini karşılamayı zorlaştırdığı algısı vardı. Bu nedenle, doğrudan bağlı çok başlı cihazlar (MHD'ler) ölçeklenmesi daha zor olsa da standart olarak kaldı. Ancak çalışmalarımız bunun CXL veya CXL anahtarlarının doğal bir sınırı olmadığını, erken aşama CXL'nin bir özelliği olduğunu ve standart ile çevresindeki ürünler olgunlaştıkça bu durumun ortadan kalktığını gösteriyor. Sonraki aşama CXL denetleyicimizi taşıyan bir ağ anahtarıyla ölçeklenebilirlik, düşük gecikme süresi ve kararlı performans bir araya gelebilir" dedi.
CXL, PCIe fiziksel arayüzü üzerine oturan bir protokoldür. Bu nedenle, birçok erken CXL uygulaması mevcut PCIe IP'leri değiştirilerek oluşturuldu. Panmnesia'ya göre bu durum, bellek anlamsal iletişimi yerine PCIe için optimize edilmiş mimari özelliklerin miras alınmasına ve önemli ölçüde gecikmeye neden oldu. Buna karşılık, yeni CXL denetleyici IP'si, senkronizasyon yükünün çoğunu ortadan kaldıran, ayrı katman tamponlarını paylaşımlı tamponlarla değiştiren yeniden tasarlanmış bir veri yolu içeriyor. Ek olarak, anahtarın getirdiği ek geçişi dengeleyen protokol yığını boyunca ek gecikme optimizasyonları da bulunuyor.
Destekleyici CXL ağ anahtarı, PCIe ve erken CXL uygulamaları tarafından kullanılan geleneksel Hiyerarşi Tabanlı Yönlendirme (HBR) topolojisinin sınırlamalarını ortadan kaldıran Port-Tabanlı Yönlendirme (PBR) özelliğini içeriyor. Ağ anahtarı, esnek sistem topolojileri, optimize edilmiş trafik yönlendirme ve kararlı performans sağlamak için hem PBR hem de HBR'yi desteklemeye devam ediyor. Uygulamada bu, Meta gibi şirketlerin yüksek gecikme süresi nedeniyle önemli performans düşüşleri yaşamadan modern sunucularına daha fazla DDR4 bellek takmasına olanak tanıyor.
Panmnesia, erken CXL dağıtımlarının paylaşımlı bellek havuzlarına yalnızca birkaç hesaplama düğümü bağlayabilirken, geliştirdikleri çözümün 64 düğüme kadar ölçeklenebildiğini belirtiyor. Bu durum, binlerce sunucu çalıştıran ancak pahalı DRAM kullanımını rasyonelleştirmek zorunda kalan hiper ölçekleyiciler için daha fazla esneklik anlamına geliyor.
Panmnesia, bir sonraki nesil CXL teknolojilerinin ticarileşme yolunda ilerlediğini açıklıyor. Şirket, PCIe 6.4/CXL 3.2 Fusion Switch için ön üretim silikonuna sahip ve PCIe 7.0/CXL 4.0 Combo IP'sinin geliştirilmesini tamamladı. Bu IP, CXL 4.0 spesifikasyonunun getirdiği en son özellikleri destekliyor.
