Bellek sektöründe çığır açan Micron, en yüksek kapasite ve güç verimliliğine sahip yeni nesil SOCAM M2 bellek modüllerini tanıttı. Bu yenilik, özellikle yapay zeka alanındaki artan talep doğrultusunda geliştirildi.
Micron'un Yeni SOCAM M2'si, KV-Cache ile Darboğazları Azaltarak Daha Düşük Gecikme Süreli İş Yüklerine Odaklanıyor
Yapay zekanın uygulama katmanında, iş yükleri büyüdükçe bellek darboğazları da artış gösteriyor. Bu durum, DRAM üreticilerinin HBM ve yapay zekaya özel diğer bellek ürünlerindeki gelişmelere özel bir önem vermesine neden oldu. Micron'un son duyurusunda, SOCAM M2 bellek modülleriyle "yeni bir kilometre taşı" belirlendiği ve modül başına kapasitenin 256 GB'a çıkarıldığı belirtildi. Bu, önceki 192 GB eşiğinden önemli bir sıçrama anlamına geliyor. Şirkete göre SOCAM M2, modern yapay zeka altyapısı ekipmanlarına entegre edilecek ve bellek kısıtlamalarını gidermeye yardımcı olacak.
En yeni SOCAM M2 yinelemesiyle Micron, tek bir LPDRAM monolitik yongasının kapasitesini 32 GB'a çıkardı. 256 GB'lık modelde, 8 kanallı bir CPU başına 2 TB LPDRAM sağlanıyor, bu da yapay zeka sunucularının uzun bağlam pencerelerini kolaylıkla işlemesini sağlıyor. Micron ayrıca, yeni SOCAM M2 çözümü ile uzun bağlam çıkarımı için TTFT'nin 2,3 katına çıktığını ve bağımsız CPU uygulamalarının odak noktası olduğu agentik iş yüklerini önemli ölçüde tamamladığını belirtiyor.
SOCAM M2, NVIDIA ile işbirliği içinde geliştirilmiş bir çözümdür. Yapay zeka dünyasında bellek, gecikme süresi ve bağlamın önemli olduğu iş yüklerinde önemli bir varlık haline gelmiştir. Aynı zamanda, SOCAM M2 DRAM tedarikinin önemli bir bölümünü kaplayacak ürünlerden biridir ve muhtemelen GDDR7 gibi genel amaçlı ürünlerin tahsislerini azaltacaktır.
Micron, 256 GB SOCAM M2 örneklerinin müşterilere gönderildiğini ve çözümün bu yılki GTC etkinliğinde sergileneceğini söylüyor.
