Teknoloji dünyası, sürekli artan bellek maliyetleri ve tedarik sorunlarıyla mücadele ederken, AMD'den dikkat çekici bir adım geldi. Şirket, MEXT (Memory Extended) adını verdiği yeni bellek çözümünü tanıttı. Bu yenilikçi yaklaşım, sunucu işlemcilerinde (EPYC) DRAM maliyetlerini düşürmek ve tedarik endişelerini gidermek için Flash belleği kullanıyor.
AMD MEXT: DRAM Kriziyle Başa Çıkmak İçin Flash Tabanlı Akıllı Çözüm
DRAM (Dinamik Rastgele Erişim Belleği) piyasasındaki dalgalanmalar ve arz-talep dengesizlikleri, sunucu maliyetlerinde önemli bir paya sahip. Günümüzde bir sunucunun toplam maliyetinin yaklaşık %75'ini DRAM oluşturabiliyor ve bellek üreticileri, sorunun yakın zamanda çözüleceğine dair bir işaret vermiyor. Tarihsel olarak bakıldığında, bellek maliyetlerinde büyük düşüşler yaşanmış olsa da (1970'lerde GB başına yaklaşık 50 milyon dolardan 2010'larda GB başına 8 dolara), son zamanlarda bu fiyatlar GB başına 10 doları aşarak yükselişe geçti.Daha da büyük bir sorun ise, yapay zeka (AI) ve veri merkezlerinin DRAM tedarikinin büyük bir kısmını tüketmesine rağmen, bu belleğin önemli bir kısmının (%50'ye kadar) sanal makineler tarafından kullanılmaması. Bellek sayfalarının zamanla "soğuması" nedeniyle belleklerin %50-80'i ise tam olarak değerlendirilemiyor.
Bu atıl kullanım sorunu oldukça kritik. AMD, bu durumu tersine çevirecek devrim niteliğinde bir teknoloji geliştirmeyi hedefliyor. MEXT, Flash belleği bellek alanına entegre ederek atıl kullanımı ortadan kaldırıyor, ek donanım veya yazılım değişikliği gerektirmiyor. Flash bellek, DRAM'e göre %50 daha ucuz ve 30 kat daha düşük güç tüketimine sahip. Ancak Flash belleğin en büyük dezavantajı, DRAM'den 500 kat daha yavaş olmasıydı.
AMD, bu gecikme sorununu aşmak için 2022 yılında MEXT'i kurdu. Günümüzde tanıtılan MEXT Yazılımı, yapay zeka algoritmalarını kullanarak Flash belleğin gecikme süresini en aza indiriyor. Soğuyan bellek sayfaları Flash depolamaya yönlendirilirken, yapay zeka algoritmaları "yakında ihtiyaç duyulacak" sayfaları DRAM'e aktarıyor. Bu sayede MEXT, Flash belleği DRAM gibi göstermeyi başarıyor.
MEXT'in Temel Bileşenleri
MEXT, üç ana bileşenden oluşuyor:- Linux Sürücüsü: Herhangi bir Linux işletim sistemiyle uyumlu, düşük maliyetli bir çekirdek modülü.
- Yapay Zeka Motoru: Dönüştürücü tabanlı Büyük Dil Modelleri (LLM'ler) gibi yapay zeka modellerini içeren bir küme.
- RAM View: Bellek kullanımını gerçek zamanlı olarak gösteren bir gözlem platformu.
Yapay Zeka Motoru, bellek sayfaları için LLM'ler gibi çalışacak. Düşük maliyetli ve gerçek zamanlı eğitim/çıkarım yapabilen, 1 saniyenin altında eğitebilen, tek bir EPYC çekirdeğinde çalışabilen ve GPU gerektirmeyen bir kendini geliştirme algoritmasına sahip olacak.
MEXT'in Sunduğu Avantajlar
MEXT ile AMD iki temel amaca ulaşıyor:- DRAM Kullanımını Azaltmak: Bu, veri merkezlerinin toplam DRAM harcamalarını düşürüyor. MEXT ile birlikte kullanılan fiziksel DRAM, %20-75 oranında DRAM kullanımını azaltabiliyor ve Flash depolama sistem belleği olarak çalışırken bile benzer performansı koruyabiliyor.
- Bellek Kapasitesini Artırmak: MEXT ile eşleştirilen fiziksel DRAM, sadece DRAM eklemekten çok daha düşük maliyetlerle 3 kat kapasite artışı sağlıyor.
Kullanım Alanları ve Performans Artışı
MEXT'in kullanım alanları oldukça geniş: Vekil Yapay Zeka (Agentic AI), EDA/Çip Tasarımı, Veritabanı ve Analitik, Medya ve Eğlence gibi alanlarda kullanılabiliyor.- Vekil Yapay Zeka'da: %50 DRAM ve %50 MEXT Flash kullanılan senaryolarda, 5-Vekil iş akışında performansta %90, bellek yoğun vekil kullanımlarında ise %70 artış görülüyor. %25 DRAM ve %75 MEXT kombinasyonunda ise aynı görevde 3.4 kat, bellek yoğun vekil kullanımlarında ise %3.5 daha iyi performans artışı sağlanıyor.
- EDA (Synopsys PrimeTime): 6. Nesil EPYC CPU'larda, MEXT ile DRAM miktarını %50 azaltsanız bile toplam DRAM performansının %95'ini koruyabiliyorsunuz. Bu da performansta 1.9 kat artış sağlıyor. DRAM'i %75 azalttığınızda ise performansın %80'i korunurken, standart tüm-DRAM yapılandırmasına göre 3.2 kat daha iyi bir performans-maliyet oranı elde ediliyor.
- Azure VM'lerde (Spark TPC-DS): 5. Nesil EPYC üzerinde çalışan Azure VM'lerde, MEXT ile %50 DRAM/%50 MEXT bölüştürmesi yapıldığında, tüm-DRAM yapılandırmasına kıyasla %99'a varan performans elde ediliyor.
MEXT'in Kullanılabilirliği
MEXT şu anda Faz 1 aşamasında ve bol çekirdekli AMD EPYC işlemcili ve özel NVMe sürücülerine sahip sunucularda kullanıma hazır. Faz 2'de ise MEXT lisanslanabilir olacak ve RAM View önceden yüklü olarak gelecek.AMD, MEXT ile tüm-DRAM alternatiflerine kıyasla %83 tasarruf sağlamayı hedefliyor. Bu, başlangıçtaki 145 sunucu dağıtımında 4.9 milyon dolarlık DRAM maliyetinden kaçınmak anlamına geliyor ve bu sayının 2027 yılına kadar 2000 sunucuya ölçeklenmesi öngörülüyor.
AMD, MEXT'in veri merkezleri dışına, son kullanıcı ürünlerine de uygulanabileceğini ima ediyor. Bu da gelecekte genel tüketiciler için de heyecan verici gelişmelerin olabileceğini gösteriyor.
Özetle, AMD MEXT, geleneksel bellek ile çok daha ucuz olan Flash belleği akıllıca birleştirerek DRAM darboğazını hafifletmek için pratik ve yazılım odaklı bir yol sunuyor. Hafif yapay zeka algoritmaları kullanarak sıcak verileri DRAM'de tutarken, soğuk sayfaları sessizce Flash'a aktararak maliyetleri düşürüyor, kapasiteyi artırıyor ve performansı koruyor. Donanım değişikliği gerektirmeyen bu çözüm, yapay zeka, tasarım ve analitik iş yüklerinde bellek yönetimini yeniden şekillendirebilir.
MEXT'in başlangıçtaki EPYC dağıtımlarının ötesine geçmesiyle, bu yaklaşım hem veri merkezlerinin hem de zamanla diğer sistemlerin, devam eden tedarik baskısı altında bellek yönetimi şeklini değiştirebilir.
Kaynakça: wccftech.com
