Yapay zeka alanındaki gelişmeler hız kesmeden devam ederken, NVIDIA'nın yeni nesil yapay zeka sistemlerinin depolama ihtiyaçları, NAND SSD piyasasında önemli bir arz şokuna neden olabilir. Önümüzdeki yıllarda milyonlarca terabayt NAND kapasitesine ihtiyaç duyulması bekleniyor.
NVIDIA'nın Yeni Depolama Çözümü, Küresel NAND Üretiminin Büyük Bir Kısmını Tüketebilir
Yapay zeka uygulamalarında, özellikle sorgu işlemleri sırasında bağlam oluşturmak için büyük geçici bellek kayıtları olan KV Cache'ler üretiliyor. Mevcut durumda bu veriler HBM modüllerinde saklanıyor. Ancak yapay zeka kümelerindeki veri gereksinimlerinin hızla artmasıyla birlikte, HBM modüllerinin kapasitesi yetersiz kalmaya başlıyor. Bu durumu aşmak için NVIDIA, Bluefield-4 DPÜ'lerinin yeni bir depolama çözümü olan Inference Memory Context Storage (ICMS) ile entegre edileceğini duyurdu. Bu gelişme veri işleme kapasitesini önemli ölçüde artırsa da, DRAM sıkıntılarına benzer bir duruma yol açabilir.
Yapılan analizlere göre, tek bir Vera Rubin sistemi için NVIDIA, sunucu başına yaklaşık 16 TB NAND kullanabilir. Bu da tek bir NVL72 yapılandırmasında 1.152 TB'a denk geliyor. Tahminlere göre, 2027 yılına kadar Vera Rubin sevkiyatları 100.000 adede ulaşabilir. Bu durum, yalnızca NVIDIA'dan kaynaklanan NAND depolama talebini 115,2 milyon TB'a çıkarabilir ki bu da önümüzdeki yıllar için öngörülen küresel NAND talebinin %9,3'ünü oluşturuyor. ICMS ile donatılmış Vera Rubin sistemleri, NAND sektörünün henüz hesaba katmadığı bir arz şoku yaratabilir.
NVIDIA'nın, yapay zeka uygulamalarını gelecekteki temel odak noktası olarak belirlediği göz önüne alındığında, önümüzdeki sunucu rafları için yeterli KV Cache havuzuna olan ihtiyaç oldukça büyük. Bu nedenle ICMS talebinin artması bekleniyor. Ayrıca, veri merkezlerinin yaygınlaşması, yapay zeka çıkarımına olan ilginin artması ve NVIDIA'nın küresel NAND üretiminin önemli bir bölümünü hedeflemesi gibi faktörler nedeniyle NAND sektörünün zaten bir sıkıntı yaşadığını da belirtmek gerekir.
Yapay zeka üreticilerinin daha üstün hesaplama yetenekleri peşinden koşmayı bırakmayacağı düşünüldüğünde, NAND sektörünün DRAM ile yaşadığımız duruma benzer bir durumla karşı karşıya kalması şaşırtıcı olmayacaktır. Bu durum, ortalama bir tüketici için genel amaçlı SSD ve depolama cihazlarına erişimin daha da zorlaşmasına neden olabilir.
