Yapay zeka dünyası, artık eğitim aşamasından çıkarak çıkarım (inference) süreçlerine odaklanıyor. Bu yeni dönemde, NAND çiplerini temel alan, çıkarım odaklı yapay zeka SSD'leri ön plana çıkıyor. SK Hynix'in 2027 yılına kadar bu alanda bir çözüm sunması bekleniyor.
NVIDIA ve SK Hynix, Yapay Zeka Çıkarım Yükleri İçin "AI SSD" Geliştiriyor
Geleneksel yapay zeka iş yüklerinin eğitimden çıkarıma kaymasıyla birlikte, düşük gecikme süresi ve yüksek verimlilik sağlayan teknolojik altyapıların da buna adapte olması gerekiyor. NVIDIA'nın yeni Rubin CPX GPU'sunda genel amaçlı GDDR7 belleği kullanma kararı da bu değişimin bir göstergesi. Benzer bir yaklaşımın NAND çipleri için de benimsenmesi bekleniyor. Edinilen bilgilere göre, NVIDIA ve SK Hynix, "Storage Next" adını verdikleri dahili bir proje kapsamında yeni bir SSD çözümü üzerinde çalışıyor ve bu çözüm, NAND segmentinde bir devrim yaratabilir.
SK Hynix'in gelecek yılın sonuna kadar bir prototip sunmayı planladığı ve bu yapay zeka SSD'lerinin geleneksel kurumsal SSD'lerin çok ötesinde, muazzam bir performans olan 100 milyon IOPS'a ulaşabileceği iddia ediliyor. Böylesine bir çözüme duyulan ihtiyaç, mevcut yapay zeka iş yüklerinin devasa model parametrelerine sürekli erişim gerektirmesinden kaynaklanıyor. Bu da HBM veya genel amaçlı DRAM ürünlerinin yetersiz kalmasına neden oluyor. Yapay zeka SSD'leri, yapay zeka iş yükleri için optimize edilmiş sözde bir bellek katmanı sunacak.
Güney Koreli teknoloji devi SK Hynix'in, gelişmiş NAND ve kontrolcü mimarileri aracılığıyla verimliliği ve enerji tüketimini artırmayı hedefleyen "Storage Next" projesinde NVIDIA ile iş birliği yaptığı söyleniyor. Hedefler oldukça iddialı görünse de, bulut servis sağlayıcıları ve yapay zeka devlerinin depolama talepleri nedeniyle NAND tedarik zincirlerinin zaten büyük bir baskı altında olduğunu belirtmekte fayda var. Eğer bu bahsedilen yapay zeka SSD çözümü yaygınlaşırsa, NAND Flash çiplerinde de DRAM'dekine benzer bir durum yaşanması muhtemel.
Yapay zeka iş yüklerini desteklemenin, mevcut tedarik zincirlerini bozarak hem tüketicilerin hem de tedarikçilerin değişen arz-talep durumuna uyum sağlamak için yeterli zamana sahip olmamasının yüksek bir maliyeti olduğu anlaşılıyor. DRAM sözleşme fiyatları her geçen gün kötüleşiyor ve NAND'ın da sıradaki olacağı düşünülüyor.
