Yapay zeka (YZ) alanındaki baş döndürücü gelişmeler, bilgisayar donanımı pazarında büyük bir hareketliliğe neden oluyor. Bu büyümenin sürdürülebilir olup olmadığı bir yana, şirketler donanım için devasa miktarda harcama yapıyor. Bu harcamaların büyük kısmı ekran kartlarına (GPU) odaklanmış olsa da, depolama sektörü de ciddi bir baskı altında. Özellikle son on yılda üretim kapasitesini artırma konusunda yeterince adım atmadığı iddia edilen sabit disk (HDD) üreticileri zor günler geçiriyor.
Yüksek kapasiteli "nearline" (çevrimdışı ile çevrimiçi arasında yer alan) sabit disklerin teslim sürelerinin 52 haftayı, yani bir yılı aştığı belirtiliyor. Sabit disk üreticilerinden biri, müşterilerine gönderdiği bir uyarıda portföyündeki tüm kapasiteler için eşi benzeri görülmemiş bir talep olduğunu ve tüm sabit disklerinde fiyat artışına gideceğini bildirdi. Bu adımın şirketin büyümesini desteklemek ve sürekli mükemmelliği sağlamak için atıldığı belirtilse de, bu durum şirketin kar marjlarını ve dolayısıyla kârlarını artıracaktır.
Peki, "nearline" depolama tam olarak ne anlama geliyor? Bu terim, tam olarak çevrimiçi olmayan ancak tamamen çevrimdışı da olmayan depolama alanını ifade eder. "Ilık" veri olarak tanımlanan bu bilgiler, hızlı erişim gerektirir ancak şu anda hemen hemen tüm sistemlerin birincil çevrimiçi depolaması olarak kullanılan SSD'ler kadar hızlı veya duyarlı olmak zorunda değildir. Sürekli erişilmeyen bu veriler için sabit diskler, ekonomik bir çözüm sunar. SSD'ler gigabayt başına maliyette büyük ilerlemeler kaydetmiş olsa da, sabit diskler genellikle kapasite başına dört ila beş kat daha ucuzdur.
Üretken yapay zeka (generative AI) gibi iş yükleri, "nearline" depolama için muazzam talepler yaratıyor. Üretken yapay zeka sınırsız miktarda çıktı üretebilir, ancak sunucuların depolama alanını dolduran sadece YZ modellerinin çıktıları değil. Üretken yapay zeka iş yüklerini kurmak ve çalıştırmak için gereken yazılım altyapısı da oldukça yoğundur: Eğitim veri kümeleri, model kontrol noktaları, çıkarım günlükleri ve daha özel ince ayar veri kümeleri kısa sürede petabaytlarca veriyi tüketebilir.
Bu nedenle, "ılık" depolama trendi dikey bir yükseliş gösteriyor. Sadece çıkarım yapmak için gereken veriye değil, aynı zamanda düzenleyicilere önyargı giderme konusunda kanıt sunmak, yeni veriler geldiğinde yeniden eğitmek ve ince ayarlanmış modelin kontrolden çıkması durumunda önceki bir kontrol noktasına geri dönmek için geçmişe dair her şeye ihtiyacınız var. Bu veriler, kısa vadede ihtiyaç duyulmadığından emin olana kadar çevrimdışı depolamaya gönderilemez. Ancak en güçlü sunucuların birincil depolamasında barınamayacak kadar büyüktür. İşte bu yüzden "nearline" sabit disklere ihtiyaç duyuluyor.
Sabit disk tedarikinin yetersizliği nedeniyle, bulut hizmet sağlayıcıları (CSP'ler) ve diğer büyük teknoloji şirketleri, soğuk veri depolama için ekonomik QLC SSD'leri değerlendirebilir. Bu durumun faydaları var: Performans daha iyi, fiziksel yoğunluk artırılabilir, güç tüketimi genellikle daha düşüktür ve en önemlisi, satın alınabilir durumdadırlar. Ancak, daha önce de belirtildiği gibi, SSD fiyatları gigabayt başına maliyette yaklaşık dört kat daha fazladır ve yüzlerce, binlerce veya on binlerce terabayt depolama satın alırken bu maliyet hızla artar.
Bu duruma bir yanıt olarak, bellek tedarikçilerinin "nearline" hizmetlerde kullanılmak üzere tasarlanmış SSD ürünlerini aktif olarak geliştirdiği bildiriliyor. Bu ürünlerin piyasaya sürülmesiyle maliyetlerin düşmesi bekleniyor. Ancak kısa vadede, depolama sıkıntısının, en azından kurumsal sürücüler için SSD fiyatlarının artmasına neden olmasını bekleyebiliriz. Eğer katı hal depolama birimi almayı düşünüyorsanız, şimdiden araştırmaya başlamanız iyi bir fikir olabilir.
