OpenAI CEO'su Sam Altman, kişisel bilgisayarlarda bulunan yüksek miktarda RAM'in, giderek azalan DRAM kaynaklarının verimsiz kullanıldığına inanıyor. Altman'a göre, bulut veri merkezleri bu kaynakları çok daha etkili kullanabilir. Bu yorumlar, yapay zeka sektörünün devasa bellek talebinin tüketici donanım fiyatlarını fırlattığı hassas bir dönemde geldi.
Stripe kurucu ortağı John Collison ile yaptığı bir podcast yayınında Altman, hem işlemci hem de bellek sıkıntılarına değindi. Ayrıca, bulut altyapısına güvenmek yerine açık kaynaklı yapay zeka modellerini yerel olarak çalıştırma konusundaki artan ilgiye de dikkat çekti.
Altman, bazı kişilerin yetenekli yerel yapay zeka modellerinin kullanılabilirliğinin veri merkezlerine olan ihtiyacı önemli ölçüde azaltabileceğine inandığını belirtiyor. Ancak kendisi bu görüşe katılmıyor ve kişisel bilgisayarlardaki belleğin kullanım oranının oldukça düşük olduğuna işaret ediyor.
Altman, PC'lerdeki bu belleğin yaklaşık yüzde 5 oranında kullanıldığını tahmin ediyor, ancak bu rakam için herhangi bir veri sunmuyor. Bunun yerine, mevcut tedarik kısıtlamaları ortamında, paylaşımlı bulut altyapısı aracılığıyla bellek kullanımını en üst düzeye çıkarmanın daha mantıklı olacağını savunuyor.
Altman'ın bu sözleri, tüketici PC pazarını etkileyen benzeri görülmemiş bellek sıkıntısı göz önüne alındığında özellikle dikkat çekici. Yapay zeka altyapısı yatırımları, üretim kapasitesinin önemli bir bölümünü tüketiyor.
Yakın zamanda yapılan bir habere göre, önümüzdeki yıllarda bellek sıkıntılarının daha da kötüleşmesi bekleniyor ve tedarik kısıtlamalarının uzun bir süre devam etmesi öngörülüyor. Ana üreticiler şimdiden gelecek yıllara ait yüksek bant genişlikli bellek (HBM) arzını satmış durumda ve üretim kapasitelerinin önemli bir kısmını kapsayan uzun vadeli anlaşmalar yapmış durumda.
Bu arada, özellikle yüksek kapasiteli DDR5 RAM kitlerinin fiyatları son bir yılda belirgin şekilde arttı. Birkaç ay önce uygun bir fiyata alınan 32GB DDR5-7600 RAM kiti, bugün çok daha yüksek fiyatlarla listeleniyor, ancak yine de daha uygun fiyatlı alternatifler bulunuyor.
İlginç bir şekilde Altman, piyasanın bu sıkıntıya yanıt vermekte zorlandığını da kabul ediyor. Bellek üreticilerinin, geçmişteki fiyat dalgalanmalarının ardından yeni üretim kapasitesine agresif yatırım yapma konusunda isteksiz olduklarını öne sürüyor.
Kaynak kullanımındaki verimlilik konusundaki argümanının ekonomik bir dayanağı olsa da, yerel bilişimin merkezi bulut altyapısının tam olarak karşılayamayacağı avantajları bulunuyor. Bunlar arasında çevrimdışı çalışma, kişisel veriler üzerinde daha fazla kontrol ve harici hizmetlerden bağımsızlık yer alıyor.
Ayrıca, Altman'ın yerel yapay zeka çıkarımının verimliliği hakkında konuştuğunu ve doğrudan tüketicilerin RAM satın almayı bırakması gerektiğini ima etmediğini belirtmekte fayda var. Bununla birlikte, yorumlarının, zaten tarihi yüksek bellek fiyatlarıyla karşı karşıya kalan PC meraklılarını memnun etmesi pek olası değil. Özellikle yapay zeka endüstrisinin devasa altyapı gereksinimlerinin devam eden sıkıntının temel nedenlerinden biri olduğu göz önüne alındığında.
Kaynakça: wccftech.com
