Yapay zeka (YZ) alanındaki hızlı gelişmeler, özellikle GPU belleklerinin yetersiz kalması gibi sorunları da beraberinde getiriyor. Bu noktada, ADATA'nın TRUSTA markası altında geliştirdiği yeni bellek çözümü, sistem belleği ve SSD depolama birimlerini entegre ederek bu sınırlamaların üstesinden gelmeyi hedefliyor.
GPU'lar VRAM Yetersizliği Mi Yaşıyor? TRUSTA'nın Yeni Bellek Çözümü YZ Sınırlamalarını Aşıyor
Yapay zeka çıkarımı (inference) ve ajan tabanlı YZ iş akışlarının yükselişi, teknoloji dünyasında büyük bir etki yarattı. Bu alandaki talep hızla artarken, arzın yetersiz kalması dikkat çekiyor. Yapay zeka firmaları, GPU gibi hızlandırıcılar üzerinde daha fazla belleğe ihtiyaç duyuyor. Aynı zamanda, son dönemdeki CPU'lardaki artış da sistem belleği gereksinimlerini önemli ölçüde yükseltmiş durumda. Bu karmaşık ortamda, ADATA'nın kardeş markası TRUSTA, "AI scaler Extended Memory" adını verdiği yeni bir çözümle geliyor. Bu çözüm, sistemlerde mevcut olan tüm bellekleri ve SSD gibi depolama birimlerini eş zamanlı olarak kullanarak model dağıtımı için kullanıyor ve böylece artan bellek darboğazlarını gidermeye yardımcı oluyor.
Basın Duyurusu: Hafıza lideri ADATA Technology Co.'nun kurumsal depolama markası TRUSTA, bugün TRUSTA AI Scaler Extended Memory Çözümü'nü resmi olarak lanse ediyor. Sektörde öncü bir adım olarak TRUSTA, AI Scaler Toolkit'i çözümün temelini oluşturmak üzere tanıtıyor. Bu araç, YZ modellerinin dağıtımını sadece GPU tabanlı mimarilerin dışına taşıyarak sistem belleği ve yüksek hızlı SSD'lere kadar genişletiyor. Yazılım ve donanım entegrasyonlu bu çözüm, işletmelerin GPU bellek sınırlamalarının üstesinden gelmesine ve özellikle model çıkarımı ile ince ayar (fine-tuning) senaryolarında YZ dağıtım maliyetlerini %50'den fazla düşürmesine yardımcı oluyor.
Bu lansman aynı zamanda ADATA'nın bir bellek ve depolama markasından, yazılım ve donanım entegrasyonlu bir çözüm sağlayıcısı olarak evrimini de işaret ediyor. Bu adım, küresel işletmeler için daha verimli, ölçeklenebilir ve esnek şirket içi YZ altyapıları oluşturma taahhüdünü güçlendiriyor.
Bellek Hiyerarşisini Yeniden Tanımlayarak YZ Benimsenmesini %50'den Fazla Düşük Maliyetle Destekliyor
Araştırma firmaları, YZ altyapısının 2034 yılına kadar yaklaşık %26'lık bir bileşik yıllık büyüme oranıyla büyüyeceğini öngörüyor. Daha fazla YZ dağıtımı, bulut hizmetlerinin ötesine geçerek şirket içi ve uç (edge) dağıtımlardan oluşan yeni bir aşamaya giriyor. Kuruluşlar YZ altyapılarını kurarken, veri gizliliği, düzenleyici uyumluluk, maliyet kontrol edilebilirliği ve veri yerçekimi gibi faktörler, TRUSTA'yı GPU, DRAM ve SSD genelinde daha ekonomik ve ölçeklenebilir bir bellek yapılandırmasının nasıl kurulabileceği konusunda yeni bir konsept sunmaya yönlendirdi.
Günümüzde büyük dil modellerini çalıştırmak genellikle üst düzey GPU'lar gerektiriyor, bu da yüksek dağıtım engelleri ve sınırlı ölçeklenebilirlik yaratıyor. TRUSTA AI Scaler Extended Memory Depolama Çözümü, bu pazar zorluğuna çözüm üretmek için tasarlandı. Tamamen GPU belleğine dayanan mimarilere kıyasla, AI Scaler Toolkit model dağıtımını GPU belleği, DRAM ve SSD'lere kadar genişleterek sistem kaynaklarının daha verimli kullanılmasını sağlıyor.
Test edilen senaryolarda, genellikle birden fazla GPU gerektiren model çıkarımı, genişletilmiş sistem belleği ile birleştirilmiş tek bir GPU üzerinde çalışacak şekilde optimize edilebiliyor. Model ince ayarı için ise çözüm, daha esnek kaynak ölçeklendirmeyi sağlamak üzere GPU, DRAM ve SSD arasında hesaplama kaynaklarını dinamik olarak ayırabiliyor. Bu sayede dağıtım maliyetleri %50'den fazla azalıyor ve işletmeler sınırlı bütçelerle YZ benimsemesini değerlendirebiliyor.
COMPUTEX Ödüllü Yenilik, Yaygın Modelleri Destekliyor ve YZ Ajan Entegrasyonunu Hızlandırıyor
AI Scaler Toolkit, belirli donanım yapılandırmalarına bağlı olmayan, ücretsiz ve açık kaynaklı bir platform olarak tasarlanmıştır. Bu, işletmelerin, araştırma kurumlarının ve geliştiricilerin kaynakları kendi ihtiyaçlarına göre yapılandırmasına olanak tanır. Platform, Llama, Qwen, Mistral, Mixtral, GPT-OSS, DeepSeek, Phi ve Gemma gibi yaygın model ailelerini destekliyor ve ek modellerle uyumluluk sürekli genişliyor. Ayrıca OpenClaw, NemoClaw ve Hermes Agentic gibi YZ ajan uygulamalarını da destekleyerek kullanıcıların AI Scaler'ı daha eksiksiz Ajan YZ iş akışlarına entegre etmelerine yardımcı oluyor.
AI Scaler Toolkit artık indirme ve kullanım için tam olarak hazır. TRUSTA, COMPUTEX'te ayrıca 15.36TB'a kadar kapasite sunan ve U.2, E1.S ve E3.S dahil olmak üzere birden fazla form faktörünü destekleyen en yeni TD7P51 ECO PCIe Gen5 kurumsal SSD'sini de sergileyecek. SSD, akıllı veri yerleşimi yoluyla güvenilirliği ve kararlılığı artıran FDP (Flexible Data Placement) gibi teknolojileri de barındırıyor. TRUSTA ürünleri, birden fazla önde gelen küresel sunucu platformunda da doğrulanmış olup, markanın YZ, bulut ve veri merkezi uygulamaları için kurumsal depolama portföyünü daha da güçlendiriyor.
