Axera, yapay zeka alanında çığır açan yeni işlemcisi AX8860'ı tanıttı. Yapılan açıklamalara göre bu yeni çip, yapay zeka büyük dil modellerinde (LLM) rakiplerini %25'e kadar geride bırakırken, aynı zamanda güç tüketimini de yarıya indiriyor ve fiyat avantajı sunuyor.
Axera'nın AX8860 Yapay Zeka İşlemcisi Rekabette Fiyat ve Performans Avantajı Sağlıyor
Çinli yapay zeka şirketi Axera, yapay zeka LLM'leri ve yapay zeka ajanlarını çalıştırmak üzere tasarlanan yeni nesil çözümlerini duyurdu. AX8860 adlı bu çip, 16 çekirdekli Arm Cortex-A55 CPU, 256 TOPS'a kadar hesaplama gücü sunan bir NPU ve 256-bit LPDDR5/5X denetleyicisine dayanıyor. 6nm üretim süreciyle tasarlanan çip, PCIe 5.0 bağlantı özelliğine sahip.
Belirtilen 256 TOPS değeri, herhangi bir seyrekliği hesaba katmadan saf FP4 performansı üzerinden elde ediliyor. Ayrıca çip, bahsedilen 256-bit veri yolu arayüzü üzerinden 128 GB'a kadar LPDDR5X bellekle yapılandırılabiliyor. Bu yapılandırma, saniyede 273 GB'a varan bant genişliği sağlayarak, günümüzün önde gelen yapay zeka platformlarıyla rekabet ediyor.
Bazı cihazlarda 256 Gbps ağ arayüzü ile kümelenmiş yapılandırmalar da destekleniyor, bu da rakiplerinin sunduğu ağ arayüzlerinden daha yüksek bir hız anlamına geliyor. 2x kümelenmiş bir konfigürasyonda, Axera hesaplama çıktısını 512 TOPS'a çıkarabiliyor ve 4x kümelenmiş bir yapılandırmada ise %80 ölçeklendirme verimliliği ile 1024 TOPS'a ulaştıklarını iddia ediyor.
Cihazlara gelince, Axera AX8860P/8860 çeşitli ürün tasarımlarıyla piyasaya sürülecek. Bunlardan ilki, sadece 40W güç tüketimine sahip özel bir modül olarak sunuluyor.
Ayrıca, ağ ve ekran bağlantı arayüzüne sahip tek yuvalı bir PCIe kartı da bulunuyor. Bu kart, Gen5x4 konektörü kullanıyor ve ısı dağılımı için ek bir fan içeriyor. Bunun yanı sıra, tek yuvalı form faktöründe dörtlü bir ASIC çözümü de mevcut; bu çözüm, büyük bir soğutucu üzerinde dört fan barındırıyor ve standart bir 8-pin güç konektörü ile çalışıyor. Aynı çipin kullanıldığı Mini PC ve Cep PC'ler de geliştirme aşamasında.
Axera, AX8860 çipiyle yetinmiyor. Şirketin yol haritasında, 500 TOPS'a kadar yapay zeka hesaplama gücü sunacak Axera 8950 ve ardından 700 TOPS üzerinde performans sunacak bir sonraki nesil 8970 çipi gibi gelecek çözümler de yer alıyor.
Yapılan testler, AX8860 yapay zeka çipinin performans ve maliyet açısından dikkat çekici rakamlar sunduğunu gösteriyor. Özellikle büyük dil modellerinde ön doldurma (prefill) ve çözme (decode) hızlarında önemli bir iyileşme sağladığı belirtiliyor. Ayrıca, bu çipin rakip çözümlerin yaklaşık yarısı fiyatına mal olacağı tahmin ediliyor.
Eğer bu iddialar doğrulanırsa, Axera'nın yapay zeka çipi, küçük form faktörlü LLM ve ajan tabanlı yapay zeka makineleri için sağlam bir seçenek olarak öne çıkacaktır. Yazılım tarafında ise çip, vLLM, SGLang, PyTorch gibi birçok LLM geliştirme çatısını destekliyor.
256 TOPS'a kadar FP4 performansı, 128 GB yüksek bant genişlikli LPDDR5X bellek, güçlü kümeleme desteği ve daha yüksek performanslı çiplere yönelik net bir yol haritası ile bu platform, küçük LLM ve ajan tabanlı yapay zeka sistemleri için pratik ve uygun maliyetli bir alternatif olarak konumlanıyor. Ancak bu iddiaların bağımsız testlerle doğrulanması önem taşıyor.
