Yapay zeka (YZ) alanında önemli bir adım atıldı. AMD ve Intel, x86 mimarileri için ortak bir yol haritası üzerinde çalışarak, YZ performansını kökten değiştirecek olan Yapay Zeka Hesaplama Uzantıları'nı (ACE - AI Compute Extensions) duyurdu. Bu yeni mimari, matris çarpımı performansını hızlandırmayı hedefliyor.
ACE, Intel ve AMD'nin Birleşik x86 Stratejisinin Parçası: Daha Hızlı Matrix Hızlandırmayla Ekosistemi YZ Çağına Taşıyor
Geçtiğimiz yıl Intel ve AMD, "x86 Ekosistem Danışma Grubu" girişimiyle x86 ekosistemini güçlendirmek için bir araya geldi. Bu iş birliğinin temel amacı, mimariler arasında standartlaştırılmış bir dizi özellik sunarak x86'yı daha erişilebilir, ölçeklenebilir ve gelecekteki gereksinimlere uyumlu hale getirmekti. Bu kapsamda FRED, AVX10, ChkTag ve ACE gibi dört önemli özellik duyurulmuştu.
Şimdi ise AMD ve Intel tarafından yayınlanan ACE Beyaz Kitabı (Whitepaper), x86 işlemciler için tasarlanan bu yeni özelliğin neler sunduğuna dair detaylı bilgiler veriyor.
x86 mimarileri için geliştirilen Yapay Zeka Hesaplama Uzantıları (ACE), matris çarpımı performansında önemli bir artış sağlarken, aynı zamanda ölçeklenebilirlik ve enerji verimliliği sunmayı amaçlıyor. Bildiğimiz gibi matris çarpımı, YZ iş yüklerindeki sinir ağları ve büyük dil modellerinin (LLM) temelini oluşturuyor. Mevcut SIMD (Tek Komut, Çoklu Veri) uzantıları, örneğin AVX10, matris çarpımı yapabilse de, ölçeklenebilirlik ve hesaplama yoğunluğu açısından sınırlamalara sahip olabiliyor. Hızlandırılmış Matris Çarpımı gibi teknikler daha yüksek performans sağlayabilir ancak bu her zaman verimli bir yaklaşım olmayabiliyor.
Danışma Grubu, bu sorunu ACE ile çözmeyi hedefliyor. ACE, matris çarpımını hızlandırırken daha fazla esneklik ve ölçeklenebilirlik sunuyor. Bu sayede dizüstü bilgisayarlardan süper bilgisayarlara kadar geniş bir yelpazedeki uygulamalar için ölçeklenebilir bir matris hızlandırma çerçevesi oluşturulabiliyor. Bu ölçeklenebilirlik ve platformlar arası uyumluluk, YZ hesaplamalarını özel donanımlara aktarmaya kıyasla geliştirici karmaşıklığını azaltıyor.
Beyaz kitaba göre, AMD ve Intel, ACE'yi "x86 için Standart Matrix Hızlandırma Mimarisi" olarak adlandırıyor.
Detaylara indiğimizde, ACE, INT8, OCP FP8, OCP MXFP8, OCP MXINT8 ve BF16 gibi popüler YZ veri formatlarının yerel matris çarpımını destekliyor. ACE ayrıca, AVX10 ile çalışmak üzere tasarlanmış, dış çarpım (outer product) işlemine dayalı matris hızlandırmasını da getiriyor. ACE'nin dış çarpım işlemi, aynı sayıda giriş vektörü tüketirken eşdeğer bir AVX10 çarpma-biriktirme işlemine kıyasla 16 kat daha fazla hesaplama yoğunluğu avantajı sunuyor.
ACE, AVX10 komut seti uzantısı olduğu için, yazılım desteği çalışmaları da devam ediyor. Bu kapsamda gerçekleştirilen bazı entegrasyonlar şunları içeriyor:
- Derin Öğrenme ve Yüksek Başarımlı Hesaplama (HPC) kütüphaneleri (örneğin, düşük hassasiyetli GEMM'ler, LLM ilkel öğeleri)
- NumPy ve SciPy gibi popüler Python tabanlı kütüphaneler
- PyTorch ve TensorFlow gibi makine öğrenimi çerçeveleri
ACE, x86 için ileriye dönük yol haritasında yalnızca bir adımdır. Bilindiği gibi, mimarinin ayakta kalması için Intel ve AMD arasındaki x86 ittifakının gerekli olduğu ifade edilmişti. Görünüşe göre x86, emin ellerde ilerlemeye devam ediyor.
