Apple, dokuz yıldır kullanılan CoreML motorunun yerini alacak yeni nesil yapay zeka (AI) motoru CoreAI'yi nihayet tanıttı. Yeni nesil motor, format bağımsız çıkarım (inference) yeteneği ve büyük modeller için bellek ayak izi desteği gibi önemli yenilikleri beraberinde getiriyor. Ancak ilk testler, Apple'ın yeni AI çerçevesi ve cihaz içi modellerinin performansına dair daha karmaşık bir tablo çiziyor.
Yeni Benchmark Testleri: CoreAI, 8 Milyar Parametrelik Gerçekçi Model Boyutlarında MLX ile Neredeyse Berabere Kalıyor
Apple, 2017 yılında öncelikli olarak görüntü sınıflandırma ve ağaç toplulukları gibi daha küçük ve statik makine öğrenimi görevlerini yerine getirmek üzere CoreML makine öğrenimi çerçevesini piyasaya sürmüştü. CoreAI ise bu motorun tamamen yenilenmiş halefi olarak, uç nokta (edge) yapay zekası ve cihaz içi çıkarımlar için optimize edilmiş durumda.
Buna karşılık, MLX ise ağırlıklı olarak araştırma, eğitim ve ince ayar için tasarlanmış, Apple'ın Metal GPU'su ve birleşik bellek mimarisine kilitlenmiş bir motor.
Son zamanlarda yapılan yeni bir kıyaslama testi, Apple'ın yeni CoreAI motoru hakkında ilginç bilgiler sundu.
Öncelikle, 0.6 milyar parametreye sahip Qwen3 gibi küçük modellerde, CoreAI'nin M4 çipli bir Mac'te MLX'e kıyasla kod çözme (decoding) görevlerinde yaklaşık 2.47 kat daha hızlı olduğu gözlemlendi. Benzer şekilde, bir iPhone 17 Pro üzerinde de Qwen3 0.6b modelinde CoreAI, MLX'ten yaklaşık 1.6 kat daha hızlı çalışıyor. Ancak model boyutu daha pratik olan 8 milyar parametreye (Qwen3 8b, M4 Max Mac) çıktığında, CoreAI'nin MLX'ten sadece 1.05 kat daha hızlı olduğu ve kod çözme performansında neredeyse eşit bir performans sergilediği görülüyor.
İlginç bir şekilde, iPhone 17 Pro üzerindeki sürekli iş yüklerinde GPU nispeten hızlı bir şekilde kısılıyor. Bu durum, CoreML/Apple Neural Engine kombinasyonunun elde tutulan performans açısından öne çıkmasına olanak tanıyor. Bu kombinasyon ayrıca en az belleği tüketiyor, ancak kod çözme görevlerinde en yavaş olanı aynı zamanda.
