Apple Silicon tarihinde ilk kez, A20 Pro çipinde yer alan çift 16 çekirdekli Neural Engine, yapay zeka görevlerini daha önce hiç olmadığı kadar hızlı bir şekilde yerine getirmek üzere tasarlandı. Akıllı telefonlarda yerel yapay zeka modellerini çalıştırmak isteyenler için bu gelişme hayati önem taşıyor. Son yapılan bir testte, iPhone 18 Pro'nun 27 milyar parametreli bir yapay zeka modelini, iPhone 17 Pro'nun iki katı hızında çalıştırdığı görüldü.
Çift 16 Çekirdekli Neural Engine Token Üretkenliğinde Hızlı, Ancak Sınırlı Bellek Konfigürasyonları Nedeniyle 2-Bit Nicemlenmiş Yapay Zeka Modelleri iPhone 18 Pro İçin Çok Büyük Kalabiliyor
iPhone 18 Pro ve iPhone 18 Pro Max, iPhone 17 Pro ve iPhone 17 Pro Max'ten önemli ölçüde daha hızlı olan 12GB 96-bit LPDDR5X RAM ile geliyor. Bu yükseltme ve çift 16 çekirdekli Neural Engine'in eklenmesi, yerel yapay zeka performansını bir sonraki seviyeye taşıyor. Yapılan bir gösterimde, iPhone 18 Pro üzerinde Bonsai 27B modeli çalıştırılarak token üretme hızındaki inanılmaz artış gözlemlendi.
Elbette, internet bağlantısı olmadan daha yoğun 27 milyar parametreli yapay zeka modellerini çalıştırma konusunda iPhone'lar için büyük bir adım olsa da, kullanıcıların karşılaşacağı bazı ödünler de mevcut. İlk olarak, Bonsai'nin yeni sürümüyle birlikte eskisini çalıştırmanın ne kadar anlamlı olduğu sorusu akla geliyor. Ancak akıllı telefonlarda yapay zeka modellerini çalıştırmanın acımasız gerçekliğiyle karşılaşıyoruz: Bonsai 2'nin 2-bit nicemlenmiş hali, iPhone 18 Pro'nun belleğine yerel olarak sığamayacak kadar büyük, bu da performans düşüşüne neden oluyor.
Bonsai, 1-bit nicemlenmiş bir yapay zeka modeli olarak 4GB RAM'e sahip cihazlarda rahatlıkla çalışabiliyor. 8GB veya 12GB belleğe sahip cihazlarda ise hızla çalışacaktır. Sadece A20 Pro ile donatılmamış olmanın yanı sıra, olağanüstü derecede daha hızlı belleğe, 115.2GB/s birleşik bellek bant genişliğine ve NPU için tasarlanmış iş yüklerinde çipin 7 çekirdekli GPU'sundan daha yüksek tepe işlem çıktısına sahip çift 16 çekirdekli Neural Engine'e sahip iPhone 18 Pro'da, Bonsai 27B yavaşlama belirtisi göstermeyecek.
Umarız Apple gelecekteki sürümlerinde daha büyük bellek yapılandırmalarına geçiş yaptığında, daha yoğun modellerin de desteklendiğini görürüz.
