Apple'ın M4 çipleri gibi işlemcilerindeki Neural Engine (Nöral Motor) şu anda sadece çıkarım (inference) için kullanılabiliyor. Bu durum, geliştiricilerin önceden eğitilmiş yapay zeka modellerini çalıştırmasına olanak tanırken, yeni modellerin eğitilmesini engelliyordu. Ancak, bir teknoloji meraklısı, tersine mühendislik yöntemleriyle bu yazılım kısıtlamalarını aşmayı başardı. Sistemin tamamını RAM'de çalıştırarak yapay zeka hesaplama gücünü inanılmaz derecede hızlandırdı.
M4'ün Tam Potansiyeli CoreML ve Metal Gibi Araçlar Olmadan Açığa Çıkarıldı
Sosyal medya platformunda paylaşılan bilgilere göre, M4'ün gerçek gücünün nasıl kilidinin açıldığına dair kodlar bir depoda yayınlandı. Apple'ın bu işlemcilerle doğrudan iletişim kurmak için herhangi bir izin seviyesi sunmamasına rağmen, ilgili kişi Apple'ın CoreML veya Metal gibi araçlarını ya da GPU'yu kullanmadan M4 ile iletişim kurmayı başardı. Bu başarı, sıfırdan geliştirilen özel bir MIL (Model Intermediate Language) kullanılarak elde edildi.
Donanımın 'kilitli' olması nedeniyle bazı yaratıcı teknikler kullanmak gerekti. Örneğin, süreç takıldığında ve devam etmek için sıfırlanması gerektiğinde, özel MIL "exec()" komutunu kullanarak eğitimi sürdürmek için kendini yeniden başlattı. Bu, programın mevcut durumunu yenileyerek çökmeden öğrenmeye devam etmesine yardımcı oluyor.
Süreci hızlandırmak için, M4'ün kilidinin NAND flash belleğe yazma işlemi yapılmadan, tamamen RAM üzerinde çalıştırıldığı belirtiliyor. Bu sayede her şey çok daha hızlı gerçekleşti. Yazılım kısıtlamalarını aşarak, iPad veya Mac'teki M4 çipleri, yapay zeka modellemesi için yeterli olan 15.8 TFLOPS'luk yapay zeka işlem performansı sunabiliyor. Bu da pahalı bir bilgisayar veya yüksek fiyatlı ekran kartı satın alma ihtiyacını ortadan kaldırıyor.
Bu başarının M4 üzerinde gerçekleştirilmiş olması, gelecekteki Apple Silicon işlemcilerde (örneğin M5) ne gibi performans artışları görülebileceğini düşündürüyor. Henüz bu özel MIL'in yeni Apple Silicon'larda kullanılıp kullanılamayacağı veya "exec()" komutunun daha yeni platformlarda beklendiği gibi çalışıp çalışmayacağı konusunda net bir bilgi yok. Umuyoruz ki bu kodun tekrar çalışırkenki performansını görme şansı bulacağız.
