Geçtiğimiz hafta yapay zeka dünyasında büyük bir merak uyandıran Ox Alpha modelinin gizemi büyük ölçüde çözüldü. Adı geçen gizemli yapay zeka modelinin, Çin merkezli yapay zeka laboratuvarı Zhipu (Z.ai) tarafından geliştirilen GLM-5.3-Flash olduğu anlaşıldı.
Daha önce yapılan açıklamalara göre, Ox Alpha modeli OpenRouter ve OpenCode platformlarında ücretsiz olarak kullanıma sunulmuştu. Model, 1 milyon jetonluk çok modlu (metin, ses, video) bir bağlam penceresi, 131.072 jetonluk çıktı limiti ve günde 100 trilyon jeton işleme kapasitesi ile dikkat çekmişti. Bu özellikler, modelin Zhipu'nun GLM ailesine ait olabileceği yönündeki tahminleri güçlendiriyordu. Ancak bazı iddialar, modelin OpenAI tarafından geliştirilen ve bir bayt-çift kodlama (BPE) belirteci olan cl 100k_base'i kullanması nedeniyle Microsoft'un yeni sınır modeli MAI 2 olabileceği yönündeydi.
Zhipu (Z.ai), sonunda bu gizemi aydınlattı ve yaptığı resmi açıklamada Ox Alpha'nın kendi GLM-5.3-Flash modeli olduğunu doğruladı. Yapay zeka laboratuvarı ayrıca, Ox Alpha'nın 100 trilyon jeton/günlük deneme kapasitesinin tamamının Çin üretimi yapay zeka çiplerinde çalıştırıldığını vurguladı. Bu durum, GLM-5.3-Flash'ın deneme sürecinde büyük olasılıkla Huawei'nin Ascend serisi GPU'ları tarafından desteklendiğini gösteriyor.
Mimari açıdan bakıldığında, Zhipu'nun GLM-5.3-Flash'ı, modelin metni sıralı olarak okuduğu ve ilerledikçe tek, kompakt bir 'zihinsel özet' (KV önbelleği olarak da bilinir) güncellediği doğrusal dikkat mekanizmasını, modelin nispeten ayrıntılı bilgiyi sakladığı ancak ayrı bir klasöre ve daha yavaş bir bellek katmanına kaydettiği ve belirli bir detayı gerektiğinde kurtarmak için bir dizin kullandığı seyrek dikkat mekanizması ile birleştiriyor.
GLM-5.3-Flash ayrıca, her önemli bilgiyi son derece yoğun, dijital bir ana tabloya sıkıştıran ve verilen bağlam (girdi) için ışık hızında dijital bir dizin görevi gören bir IndexPool kullanıyor.
Son olarak model, katmanların birbiriyle nasıl iletişim kurduğunu belirleyen bir protokol olan Manifold-Constrained Hyper-Connections (mHC) kullanıyor. Bu protokol, modelin donanım 'bellek duvarına' çarpmadan veya sistemi tıkamadan karmaşık fikirleri mimarisi boyunca zahmetsizce iletmesini sağlıyor. mHC, her birleştirme işlemi sırasında toplam hacmin matematiksel olarak tam olarak yüzde 100'e eşit olmasını zorlayarak, bir katman bilgi aktarırken diğerlerinin sesini otomatik olarak ayarlar.
Bu mimari unsurların birleşimi, GLM-5.3-Flash'ı oldukça verimli hale getiriyor. Zhipu (Z.ai)'ye göre, laboratuvarın en son 30 trilyon jetonluk çok modlu ön eğitim verisi ile birleştiğinde, GLM-5.3-Flash'ın Claude Opus-4.8 seviyesinde bir performansı yaklaşık 1/10 maliyetle sunduğu belirtiliyor.
