Pekin merkezli Moonshot AI, 2.8 trilyon parametrelik Kimi K3 modelini tanıttı. Şirket tarafından yapılan açıklamada, Kimi K3'ün dünyanın ilk açık kaynaklı 3 trilyon parametre sınıfı sistemi ve şimdiye kadarki en büyük açık ağırlıklı yapay zeka modeli olduğu belirtiliyor. Moonshot, K3'ün genel performans açısından Anthropic'in Claude Fable 5'i ve OpenAI'nin GPT 5.6 Sol'unun gerisinde kalsa da, şirketin değerlendirme setindeki Claude Opus 4.8 ve GPT 5.5 gibi diğer tüm modelleri kodlama ve ajanlık alanındaki kıyaslamalarda geride bıraktığını ifade ediyor. K3, 1 milyon tokenlık bir bağlam penceresine sahip, yerleşik görüntüleme yetenekleri barındırıyor ve token başına yalnızca 896 uzmandan 16'sını etkinleştirerek havuzun yaklaşık %1.8'ini kullanıyor. Tam ağırlıkların 27 Temmuz'da yayımlanması bekleniyor.
Arena'nın Ön Uç Kodlama (Frontend Code) değerlendirmesinde K3, 1.679 puanla Fable 5'in önünde birinci sıraya yerleşti. API fiyatlandırması, önbelleğe isabet eden giriş tokenları için milyon başına 0.30 ABD doları, önbelleğe isabet etmeyenler için milyon başına 3 ABD doları ve çıkış tokenları için milyon başına 15 ABD doları olarak belirlendi. Bir yıl önce piyasaya sürülen Kimi K2'nin giriş tokenları milyon başına 0.60 ABD dolarıydı, bu da önbelleğe alınmamış K3 giriş maliyetinin beş kat daha pahalı olduğu anlamına geliyor.
Moonshot, Kimi K2'ye kıyasla ölçeklendirme verimliliğinde yaklaşık 2.5 kat iyileşme sağladığını iddia ediyor. Bu iyileşmenin, hibrit bir doğrusal dikkat mekanizması olan Kimi Delta Attention ve katmanlar arasındaki bilgi akışını değiştiren Attention Residuals olmak üzere iki mimari değişikliğe dayandığı belirtiliyor. Miktarlamaya duyarlı eğitim, denetimli ince ayar aşamasında MXFP4 ağırlıkları ve MXFP8 aktivasyonları kullanılarak başlıyor. Moonshot, bu kombinasyonu geniş donanım uyumluluğu için seçtiğini söylüyor. Bir analist ekibi tarafından yapılan bir notta, büyük ölçekli ön eğitim ve mimari çalışmaların, teknoloji kısıtlamalarına rağmen Çin'in amiral gemisi modelleri için önemli kazanımlar sağlayabildiği vurgulanıyor.
Moonshot'un çekirdek optimizasyon kıyaslaması Nvidia'nın H200'ü ve şirketin adı açıklanmayan alternatif bir satıcıdan alınan bir GPGPU üzerinde çalıştırıldı. K3'ün sıfırdan geliştirdiği Triton benzeri bir derleyici olan MiniTriton, ABD ihracat kuralları kapsamında Çin'e satılan küçültülmüş Ada tabanlı bir kart olan Nvidia L20 üzerinde Triton ile karşılaştırılıyor. Moonshot, K3'ü 64 veya daha fazla hızlandırıcıdan oluşan süper düğümlerde sunmayı ve uzman paralellik trafiğini tek bir yüksek bant genişliği alanında tutmayı öneriyor. Şirket, ABD'de ocak ayında Çinli firmaların kısıtlanmış hızlandırıcılara uzaktan erişimini sağlayan açık bulut kiralama açığını kapatmaya yönelik bir yasa çıkarıldığını ve bu yasanın ihracat kontrollerini buluta genişlettiğini belirtiyor.
Bir vaka çalışmasında, K3 kendi mimarisi üzerine kurulu bir nano model için tasarlanmış simüle edilmiş bir çıkarım çipini, açık kaynak EDA araçlarını ve Nangate 45nm kütüphanesini kullanarak tek bir 48 saatlik otonom çalıştırmada tasarladı. Tasarım, 4 mm kare içinde 100 MHz'de zamanlamayı kapattı, 1.46 milyon standart hücre ve bir INT4 MAC dizisi paketledi ve simüle edilmiş kod çözme hızında saniyede 8.700 token'ın üzerinde performans gösterdi.
Şu anda yayımlanan tüm K3 verileri, Moonshot tarafından yapılan iddialara dayanıyor veya API erişiminden elde ediliyor ve ağırlıklar 27 Temmuz'da kamuoyuna açıklanana kadar bağımsız olarak doğrulanamıyor. Daha önce, K3'ün modellerini damıtma yoluyla eğitmek için Claude'dan 3.4 milyon değişim kullandığı iddiasıyla ilgili bir şikayet yapılmıştı ve K3 şimdi bu şikayette adı geçen modellerle birkaç puan farkla yarışıyor.
