Google'ın, yapay zeka alanında önemli bir adım atarak, Gemini modelinin mimarisini doğrudan silikon üzerine entegre edecek yeni bir sunucu çipi üzerinde çalıştığı iddia ediliyor. İsimsiz kaynaklara dayandırılan habere göre, bu yeni çip gayri resmi olarak 'Frozen v2' olarak adlandırılıyor ve mühendisler, mevcut en yeni TPU'lara kıyasla watt başına 6 ila 10 kat daha fazla token işleyebileceğini öngörüyor.
Teknoloji dünyasında heyecan yaratan bu gelişmenin, Google Cloud'un dış müşterilere verdiği hizmetleri kısıtlamak zorunda kalmasına neden olan yapay zeka işlem gücü sıkıntısına bir yanıt olduğu belirtiliyor.
Mevcut TPU'lar ve GPU'lar, yüklü olan her modeli çalıştırırken, donanımın her etkileşimde zaman alan çalışma zamanı kararları almasını gerektiriyor. 'Frozen v2' ise Gemini'nin bazı karar mekanizmalarını transistörlere sabitleyerek, çipin gerçekleştirmesi gereken adım sayısını ve sorgu başına aktarılan veri miktarını azaltmayı hedefliyor. Bu sayede, tepki gecikmelerinin önemli ölçüde düşürülmesi ve yeni uygulamaların geliştirilmesinin önünün açılması bekleniyor.
Daha önceki 'Frozen' tasarımında, Google DeepMind baş bilim insanının öncülüğünde, Gemini'nin ağırlıklarının doğrudan çipe gömülmesi planlanmıştı. Ancak bu fikir, tek bir model sürümüne bağlı bir silikonun kullanım ömrünün kısalığı nedeniyle rafa kaldırılmıştı. 'Frozen v2' ise mimariyi sabitleyerek ağırlıkların güncellenmesine olanak tanıyor. Bu sayede çip, Gemini'nin farklı sürümleriyle uyumlu kalacak, ancak bu uyumluluk Google'ın aynı temel mimari üzerinde geliştirmeler yaptığı sürece devam edecek. Modelin ne kadarının bu şekilde sabitleneceği ise henüz belirsizliğini koruyor.
Google'ın 'Frozen v2'yi TPU'larla aynı ölçekte üretmeyi planlamadığı ve bu nesli, model tasarımları olgunlaştıkça daha özel silikonlar için bir deneme süreci olarak gördüğü ifade ediliyor. Bu çip, bu yıl Nisan ayında duyurulan ve eğitim ile çıkarım için ayrı varyantlara ayrılan sekizinci nesil TPU hattını tamamlayacak nitelikte olacak. Ayrıca, 2028 yılı hedefi, Google'ın aynı yıl içinde Intel'den 3 milyondan fazla TPU siparişi verdiği yönündeki raporlarla da örtüşüyor.
Model tabanlı özel çıkarım silikonları daha önce de örneklendi. Örneğin, Taalas adlı bir girişim, Llama 3.1 8B modelini entegre eden HC1 çipini tanıttı. Nvidia da çıkarım çip tasarımcısı Groq ile teknoloji lisanslama konusunda önemli bir anlaşma yaptı.
Google, bu projeyle ilgili henüz resmi bir açıklama yapmadı. Bir sözcü, her projenin üretime geçmeyebileceğini ve bu titiz araştırmanın şirketin tam yığın yaklaşımının temelini oluşturduğunu belirtti.
