Google ve NVIDIA, yeni duyurulan A5X örnekleri ile kullanıcılara tam bir milyon NVIDIA GPU erişimi sunmak üzere güçlerini birleştirdi. Bu işbirliği, yapay zeka çıkarım (inference) maliyetlerini düşürmeyi ve token verimliliğini artırmayı hedefliyor. A5X sistemi, NVIDIA'nın ağ hızlandırıcılarını kullanarak yapay zeka iş yükleri için tek ve çoklu küme (multi-site cluster) bilgi işlem altyapısının geliştirilmesini sağlıyor.
A5X Örnekleri: Agentic Yapay Zeka Yükleri İçin Özel Olarak Tasarlandı
A5X örnekleri, Google'ın agentic yapay zeka yüklerini çalıştırmak üzere özel olarak tasarlanmış en yeni ürünleri arasında yer alıyor. Bu örnekler, Google'ın Gemini platformunu ve tüketiciye yönelik yapay zeka çözümlerini destekleyen AI Hypercomputer portföyünün bir parçası. Google, AI Hypercomputer'da yapılan son güncellemelerle birlikte, özel Arm tabanlı CPU'lar, sekizinci nesil tensör işlemciler, yerel PyTorch TPU desteği ve A5X örneklerini içeren birçok yeniliği duyurdu.
Bu yeni yetenekler, bir sorunu veya görevi parça parça ele alan bir yaklaşıma odaklanan yapay zeka ajanları grubuna dayanan agentic yapay zeka yüklerini hedefliyor. A5X örnekleri, Google'ın NVIDIA'nın en yeni Vera Rubin yapay zeka GPU'larıyla çalışacak şekilde tasarlanmış ilk örnekleri olma özelliğini taşıyor.
Google Virgo ve ConnectX-9: Milyonlarca Vera Rubin GPU Ölçeğine Ulaşıyor
Detaylara göre, A5X örnekleri, Ethernet üzerinde çalışan bulut altyapısında yapay zeka iş yüklerini hızlandırmak üzere tasarlanmış NVIDIA'nın ConnectX-9 NIC'lerini kullanacak. Bu NIC'ler, Google'ın Virgo platformuyla birlikte, kullanıcılara tek bir kümede 80.000'e kadar Rubin GPU ve çoklu lokasyon (multi-site) kümelerinde ise 960.000 GPU'ya erişim imkanı sunacak.
Yatırım Getirisi: Çıkarım Maliyetlerinde %90 Düşüş ve Daha Yüksek Verimlilik
Google'ın Virgo platformu, tek bir veri merkezindeki birden fazla yapay zeka çipini birbirine bağlamasına olanak tanıyor. NVIDIA'nın Rubin GPU'larıyla çalışmanın yanı sıra Google'ın tensör işlem birimlerini (TPU) de destekliyor. Virgo, tek bir veri merkezinde 134.000'e kadar TPU'yu ve birden fazla lokasyonda ise bir milyondan fazla çipi birbirine bağlayabiliyor. NVIDIA'ya göre, A5X örnekleri token başına çıkarım maliyetlerinde 10 kat düşüş ve megawatt başına verimlilikte 10 kat artış sağlıyor.
NVIDIA ayrıca, Cadence ve Siemens gibi firmaların ürünlerinin kendi altyapısı üzerinden güçlendirildiğini ve Google Cloud'da mevcut olduğunu belirterek fiziksel ve endüstriyel yapay zeka konularına da değiniyor. Google'ın Gemini platformunun, siber güvenlik gibi sektörlerde agentic modeller ve iş akışları dağıtabileceği de ekleniyor.
