Microsoft'un bulut bilişim platformu Azure, yapay zeka (AI) alanında çığır açacak bir güncellemeyle teknoloji dünyasını heyecanlandırdı. Yapay zeka modellerinin devasa boyutlarda işlenmesini sağlayacak olan NVIDIA'nın en yeni GB300 "Blackwell Ultra" GPU'larını içeren ilk büyük ölçekli üretim kümesi, Azure platformuna entegre edildi.
NVIDIA GB300 "Blackwell Ultra" GPU'ları, Milyarlarca Parametreli Yapay Zeka Modellerini Microsoft Azure'da İşleyecek
Microsoft Azure, "Blackwell Ultra" teknolojisiyle önemli bir yükseltme aldı. En yeni büyük ölçekli üretim kümesi, NVIDIA'nın GB300 NVL72 mimarisine dayanan 4.600'den fazla GPU ile donatıldı. Bu GPU'lar, yeni nesil InfiniBand bağlantı altyapısı kullanılarak birbirine bağlandı. Bu önemli gelişme, Microsoft'un dünya genelindeki veri merkezlerine yayılan yüz binlerce Blackwell Ultra GPU'yu tek bir yapay zeka iş yükü için ölçeklendirmesinin önünü açıyor.
Microsoft'a göre, NVIDIA GB300 NVL72 "Blackwell Ultra" GPU'larını barındıran Azure kümesi, yapay zeka modellerinin eğitim sürelerini aylardan haftalara indirebiliyor. Bu sayede, yüzlerce trilyon parametreye sahip devasa modellerin eğitimi mümkün hale geliyor. NVIDIA, aynı zamanda MLPerf kıyaslamalarında ve en güncel InferenceMAX yapay zeka testlerinde de defalarca kanıtlanmış güçlü çıkarım (inference) performansıyla da öne çıkıyor.
Yeni Microsoft Azure ND GB300 v6 sanal makineleri (VM), akıl yürütme modelleri, ajan tabanlı yapay zeka sistemleri ve çok modlu üretken yapay zeka iş yükleri için optimize edilmiş durumda. Her bir raf, 72 adet GPU'ya sahip 18 adet VM içeriyor. Ana özellikler şu şekilde sıralanıyor:
- 72 adet NVIDIA Blackwell Ultra GPU (36 adet NVIDIA Grace CPU ile birlikte).
- Yeni nesil NVIDIA Quantum-X800 InfiniBand (2x GB200 NVL72) aracılığıyla GPU başına saniyede 800 gigabit (Gb/s) raf dışı ölçeklendirme bant genişliği.
- Bir raf içinde saniyede 130 terabayt (TB) NVIDIA NVLink bant genişliği.
- 37 TB hızlı bellek.
- 1.440 PetaFLOPS'a (PFLOPS) kadar FP4 Tensor Çekirdek performansı.
Bu yeni Azure sanal makineleri artık müşterilerin kullanımına sunulmuş durumda ve hazır bekliyor.
