Teknoloji devi AMD, yapay zeka (AI) iş yükleri için tasarladığı yeni Instinct MI350P PCIe GPU hızlandırıcısını duyurdu. Yıllar sonra gelen bu PCIe tabanlı tasarım, kurumsal kullanıcılara pahalı altyapı yatırımlarına gerek kalmadan AI hesaplama yeteneklerini genişletme imkanı sunuyor. Standart çift slotlu ve sunucu odaklı tasarımıyla dikkat çeken MI350P, kolay kullanımlı ve doğrudan entegre edilebilen bir çözüm olarak öne çıkıyor.
Yapay Zeka Hesaplamalarında Yeni Dönem: MI350P ile Sınırları Zorlayın
Instinct MI350P PCIe GPU, özellikle daha düşük hassasiyetli MXFP6 ve MXFP4 formatları için sunduğu yüksek işlem gücüyle dikkat çekiyor. Ayrıca, çoğu ana akım 8 ve 16 bit hassasiyet için seyreklik (sparsity) desteğiyle performansı artırıyor. Bu yeni hızlandırıcı, özellikle MXFP4 formatında yaklaşık 2.299 teraflop (TFLOPS) ve zirvede 4.600 TFLOPS'a ulaşan performansı ile şu anda kurumsal PCIe kartlarında sunulan en yüksek performansı vadediyor.
Bellek tarafında ise, 144 GB yüksek bant genişlikli bellek 3e (HBM3E) ile 4 TB/s hızına ulaşabiliyor. Bu da onu yoğun AI görevleri için ideal bir çözüm haline getiriyor.
AMD Instinct MI350P, CDNA 4 mimarisi üzerine kurulu ve TSMC'nin 3nm işlem teknolojisini kullanıyor. 4 XCD yapılandırması ile önceki modelin yarısı kadar çekirdek barındırırken, tek bir IO die'ı TSMC'nin 6nm FinFET işlem teknolojisiyle üretilmiş. Çip üzerinde 128 hesaplama birimi (8.192 akış işlemcisi) ve 512 matris çekirdeği bulunuyor. Bu çekirdekler tepe noktasında 2200 MHz hızında çalışabiliyor. Tüm çip, toplamda 73 milyar transistör içeriyor.
Bellek açısından, MI350P GPU içinde 128 MB Infinity Cache ve 4096 bitlik geniş bir veri yolu üzerinden çalışan 144 GB HBM3E bellek sunuyor. Bu bellek, 4 TB/s'lik bir bant genişliği sağlıyor. Karşılaştırma yapmak gerekirse, MI350X 8192 bitlik bir veri yolu üzerinde 288 GB HBM3E bellek sunuyordu. PCIe kartı 267 mm uzunluğunda ve pasif soğutmalı bir tasarıma sahip, bu da onu sunucular için oldukça uygun hale getiriyor. AMD, kartın 600W TDP değerini karşılamak için 16-Pin bir konektör kullanıyor. İhtiyaçlara göre güç tüketimi 450W'a kadar düşürülebiliyor.
Performans açısından, AMD Instinct MI350P şu değerleri sunuyor:
- 4.6 PFLOPs MXFP4
- 4.6 PFLOPs MXFP6
- 2.3 PFLOPs MXFP8
- 2.3 PFLOPs FP16 (Seyreklik ile)
- 1.15 PFLOPs FP16
- 72 TFLOPS FP16
- 72 TFLOPS FP32
- 36 TFLOPS FP64
- 2.3 POPs INT8
- 4.6 POPs INT8 (Seyreklik ile)
- 1.15 PFLOPs BFloat16
- 2.30 PFLOPs BFloat16 (Seyreklik ile)
Görüldüğü üzere, AMD Instinct MI350 serisi, MI350P modeliyle birlikte MXFP6 ve MXFP4 gibi çeşitli kurumsal AI hassasiyet formatlarında yerel hızlandırma sunuyor.
MI350P, 141 GB HBM3E belleğe sahip ve Hopper H200 GPU'yu çalıştıran NVIDIA'nın son PCIe tabanlı GPU hızlandırıcısı olan H200 NVL ile rekabet edecek. NVIDIA'nın RTX PRO 6000 Blackwell sunucu sürümü de piyasada bulunuyor, ancak bu ürün GB200 yerine standart GB202 çipini temel alıyor. RTX PRO 6000 Blackwell, 96 GB GDDR7 bellek ile geliyor. H200 NVL GPU'ların fiyatının yaklaşık 30-40 bin ABD Doları civarında olduğu biliniyor.
AMD Instinct MI350P PCIe GPU'lar, ROCm desteği ile tam açık bir ekosistem ve kurumsal düzeyde AI yazılım yığını sunarak çeşitli iş ortakları aracılığıyla satışa sunulmuş durumda.
