Nvidia'nın HGX H20 yapay zeka GPU'su, şirketin gelirlerinin küçük bir parçasını oluştursa da, iş dünyası medyasındaki adı, şirketin çok daha güçlü ve karlı H100 veya B200 işlemcilerine göre daha sık geçiyor. Hatta bu özel GPU modeli, son aylarda ABD-Çin arasındaki kızışan ticaret savaşında bir siyasi çatı görevi görmesiyle dikkat çekti.
Bunun büyük ölçüde nedeni, HGX H20'nin Biden yönetiminin şirkete ihracat lisansı olmadan Çin'e göndermesine izin verdiği az sayıdaki yapay zeka GPU modelinden biri olması. Ancak mevcut yönetim, HGX H20'yi jeopolitik bir araç olarak kullanıyor ve onu federal gelir kaynağı haline getirmiş durumda.
Bu gelişmeler yaşanırken, Çin'in de oyuna dahil olmak istediği bildiriliyor. Çin, Nvidia GPU'larında ABD tarafından zorunlu kılınan izleme özellikleri ve olası arka kapılar olup olmadığını araştırıyor ve hatta Çin merkezli şirketlerden H20 ithalatını durdurmalarını istedi, bu da Nvidia'nın gelirlerini olumsuz etkileyebilir. Bu yeni durum, ABD yönetiminin Çin'e yönelik Blackwell tabanlı yapay zeka işlemcileri satışına izin vermeyi değerlendirdiği bir dönemde gelişiyor.
Bir yılı aşkın süredir devam eden ABD-Çin ticaret savaşının yoğunlaştığı bu süreçte, HGX H20 uluslararası alanda nadir görülen bir üne kavuştu. Durumun şu ana kadar nasıl geliştiği ve nereye doğru gidebileceği aşağıda açıklanıyor.
Nvidia HGX H20 Neden Öne Çıkıyor?
Nvidia, 2022'de Çin pazarı için amiral gemisi GPU'ları olan A800 ve H800'ün ilk kırpılmış versiyonlarını piyasaya sürdü. Bu, Joe Biden yönetiminin ulusal güvenlik gerekçeleriyle Çin'e süper bilgisayar sınıfı donanım sevkiyatını kısıtlamasının ardından geldi. Sonuç olarak, A800 ve H800'ün NVLink bant genişlikleri sırasıyla 400 GB/s ve 450 GB/s'ye düşürüldü ve ara bağlantı topolojisi seçenekleri sınırlandırıldı, bu da çoklu GPU ölçeklenmesini ve iletişim ağırlıklı iş yükleri çalıştıran süper bilgisayarların verimliliğini kısıtladı. Performans açısından A800 ve H800, tam özellikli emsallerinin gücünden çok da geride değildi.
2023 sonlarına gelindiğinde, Çin merkezli şirketlerin kısıtlamaları aşmayı başardığı ve Nvidia'nın Hopper mimarisinin performans ve verimliliğinden yararlanarak yapay zeka eğitimi için H800'ü sorunsuz bir şekilde kullandığı anlaşıldı. Bu, Çinli geliştiricilerin sunabildiklerinin yıllar öncesindeydi.
Bu amaçla, Biden yönetimi, Toplam İşlem Gücü (TPP) ve Performans Yoğunluğu (PD) kısıtlamaları getiren İhracat İdare Tüzüğü (EAR) kuralı 3A090.a'yı (veri merkezlerinde kullanım için tasarlanmış veya pazarlanan işlemcileri kapsar) ve 3A090.b'yi (veri merkezleri için tasarlanmamış veya pazarlanmayanları kapsar) uygulamaya koydu.
Sonuç olarak Nvidia, ABD hükümeti tarafından getirilen TPP ve PD kısıtlamalarını karşılayan HGX H20, L20 PCIe ve L2 PCIe ürünlerini oluşturmak için GH100, AD102 ve AD104 silikonlarını kırpmak zorunda kaldı. Buna göre, Nvidia'nın HGX H20'si yapay zeka iş yüklerinde H100'den 3.3 ila 6.69 kat daha yavaştı ve FP64 hassasiyeti gerektiren HPC iş yüklerinde ise H100'den 34 ila 67 kat daha yavaştı. AMD de Instinct MI308 işlemcisiyle benzer bir adım attı.
HGX H20, tam performanslı H100 muadiline göre çok daha yavaş olsa da, Çin'de tasarlanan yapay zeka işlemcileriyle oldukça rekabetçi durumdaydı (Huawei'nin rack-scale yapay zeka sistemleri Nvidia'nın amiral gemisi GB200 NVL72'sini geride bıraksa da).
Dahası, Çin'deki büyük ölçekli bulut hizmet sağlayıcılarının (CSP'ler) çoğu, Nvidia'nın yüksek verimli CUDA yazılım yığınına güvendiği için, bu çiplerin gerçek dünya performansının yerli çözümlere kıyasla daha yüksek olduğu belirtilen analizlere göre, iş yükleri için milyarlarca dolarlık HGX H20 işlemcisi satın alıyorlardı.
Sonuç olarak, Nvidia'nın yapay zeka GPU'ları yalnızca genel olarak küresel yapay zeka donanım sektörüne değil, özellikle de Çin'in yapay zeka donanım sektörüne hakim oldu. Bu da bu işlemcileri jeopolitik araçlara dönüştürdü.
HGX H20 Siyasi Bir Araç Olarak Nasıl Kullanılıyor?
Bu yılın başlarında Biden yönetimi, Çin ve diğer ülkelere gelişmiş GPU ihracatını yasaklamayı öneren, ancak diğer ülkelere yönelik biraz daha az kısıtlayıcı kurallar sunan (tedarikleri önemli ölçüde etkileyecek olsa da) "Yapay Zeka Yayılma Kuralı"nı tanıttı. Kuralın 15 Mayıs'ta yürürlüğe girmesi planlanıyordu.
Trump yönetimi Yapay Zeka Yayılma Kuralı'nı yürürlükten kaldırmış olsa da, Nvidia'nın donanımı ve ilgili ihracat kontrolleri ABD-Çin ticaret müzakerelerinde önemli bir pazarlık aracı olmaya devam etti.
Yapay Zeka Yayılma Kuralı, dünyayı üç lisanslama katmanına ayıracaktı. Birinci katman, ABD ve 18 yakın müttefikinden oluşacak ve Nvidia'nın H100'ü gibi gelişmiş çiplere sınırsız erişim sağlayacaktı. İkinci katman, ABD hükümetiyle doğrudan müzakere gerektiren doğrulanmış son kullanıcı (VEU) onayı almadıkları sürece, birkaç yıl boyunca yaklaşık 50.000 H100 sınıfı GPU ile sınırlı olacaktı. Ancak bu ikinci katman ülkelerdeki alıcılar, lisans gerektirmeden yılda 1.700'e kadar üst düzey yapay zeka işlemcisi getirebilir ve bunlar kota kapsamında sayılmazdı. Üçüncü katman ise (Çin, Rusya ve Makao dahil) mevcut silah yasakları nedeniyle gelişmiş işlemcilere erişimden tamamen men edilecekti. Bu kural uyarınca AMD ve Nvidia, HGX H20 ve Instinct MI308 GPU'larını Çinli kuruluşlara satma yeteneğini kaybedecekti.
Son zamanlarda Trump, Nvidia'nın varlığından bir danışmanıyla yaptığı görüşme şirketin yapay zeka eğitimi donanım pazarı üzerindeki hakimiyetini ortaya koyana kadar haberi olmadığını kabul etti. Sonuç olarak, Nvidia'nın fiilen %100 pazar payına sahip olduğu söylendiğinde, başlangıçta şirketi potansiyel rakipler için yer açmak amacıyla bölme yönünde düzenleyici eylemler önerdi.
Ancak, ABD en üst düzey yeteneği bir araya getirip hayatta kalabilecek ve rekabet edebilecek kadar büyük bir şirket kursa bile, Nvidia'nın yeteneklerine yetişmesinin en az on yıl süreceği, hatta Nvidia'nın kötü yönetiminin varsayılmasıyla bile, tavsiye edildi. Ayrıca teknolojik liderliğin Nvidia'yı küresel olarak baskın bir güç haline getirdiğini ve bunun jeopolitik sahnede etkili olabileceğini kabul etti.
Sonuç olarak, Trump yönetimi Yapay Zeka Yayılma Kuralı'nı yürürlükten kaldırmış ve ABD şirketlerinin donanımlarını Çin'e göndermesine izin vermiş olsa da, Trump hükümetinin Çin ile müzakerelerinde pazarlık kozu olarak AMD, Nvidia ve ayrıca Elektronik Tasarım Otomasyonu (EDA) üreticileri Cadence, Synopsys ve Siemens EDA dahil olmak üzere birçok önde gelen Amerikan şirketi üzerindeki ihracat kontrollerini kullanmaktan kendini alamadı. Nisan ortasında ABD yönetimi, Çinli kuruluşlara HGX H20 ve Instinct MI308 işlemcilerinin satışını yasakladı ve Mayıs ayında EDA araçlarının Çinli müşterilere satışını yasakladı. Yapay zeka için HGX H20 işlemcisindeki ihracat yasağı sonucunda Nvidia, (hem sevkiyata hazır silikon hem de üretim ortağı TSMC'ye verilen taahhütlerden oluşan) 4,5 milyar dolarlık envanterini değer düşüklüğüne uğratmak zorunda kaldı, oysa AMD 800 milyon dolarlık değer düşüklüğü kaydetti.
Ancak, Çin ABD ile bir ticaret anlaşması imzalamayı kabul ettikten ve bazı nadir toprak metallerinin ihracatını gevşettikten sonra, ABD EDA şirketlerinin Çinli müşterilerle çalışmasına izin verdi ve HGX H20 ve Instinct MI308 işlemcileri için ihracat lisansı vereceğini söyledi. Nvidia'nın H20 stoklarının kalanını Çin'deki müşterilerine satma kararını ABD'li milletvekillerinin eleştirmesi üzerine, Ticaret Bakanı Howard Lutnick'in, onaylanan işlemcilerin Çinli yapay zeka geliştiricilerini Nvidia'nın CUDA ekosistemine bağlamada etkili olacağını savunduğu bildirildi.
Ancak H20, Nvidia'nın eski amiral gemisi yapay zeka GPU'sunun kırpılmış bir versiyonu olduğu için, Çinli kuruluşlara Amerika'da üretilen modellere rakip yapay zeka geliştirme yeteneği vermiyor.
Çin Tepki Veriyor
ABD hükümetinin, jeopolitik müzakerelerde Nvidia'nın HGX H20'si de dahil olmak üzere en gelişmiş donanımları kullanma girişimi kuşkusuz Çin hükümeti tarafından fark edildi. Bu nedenle, son haftalarda Çin Siber Uzay İdaresi (CAC), Alibaba, ByteDance ve Tencent dahil olmak üzere büyük teknoloji şirketlerine, potansiyel güvenlik risklerini araştırırken yeni Nvidia H100 GPU alımlarını durdurma emri verdi. Çin, ABD tarafından zorunlu kılınan izleme özellikleri ve olası arka kapılar konusunda endişelerini dile getirdi. Nvidia ise bu iddiaları reddederek bir açıklama yaptı:
"Her iki hükümetin de bildiği gibi, H20 bir askeri ürün veya hükümet altyapısı için değildir. Çin'in kendi ihtiyaçlarını karşılamak için yeterli yerli çip tedariği var. Hükümet operasyonları için Amerikan çiplerine güvenmeyecek ve hiçbir zaman güvenmemiştir, tıpkı ABD hükümetinin Çin'den gelen çiplere güvenmeyeceği gibi. H20'nin Çin'de satışını yasaklamak, yalnızca ABD'nin ekonomik ve teknolojik liderliğine sıfır ulusal güvenlik faydasıyla zarar verecektir."
Büyük yapay zeka ve HPC veri merkezleri IR sensörleri kullanılarak uzaydan görülebilir ve buradaki çiplerin neredeyse tamamı teorik olarak sürücüleri kullanılarak takip edilebilir, bu nedenle Çinli yetkililer bu durumu muhtemelen siyasi bir mesele haline getiriyor.
Jon Peddie Araştırma Başkanı Jon Peddie, "Veri merkezleri uzaydan IR sensörleri ile görülebilir. GPU'lar ve CPU'lar sürücüleri aracılığıyla uzun süredir telemetri yeteneklerine sahip. Muhtemelen bu çift yönlü bir yoldur ve bu da Çin'in spekülasyonlarına yol açar, Nvidia veya ABD hükümetinin çipleri uzaktan kapatabileceği şeklinde. Bu intihar olurdu: Tedarikçi veya hükümetin kapatabileceğini düşünüyorsanız kimse Nvidia veya herhangi bir Amerikan çipi satın alır mı?" diyor.
Nvidia, donanımının herhangi bir arka kapı veya kapatma anahtarı özelliği barındırdığını reddetti, ancak H20 sevkiyatlarının durdurulması, Çinli yetkililer tarafından Nvidia'ya bir darbe. Bu da hem donanım hem de yazılım cephesinde yapay zekanın yalnızca stratejik olarak önemli bir teknoloji değil, aynı zamanda küresel ekonominin de kritik bir yeni sektörü olduğunun bir kanıtı.
"Siber güvenlik bizim için kritik derecede önemlidir. NVIDIA'nın çiplerimizde kimsenin uzaktan erişmesine veya kontrol etmesine olanak tanıyacak 'arka kapıları' yoktur," şeklinde bir Nvidia açıklaması yapıldı.
H20'nin Ekonomik Etkisi
Nvidia, yapay zeka veri merkezleri için donanımından on milyarlarca dolar gelir elde ederken, ABD hükümeti Nvidia'nın başarısından pay istiyordu. Sonuç olarak, ABD hükümetinin AMD'nin Instinct MI308 ve Nvidia'nın HGX H20 işlemcileri için Çin'e ihracat lisansı vereceğini açıklamasından sadece haftalar sonra, Trump yönetiminin bu ihracat lisanslarına bir satış vergisi uyguladığı ve şirketlerin Çin gelirlerinin %15'ini ABD hükümetiyle paylaşmasını sağladığı ortaya çıktı.
Peddie, "Bu stratejik veya teknik bir şey değil, bir satış vergisidir. Çift vergilendirmeyi temsil ediyor, ki bu da Cumhuriyetçilerin eskiden çok rahatsız olduğu bir şeydi. Bu şimdi ihracat lisansları üzerinden her şey için satış vergisi kapısını açıyor, bu da mevcut yönetimin ticaret dengesini değiştirmeyi amaçladığı için mantığa aykırı."
İhracat vergilerinin ABD Anayasası uyarınca yasadışı olduğunu, ancak bunun Başkan Donald Trump'ın anlaşmayı önermesini ve ardından Ticaret Bakanlığı'nın bunun için yasal bir zemin sunmasını engellemediğini belirtti. ABD'deki Çin karşıtı bazı sertlik yanlıları, HGX H20'nin Çin'e sevkiyatının bile ulusal güvenlik riskleri oluşturduğunu iddia etti, ancak mevcut yönetim için değil.
Peddie, "Bu, ulusal güvenlik meselesinin bir oyalama taktiği olduğunu açıkça gösteriyor. Eğer bir vergi toplanabiliyorsa, bir güvenlik meselesi değil mi?" diye soruyor.
İlginç bir şekilde, ABD hükümetinin Nvidia'nın HGX H20'sini Çin'e tedarik etmek için ihracat lisansı vereceğini söylemesinden kısa bir süre sonra, şirkete yakın gayri resmi kaynaklar, bu işlemcilerin üretimini yeniden başlatmayacaklarını, bunun yerine Blackwell tabanlı bir ürüne odaklanacaklarını söylediler. Ancak Nvidia kısa bir süre sonra 300.000 adet daha H20 GPU siparişi verdi.
TSMC'de 4nm sınıfı bir işlemcinin üretim döngüsü yaklaşık üç ay sürüyor. Ardından, bir veri merkezi GPU'sunun paketlenmesi gerekecek, bu da zaman alacaktır. Bu, Nvidia'nın en iyi ihtimalle ekim ortasında yeni bir H20 partisini alabileceği anlamına geliyor. Bu noktada Nvidia'nın daha fazla GH100/H20 yongası üretmesinin pek mantıklı olmayacağı düşünülüyor, ancak şirketin muhtemelen H20'lere dönüştürülebilecek kusurlu GH100/GH200 yongaları yeterince var. Ancak Nvidia'nın bunları Çinli şirketlere gönderip gönderemeyeceği artık siyasi bir soru.
Çinli firmalar şimdiden yaklaşık 700.000 adet HGX H20 yapay zeka hızlandırıcısı sipariş etmişti ve bu sevkiyatları dondurma işleminin etkileyip etkilemediği belirsizliğini koruyor. Bu, Nvidia'nın 8,4 milyar - 9,8 milyar dolar arasındaki gelirinden mahrum kalacağı ve ABD hükümetinin de 1,26 milyar - 1,47 milyar dolar arasındaki federal gelirinden olacağı anlamına geliyor.
HGX H20'nin Ötesinde: Çin İçin Blackwell Tabanlı Yapay Zeka Hızlandırıcıları?
Nvidia, Çin pazarı için modifiye edilmiş bir Blackwell çipinin örneklerini tedarik etti ve ABD ihracat iznine tabi başka, potansiyel olarak daha hızlı bir model geliştiriyor. Donald Trump yakın zamanda ABD hükümetinin Çin için Blackwell tabanlı bir GPU ihracat lisansı verebileceğini doğruladı, bu da performansının %30 ila %50'sini düşürecekti.
Performansın %30-50 oranında düşürülmesine rağmen, Nvidia'nın B100, B200 veya B300 GPU'ları, Çin'de mevcut olanlardan çok daha fazla güç sağlayacaktır. Şu anda Çinli firmalar için en iyi seçenek, 148 FP16/BF16 TFLOPS ve 296 FP8 TFLOPS olarak derecelendirilen H20 HGX'dir. Yarıya indirilmiş bir B100, hala yaklaşık 900 FP16/BF16 TFLOPS, 1.75 PF8 PFLOPS ve 3.5 FP4 PFLOPS sunacaktır - bu, Çin'in yerli yapay zeka çiplerinin hiçbirinin sunamayacağı bir performans seviyesidir.
H20 HGX, gelişmiş yapay zeka ve HPC GPU'larına yönelik Biden dönemi ihracat kontrollerine uyması için kasıtlı olarak ölçeklendirilmiş olmasına rağmen, tam H100'den 3,3 ila 6,69 kat daha yavaştır. Ancak, %50 oranında azaltılmış bir B100 bile H100'e yakın veya daha iyi bir performans sunacaktır.
Çin'e özel Blackwell silikonu geliştirmek Nvidia için iyi bir fikir olmayabilir. Üretimi B100/B200/B300'den daha ucuz olsa da, 2023 ABD ihracat kontrollerinin performans yoğunluğu gereksinimlerini karşılamayabilir. Ama yine de, HGX H20'nin Çin'e sevkiyatı siyasi bir mesele haline geldiğinden, önceki resmi kılavuzlar önemsiz hale gelebilir.
Peddie, "Mantık ve ekonomiyi siyasi bir meseleye uygulamaya çalışmak zor bir görev olurdu. İhracat kontrol kuralları her gün değişecek ve en son siyasi sorunlara bağlı olacaktır." diyor.
Şimdilik, Nvidia ve ABD hükümetinin Blackwell tabanlı ürünler konusunda Çin için ne gibi çözümler üreteceğini bekleyip görmek mantıklı. Ancak kesin olan bir şey var: bu ürünlerin geldiğini biliyoruz ve Çin, birimler ülkeye ulaştığında, ne zaman olursa olsun, daha güçlü yapay zeka yeteneklerine sahip olabilir.
