Huawei, yapay zeka veri merkezlerindeki tüm veri iletimini tek bir protokol altında birleştirmeyi amaçlayan UB-Mesh teknolojisini duyurdu. Bu yenilikçi teknoloji, PCIe, CXL, NVLink ve TCP/IP gibi mevcut protokollerin yerini alarak gecikmeyi azaltmayı, maliyetleri kontrol altında tutmayı ve büyük ölçekli veri merkezlerinde güvenilirliği artırmayı hedefliyor. Huawei, bu teknolojiyi yaygınlaştırmak amacıyla UB-Mesh protokolünü açık kaynak olarak herkesin kullanımına sunacak.
Huawei'nin işlemci kolu HiSilicon'un baş bilimcisi Heng Liao, bir sonraki ay düzenlenecek bir etkinlikte UB-Mesh protokolünün ücretsiz lisansla yayınlanacağını belirtti. Liao, bu teknolojinin yeni olduğunu ve farklı firmaların benzer standartlaştırma çalışmaları yürüttüğünü ifade etti. UB-Mesh'in başarısının, sistemlerin yaygınlığına ve iş ortakları ile müşterilerden gelen talebe bağlı olacağını da sözlerine ekledi.
Kümeden Süper Düğüme: Veri Merkezleri Tek Bir Sistem Haline Geliyor
Yapay zeka veri merkezlerinin tek bir büyük, paralel işlemci gibi çalışması gerekirken, mevcut yapıda sunucular, CPU'lar, GPU'lar, bellekler, SSD'ler, ağ kartları, anahtarlar ve daha birçok bileşen farklı veri yolları ve protokollerle birbirine bağlıdır. Bu protokol dönüşümleri enerji tüketimini artırır, gecikmeye neden olur ve potansiyel arıza noktaları oluşturur. Milyonlarca işlemcinin bulunduğu veri merkezlerinde bu faktörler katlanarak artabilir.
Huawei, bu karmaşıklığı ortadan kaldırmak için UB-Mesh adını verdiği birleşik bir çerçeve sunuyor. Bu sayede herhangi bir bağlantı noktası, çeviriye gerek kalmadan diğerleriyle iletişim kurabiliyor. Bu basitlik, tasarım süreçlerini kolaylaştırırken, Ethernet üzerinden de çalışabilme esnekliği sunarak tüm veri merkezini UB-Mesh bağlantılı tutarlı bir Süper Düğüm (SuperNode) haline getiriyor.
Huawei'nin Süper Düğüm olarak tanımladığı bu mimari, bir veri merkezi ölçeğinde 1 milyon işlemciyi (CPU, GPU, NPU fark etmeksizin), paylaşımlı belleği, depolama birimlerini ve ağ bileşenlerini tek bir sistemde birleştiriyor. Bu yapıda çip başına bant genişliği 100 Gbps'ten 10 Tbps'e çıkarken, iletişim gecikmesi mikrosaniyelerden yaklaşık 150 nanosaniyeye iniyor. Tasarım anlayışı ise asenkron DMA'dan senkron yükleme/boşaltma semantiğine kayıyor.
Bu yapı, gecikmeyi düşürmeyi, yüksek hızlı SERDES bağlantılarının esnek bir şekilde yeniden kullanılmasını sağlamayı ve hatta geriye dönük uyumluluk için Ethernet üzerinden çalışmayı desteklemeyi amaçlıyor.
Yeni Teknik Zorluklar ve Çözümler
Huawei, bu konsepti veri merkezine ölçeklendirmenin yeni zorlukları olduğunu kabul ediyor. Özellikle sunucular içindeki bakır kablolamadan, tak-çalıştır optik bağlantılara geçiş önemli bir adım. Fiber optikler uzun mesafeler için vazgeçilmez olsa da, elektriksel bağlantılara göre daha yüksek hata oranlarına sahip. Bu durumu yönetmek için Huawei, bağlantı düzeyinde yeniden deneme mekanizmaları, optik modüller içinde yedek hatlar ve kontrolcüler ile modüller arasında çapraz bağlantılar öneriyor. Bu önlemler, bireysel bağlantıların veya modüllerin arızalanması durumunda bile kesintisiz çalışmayı sağlarken, maliyetleri de artırıyor.
UB-Mesh'teki ağ topolojisi hibrit bir yapıya sahip. En üst seviyede, veri merkezindeki rafları birbirine bağlayan bir CLOS yapısı kullanılıyor. Bunun altında ise her raf içindeki onlarca düğümü birbirine bağlayan çok boyutlu ağ yapısı yer alıyor. Bu hibrit model, sistemler on binlerce düğüme ulaştığında geleneksel tasarımların getirdiği yüksek maliyetlerden kaçınmayı amaçlıyor.
Ayrıca, güvenilirlik yalnızca bireysel bağlantıların ötesinde sistem düzeyinde ele alınıyor. Huawei, bir raf arızalandığında otomatik olarak devreye giren sıcak yedek rafların bulunduğu bir sistem modeli öngörüyor. Arızalı raflar onarıldıktan sonra tekrar kullanıma alınıyor. Huawei'ye göre, bu tasarım hata oranlarını önemli ölçüde azaltarak, milyonlarca çipten oluşan sistemler için gerekli olan güvenilirlik seviyesini sağlıyor.
Maliyetleri Düşürme Potansiyeli
Huawei'nin verilerine göre, maliyet açısından UB-Mesh belirgin bir avantaj sunuyor. Geleneksel veri iletim çözümlerinde düğüm sayısı arttıkça maliyetler de doğrusal olarak artıyor, bu da bazı durumlarda yapay zeka hızlandırıcılarının maliyetini aşabiliyor. UB-Mesh ise maliyeti orantısız bir şekilde artırmadan kapasite ekleyerek, alt-doğrusal bir ölçeklenme sağlıyor. Huawei, CLOS ve 2D ağ yapısını birleştiren 8.192 düğümlü bir sistem örneğiyle bu fizibiliteyi kanıtladığını belirtiyor.
Stratejik Etkiler ve Gelecek
Huawei, UB-Mesh ve Süper Düğüm ile hem Çin'deki hem de uluslararası alandaki büyük ölçekli yapay zeka kümelerini destekleyecek bir sistem mimarisi sunuyor. Eğer bu teknoloji başarılı olursa, Huawei gelecekteki veri merkezlerinde PCIe, NVLink, UALink ve hatta TCP/IP gibi Batı standartlarına olan bağımlılığını azaltacaktır. Huawei, işlemci ve ekran kartı pazarında doğrudan rekabet etmek yerine, veri merkezi ölçeğinde bir çözüm geliştirmeyi hedefliyor.
Ancak, bu girişimin Huawei dışındaki şirketler tarafından benimsenip benimsenmeyeceği merak konusu. Şirketin müşterilerinin veri merkezi altyapısını tek bir tedarikçiden alıp almayacağı ise zamanla görülecek. Bu nedenle Huawei, UB-Mesh bağlantı protokolünü değerlendirilmesi için dünyaya açıyor. Huawei kendi sistemlerindeki başarıyı yakalar ve üçüncü taraflardan yeterli ilgi görürse, UB-Mesh'i bir standart haline getirebilir ve hatta Süper Düğüm mimarisini de standardize edebilir.
Bununla birlikte, sektörün bu teknolojiye ne kadar ilgi göstereceği belirsizliğini koruyor. Nvidia, veri merkezleri içinde kendi NVLink bağlantılarına ve veri merkezleri arasında Ethernet veya InfiniBand'a güveniyor. AMD, Broadcom ve Intel gibi diğer şirketler ise podlar arası iletişim için UALink ve veri merkezi genelindeki bağlantılar için Ultra Ethernet teknolojilerini öne sürüyor. Bu teknolojiler geniş çapta şirketler tarafından destekleniyor ve standartlaşmış durumda, bu da esneklik ve maliyet avantajı sağlıyor.
