Yapay zeka ve veri işleme alanında çığır açan gelişmeler yaşanıyor. Bu alandaki en son yeniliklerden biri, güçlü donanım çözümleriyle tanınan bir teknoloji firmasının geliştirdiği yeni kart ile duyuruldu. Bu yeni donanım mimarisi, özellikle yapay zeka odaklı eğitim ve çıkarım süreçlerinde veri aktarım hızını önemli ölçüde artırmayı hedefliyor.
Mevcut nesil Nvidia GPU'ları, GPUDirect teknolojisi sayesinde doğrudan depolama cihazları veya ağ arayüzleri gibi diğer donanımlarla iletişim kurabiliyor. Bu durum, verilerin merkezi işlem birimini (CPU) ve sistem belleğini (RAM) atlayarak GPU'ya doğrudan aktarılmasını sağlıyor. Böylece hem işlem gücünden tasarruf ediliyor hem de genel sistem performansı artırılıyor. Ancak GPUDirect teknolojisinin tam verimlilikle çalışabilmesi için hem GPU'nun hem de P2P DMA (Point-to-Point Direct Memory Access) yeteneğini destekleyen bir PCIe anahtarının uyumlu olması gerekiyor. Bazı PCIe Gen5 anahtarlarında bu özellik bulunmadığından, özel anahtar kartları bu noktada devreye giriyor.
Tanıtılan yeni Rocket 7638D PCIe 5.0 anahtar kartı, bünyesinde barındırdığı gelişmiş çip ile entegratörlerin GPUDirect uyumlu sistemler kurmalarına olanak tanıyor. Kart, toplamda 48 PCIe 5.0 hattına sahip. Bu hatların 16'sı ana sisteme bağlantı için, 16'sı harici bir GPU kutusuna CDFP CopprLink konektörü aracılığıyla bağlantı için ve kalan 16'sı ise MCIO 8i konektörleri aracılığıyla dahili NVMe depolama cihazlarına ayrılmış durumda. MCIO portları, tek bir kartla 16 adede kadar NVMe sürücüsünü destekleyerek 2 Petabayt'a (PB) kadar yüksek performanslı depolama yapılandırmalarına imkan tanıyor.
Bu yenilikçi adaptör, ev sahibi CPU ve RAM'i tamamen devre dışı bırakan GPUDirect depolama iş akışlarını mümkün kılıyor. Uyumlu yazılımlarla (işletim sistemi, GPU sürücüleri ve dosya sistemi) birlikte kullanıldığında, öngörülebilir bant genişliği (64 GB/s'ye kadar) ve düşük gecikme süresi sunuyor. Bu özellikler, özellikle büyük ölçekli veri kümeleriyle çalışan yapay zeka eğitim senaryolarında büyük avantaj sağlıyor.
Kartta kullanılan çipin, ARM tabanlı bir CPU'ya sahip olması sayesinde tamamen bağımsız ve kendi kendini yöneten bir yapıda çalıştığı belirtiliyor. Bu da onu hem ARM hem de x86 platformlarıyla uyumlu hale getiriyor. Adaptörün özel sürücü veya ek yazılım yüklemesi gerektirmeden tüm büyük işletim sistemleriyle kutudan çıktığı gibi çalıştığı ifade ediliyor.
Rocket 7638D, donanım ve firmware eşleştirmesi için VPD takibi gibi saha servis özelliklerini ve sağlık durumunu, PCIe bağlantı performansını izleyen bir yardımcı programı da içeriyor. Bu araçlar, özellikle donanım takibinin kritik olduğu çoklu düğümlü veya hiperskalalı kurulumlarda sorun giderme ve parça değişimini kolaylaştırıyor.
Üretici firma, Rocket 7638D anahtar kartının fiyatlandırması hakkında henüz bir açıklama yapmadı. Fiyatın, sipariş miktarı ve diğer faktörlere bağlı olarak belirlenmesi bekleniyor.
