Teknoloji devi Microsoft, yapay zeka alanında NVIDIA'nın CUDA teknolojisine rakip olabilecek araçlar geliştirdiği iddia ediliyor. Şirketin, AMD'nin yapay zeka GPU'larını kullanarak çıkarım (inference) maliyetlerini önemli ölçüde düşürmeyi hedeflediği belirtiliyor. Bu yeni araçlar, NVIDIA'nın CUDA modellerini AMD'nin ROCm platformuyla uyumlu hale getirmeyi amaçlıyor.
Yapay zeka alanında NVIDIA'nın hakimiyetinin temel nedenlerinden biri, geliştirdiği 'CUDA kilidi' mekanizması. Bu durum, bulut servis sağlayıcıları ve büyük yapay zeka şirketlerini, NVIDIA'nın GPU'larını kullanmaya zorlayarak performans optimizasyonunu sağlıyor. Geçmişte bu bariyeri aşmaya yönelik çeşitli girişimler olsa da, geniş kitlelerce benimsenen bir çözüm ortaya çıkmadı. Ancak, güvenilir bir kaynaktan gelen bilgilere göre, Microsoft bu durumu değiştirebilecek 'araç kitleri' geliştirdi. Bu araçlar, CUDA kodlarını ROCm'ye çevirerek AMD GPU'larında çalıştırılmasına olanak tanıyor.
CUDA'nın baskınlığını kırmak kolay bir iş değil, çünkü yazılım ekosistemi yapay zeka endüstrisinin neredeyse her alanına entegre olmuş durumda. Ancak Microsoft'un geliştirdiği bu araç kitinin, uzun süredir piyasada olan bir yöntemi kullandığı düşünülüyor. CUDA'dan ROCm'ye çeviri yapmanın bir yolu, çalışma zamanı uyumluluk katmanları aracılığıyla gerçekleşir. Bu katmanlar, CUDA API çağrılarını, kaynak kodunda büyük değişiklikler yapmaya gerek kalmadan ROCm'ye çevirebiliyor. Bu tür bir çözüm için ZLUDA aracı bir örnek olarak gösterilebilir; bu araç, CUDA çağrılarını yakalayıp ROCm'ye çeviriyor ve bunu tam bir yeniden derleme gerektirmeden yapıyor.
Bununla birlikte, ROCm'nin hala nispeten 'olgunlaşmamış' bir yazılım yığını olması nedeniyle, CUDA'daki bazı API çağrılarının veya kod parçalarının AMD'nin yazılımında karşılığının olmaması gibi durumlar yaşanabiliyor. Bu durum, bazı senaryolarda performansı düşürebilir ve büyük veri merkezi ortamlarında riskli bir sorun teşkil edebilir. Bahsedilen araç kitinin bir başka olası varyantı ise, Azure ile entegre olan ve hem AMD hem de NVIDIA örneklerini hedefleyen uçtan uca bir bulut geçiş aracı olabilir. Elbette, bu tür büyük ölçekli dönüşümlerde bazı sorunlar ortaya çıkabilir, ancak görünen o ki Microsoft tarafından geliştirilen araç kitleri sınırlı kullanıma odaklanmış durumda.
Microsoft'un bu 'yazılım dönüşümleri' peşinde olmasının nedeni ise, şirketin giderek artan çıkarım iş yüklerini daha maliyet etkin bir şekilde yönetme isteği. Bu noktada AMD'nin yapay zeka GPU'ları, pahalı NVIDIA GPU'larına karşı güçlü bir alternatif oluşturuyor. Çıkarım ortamlarında CUDA modellerini dışarıda bırakmak mümkün olmadığından, bunları ROCm'ye çevirmek Microsoft için bir sonraki önemli adım olarak görülüyor.
