AMD, yapay zeka ve hızlandırılmış hesaplama alanındaki açık kaynaklı yazılım yığını olan ROCm'nin (Radeon Open Compute) 7. sürümünü duyurdu. Yeni sürüm, özellikle mevcut donanımlarda yapay zeka çıkarım performansında önemli iyileştirmeler sunarken, dağıtılmış iş yükleri desteği ekliyor ve en önemlisi Windows platformuna ve tüketiciye yönelik Radeon GPU'larına desteğini genişletiyor.
ROCm 7 ile gelen en büyük yeniliklerden biri, yazılımın Windows'a ve Radeon grafik kartlarına genişlemesi. Bu sayede, Ryzen tabanlı bilgisayarlardaki harici ve dahili Radeon GPU'lar yapay zeka iş yükleri için kullanılabilecek. 2025'in ikinci yarısından itibaren geliştiriciler, Radeon GPU'lu Ryzen masaüstü ve dizüstü bilgisayarlarda yapay zeka programları geliştirip çalıştırabilecekler. Bu gelişme, özellikle daha gelişmiş büyük dil modellerini (LLM) yerel olarak çalıştırmak isteyen kullanıcılar için büyük önem taşıyor.
AMD'nin yapay zeka donanım pazarındaki konumunu güçlendirme çabaları meyvesini vermeye başlıyor. Şirketten yapılan açıklamaya göre, ROCm 7 ile kullanılan Instinct MI300X hızlandırıcılar, ROCm 6'ya kıyasla çıkarım performansında 3.5 katın üzerinde, eğitim (training) verimliliğinde ise 3 kat artış sağlıyor. Bu performans artışının, GPU kullanımının ve veri hareketinin iyileştirilmesiyle sağlandığı belirtiliyor. Yapılan testler, Llama 3.1-70B, Qwen 72B ve Deepseek-R1 gibi popüler modeller üzerinde 8 adet Instinct MI300X kullanılan sistemlerde gerçekleştirildi.
Yeni sürüm ayrıca, vLLM, SGLang ve llm-d gibi açık çerçevelerle entegrasyon aracılığıyla dağıtılmış çıkarım desteği sunuyor. AMD'nin bu iş ortaklarıyla birlikte geliştirdiği ortak bileşenler, yazılımın birden çok GPU üzerinde verimli bir şekilde ölçeklenmesine olanak tanıyor.
ROCm 7, en yeni CDNA 4 tabanlı Instinct MI350X/MI355X işlemciler ve gelecek nesil Instinct hızlandırıcılar için FP4 ve FP6 gibi daha düşük hassasiyetli veri tiplerine de destek ekliyor. Bu, gelecekteki ürünlerde performans ve verimlilik artışı sağlayacak.
ROCm 7 ile birlikte AMD, kurumsal kullanıma yönelik ROCm Enterprise AI MLOps çözümünü de tanıttı. Bu platform, alana özgü veri kümeleri kullanarak modelleri iyileştirmek için araçlar sunuyor ve hem yapılandırılmış hem de yapılandırılmamış iş akışlarına entegre olabiliyor. AMD, bu çözümle ekosistem ortaklarıyla birlikte sohbet botları ve belge özetleme gibi uygulamalar için referans uygulamalar geliştirdiğini ve AMD donanımını üretim ortamlarında hızlı dağıtıma uygun hale getirmeyi hedeflediğini belirtti.
Son olarak, AMD, geliştiricilere MI300X donanımına hazır erişim sağlayan AMD Developer Cloud'u da kullanıma sundu. Tek bir MI300X GPU'dan (192 GB bellekli) sekizli MI300X kurulumlarına (1536 GB bellekli) kadar farklı yapılandırmalar sunulan bulut platformu, başlangıç için 25 saat ücretsiz kullanım sağlıyor. Gelecekte Instinct MI350X tabanlı sistemler için de destek eklenmesi planlanıyor.
