Yapay zeka (YZ) alanında grafik işlem birimleri (GPU'lar) giderek daha fazla önem kazanırken, Apple'ın eski GPU tedarikçilerinden Imagination Technologies, NVIDIA'ya rakip olabilecek yeni nesil GPU'ları hakkında önemli bilgiler paylaştı. Şirketin Ürün Yönetimi Başkan Yardımcısı Kristof Beets ile yapılan söyleşi, Imagination'ın E-Serisi GPU'larının yapay zeka uygulamaları için sunduğu avantajları ve NVIDIA ile karşılaştırmasını ortaya koyuyor.
Imagination Technologies, uzun yıllardır GPU alanında faaliyet gösteren köklü bir fikri mülkiyet (IP) şirketi olarak biliniyor. Şirket, geçmişte iPhone ve iPad gibi popüler Apple cihazları için GPU'lar geliştirmişti. Beets'in sunumunda öne çıkan E-Serisi çipler, geleneksel grafik işleme görevlerinin yanı sıra yapay zeka iş yükleri için de tasarlandı. Bu çipler, INT8 ve FP8 iş yükleri için saniyede 200 trilyona kadar işlem (TOPS) kapasitesine ulaşabiliyor. Bu da, yapay zeka bilgisayarları (AI PC'ler) gibi kenar yapay zeka (edge AI) uygulamaları ve yüksek performanslı eğitim ve çıkarım (inference) görevleri için önemli bir potansiyel sunuyor.
Beets, yapay zeka iş yükleri için özel olarak tasarlanan sinirsel işlem birimleri (NPU'lar) hakkında da konuştu. NPU'ların yapay zeka alanında etkili olduğunu belirten Beets, kendi şirketlerinin sunduğu çözümlerin ölçeklenebilirlik konusunda daha avantajlı olduğunu savundu. Grafik işlemeyle yapay zeka arasındaki ilişkiyi de değerlendiren Beets, döşeme tabanlı render (tile-based rendering) tekniğinin hem grafiklerde hem de yapay zekada önemli bir köprü görevi gördüğünü belirtti. Bu teknik, grafik işleme sırasında GPU'nun ihtiyaç duyduğu belleği azaltırken, yapay zeka alanında ise matrislerin daha küçük parçalara bölünerek çoklu iş parçacığı (multi-threading) ile işlenmesini sağlıyor.
NVIDIA'ya da değinen Beets, Imagination'ın bir IP şirketi olmasının, müşterilere daha fazla esneklik sunduğunu vurguladı. Müşteriler, Imagination'ın sunduğu tasarımları kendi ihtiyaçlarına göre özelleştirebiliyor ve tek bir ürün gamına bağlı kalmak zorunda kalmıyorlar. Bu durum, NVIDIA gibi doğrudan çip üreten firmalardan farklılık gösteriyor. Beets, şirketin aritmetik mantık birimi (ALU) ve warp işleme yeteneklerine de dikkat çekti. Warp, 32 iş parçacığından oluşan bir grup olarak tanımlanırken, Imagination'ın ürünlerinin bu warp'ları birleştirerek daha verimli bir işleme sağladığını ifade etti.
Mobil uygulamalar bağlamında Imagination'ın ürünleri, görüntü işleme için kayıplı ve kayıpsız sıkıştırma tekniklerine dayanıyor. Kayıpsız sıkıştırma, veri kaybı olmadan dosya boyutunu küçültmeyi sağlıyor. Otomotiv sektöründeki yapay zeka uygulamaları için tasarlanan çiplerin, yapay zeka sunucularında da kullanılabileceğini belirten Beets, bu çiplerin boşta kalan alanlarını kullanarak genel performansı izlediğini ve olası sunucu arızalarını önceden tespit ederek veri kayıplarını önlediğini söyledi.
Imagination'ın E-Serisi GPU'larının bir diğer önemli özelliği ise Burst Processor. Bu işlemci, kenar uygulamalarında %35'e varan güç verimliliği sunabiliyor. Beets, bu işlemcinin özellikle toplama ve çarpma gibi yapay zeka ve grafik iş yüklerine odaklandığını belirtti. Müşterilerin, kullanım senaryolarına göre tekli çekirdekleri kullanabilmesi veya bunları birleştirebilmesi, özellikle masaüstü ve veri merkezi müşterileri için önemli bir ölçeklenebilirlik avantajı sağlıyor. E-Serisi GPU'ların, NVIDIA ürünlerine benzer bir mimariye sahip olması, Vulkan ve OpenCL gibi programlama modellerini hedeflemeyi kolaylaştırıyor.
Şirketin, yapay zeka yazılım geliştirme çerçevelerini desteklemesi de günümüzün parçalı endüstri yapısında önemli bir faktör olarak görülüyor. Imagination, açık kaynak programları aracılığıyla endüstriyel sektöre de odaklanıyor. Beets, E-Serisi'nin hızlandırılmış matris çarpımı, ALU boru hattı optimizasyonu ve müşteri tercihine dayalı esneklik gibi özelliklerinin, yapay zeka bilgisayarları ve otomotiv alanındaki uygulamalar için NVIDIA'nın yeteneklerini aştığını düşünüyor.
Beets'e yöneltilen sorularda, GPU'ların yapay zeka için nasıl optimize edildiği ve hangi pazarlarda NVIDIA ile rekabet ettiği ele alındı. Imagination'ın GPU'larının, özel matris boru hatları sayesinde yapay zeka işlemleri için optimize edildiği vurgulandı. Bu, yoğun ve spesifik veri akışı işlemleri olan matris çarpımlarının verimli bir şekilde çalışmasını sağlıyor. Ayrıca, 8-bit ve 4-bit gibi yeni veri türlerini de yerel olarak destekleyen çipler, mevcut işlem kaynaklarıyla birleşerek verileri yerel olarak saklama ve sinir ağı katmanlarını belleğe geri göndermeden önce işleme yeteneği sunuyor. Bu durum, özellikle akıllı telefonlar ve yapay zeka bilgisayarları gibi kenar yapay zeka uygulamaları için önemli bir avantaj sağlıyor.
NVIDIA'nın çip üreticisi olmasının, müşterilere tek bir yapılandırma ve yetenek seti sunması gerektiğini belirten Beets, Imagination'ın IP modeli sayesinde müşterilerin tam olarak ihtiyaç duydukları özelleştirmeleri yapabildiğini belirtti. Bu, özellikle yarı özel ASIC (uygulamaya özel entegre devre) üreticileri için büyük bir esneklik sağlıyor. Otomotiv sektörü, Imagination'ın geleneksel olarak güçlü olduğu bir pazar olmaya devam ediyor.
Üretim süreçlerinin (manufacturing process nodes) E-Serisi GPU'ların performansına olan etkisine dair bir soruya Beets, Imagination'ın sunduğu "soft IP" modelinin müşterilere herhangi bir işlem düğümünü (process node) hedefleme imkanı tanıdığını açıkladı. Bu, müşterilerin 2 nanometre gibi en gelişmiş teknolojilerden, 7 veya 12 nanometre gibi daha eski teknolojilere kadar geniş bir yelpazede üretim yapabilmesini sağlıyor. Ancak, eski teknolojilerin saat frekansları ve boyutları üzerinde kısıtlamalar getirebileceği de belirtildi.
Özelleştirilmiş ASIC yapay zeka çipleri ekosistemindeki Imagination Technologies ürünlerinin rolüne dair sorulan soruya Beets, geleneksel olarak tek bir işlem motoruna odaklanan özel ASIC'lerin, yeni gelişen yapay zeka modellerinde (transformerlar gibi) yetersiz kaldığını belirtti. Günümüzdeki modern özel ASIC'lerin ise daha esnek bir yapıya sahip olduğunu, CPU çekirdekleri, özel sinirsel işlem motorları ve GPU benzeri işlem bloklarının bir karışımını içerdiğini söyledi. Imagination, bu tür sistemlere odaklanarak, GPU tabanlı işlem motorları ve esneklik sunuyor. Enerji ve soğutma kısıtlamaları gibi konulara da değinen Beets, verimliliğin önemini vurgulayarak, yapay zeka ve tensor işlemlerini birleştirmeyi hedeflediklerini belirtti.
