Yapay zeka alanında çığır açan gelişmeler yaşanmaya devam ederken, teknoloji devi AMD, AI modellerini doğrudan silikon yongalara gömen Taalas adlı girişimi bünyesine kattı. Bu satın alma, AMD'nin yapay zeka çıkarım (inference) alanındaki yeteneklerini önemli ölçüde güçlendirmeyi hedefliyor.
Taalas, Yapay Zeka Modellerini Silikon Çiplere Yerleştiriyor
AMD, özellikle hızla büyüyen yapay zeka çıkarım pazarında rekabet avantajı sağlamak amacıyla Taalas ile kesin bir satın alma sözleşmesi imzaladığını duyurdu. Bu hamle, AMD'nin mevcut Helios sistemlerini daha da geliştirecek nitelikte.
Taalas'ın geliştirdiği teknoloji, yapay zeka çıkarımında karşılaşılan en büyük sorunlardan biri olan "bellek duvarı" problemini ortadan kaldırıyor. Bu sorun, GPU'ların veriyi beklemesi nedeniyle işlem gücünün boşa harcanmasına yol açıyor. Taalas, bu durumu, yapay zeka modelini doğrudan transistörlere fiziksel olarak entegre ederek çözüyor. Bu özel dijital mimari, tek bir transistör aracılığıyla 4 bit veriyi depolayabiliyor ve matematiksel işlemleri gerçekleştirebiliyor.
Taalas'ın HC1 çipi, kuantize edilmiş 4-bit bir model ağırlığı için olası 16 çarpımı sürekli olarak önceden hesaplayan paylaşımlı donanım bloklarına sahip. Tüm matematiksel çıktılar chip üzerinde anlık olarak gerçekleştiği için, tekil transistörler aslında herhangi bir hesaplama yapmıyor; sadece fiziksel bir yönlendirici görevi görüyor.
Bu yaklaşımda, yapay zeka modelinin her bir ağırlığı, tek bir "Mask ROM" transistörü ile temsil ediliyor. Üretim süreci sırasında, mikroskobik bir fiziksel tel (bir metal katman maskesi), bu transistörü önceden hesaplanmış 16 olası ürün hattından birine fiziksel olarak bağlıyor. Chip'ten veri aktığında, transistör doğru önceden hesaplanmış matematiksel kanalı seçerek toplayıcıya iletiyor. Bu sayede Taalas'ın HC1 çipi, bu kurulumu kullanarak kullanıcı başına saniyede 16.000 ila 17.000 token gibi etkileyici bir performans sunabiliyor.
Özetle: Yapay zeka modelinin matematiksel değerleri ayrı bir bellek bankasında saklanmak yerine, transistör yollarına fiziksel olarak kablolanıyor. Chip'in herhangi bir şeyi "yüklemesi" veya bellekten veri çekmesi gerekmiyor, çünkü devre hem belleği hem de işlemciyi bir arada barındırıyor. Ancak bu chip, yalnızca tasarlandığı model için çalışıyor.
Bu yöntem, yapay zeka model ağırlıklarının doğrudan SRAM'e sabitlendiği ve bellek önbelleği konseptini tamamen atladığı, küçük ve izole SRAM havuzları kullanan bir teknolojiye benziyor.
AMD'nin Taalas'ı satın alma kararı, Cerebras'ın Wafer-Scale Engine ile entegrasyonunu tamamlıyor. Bu entegrasyon, tek bir devasa silikon levha üzerinde tam bir yapay zeka süper bilgisayarının bellek ve hesaplama gücünü bir araya getiriyor. Yüz binlerce işlem çekirdeği ve onlarca GB SRAM, verinin harici ağ darboğazlarına takılmadan verimli bir şekilde hareket etmesini sağlıyor.
