Yapay zeka alanında çığır açan bir gelişme yaşanıyor. 400'den fazla deneyimli mühendisin bir araya gelerek kurduğu Etched adlı yeni girişim, Frontier Inference Clusters adını verdiği son yapay zeka çözümünü duyurdu.
Etched Gizliliğini Sonlandırarak Frontier Inference Clusters'ı Tanıttı, Başarılı Bir A0 Tapeout Gerçekleştirdi ve Yapay Zeka Sözleşmelerinde 1 Milyar Doları Aştı
NVIDIA, Google, Broadcom, TSMC, SK Hynix gibi önde gelen firmalardan gelen 400'den fazla mühendis bir araya geldiğinde ne olur? İşte Etched böyle ortaya çıktı.
Bu yeni yapay zeka girişimi, öncü modeller için çipler, raflar, yazılımlar ve gelişmiş üretim yöntemlerini ortak tasarlıyor. Şirket, hem ön yükleme hem de çözme iş yükleri için sınıfının en iyisi verimlilik, gecikme süresi, maliyet ve güç verimliliğini vaat ediyor ve iddialarını destekleyecek ilk silikon kanıtlarına sahip.
Bugün Etched, kendisini ve ilk A0 silikonunun başarılı tapeout'unu resmen duyurdu. Tapeout aslında bu yılın başlarında TSMC'nin N4P işlem teknolojisi ile yapılmıştı. O zamandan beri ilk raf ölçeğindeki ürünlerini doğrulama ile meşguller ve bu ürün şimdiden yapay zeka müşterilerinden 1 milyar doların üzerinde talep topladı. Şirket, VentureTech Alliance'dan stratejik bir yatırım da dahil olmak üzere dört duyurulmamış finansman turunda bugüne kadar 800 milyon dolar topladı ve önde gelen yarı iletken firmalarla ortaklıkları derinleştirmek ve genişletmek için çalışıyor.
VLI İşlemcisi, Mevcut Yapay Zeka Çiplerinin Yarısı Kadar Voltajda %80 Tepe FLOP Üretiyor
Altyapıya gelince, Etched, çok trilyon parametreli MoE'ler, uzun bağlamlı ve ajanlık yapay zeka iş yükleri dahil olmak üzere öncü modelleri ele almak için planlarını ortaya koyuyor. Bu amaçla şirket, bir dizi yeni çip, paket, PCB, soğutma plakası, ara bağlantı ve daha fazrası üzerinde çalışmak zorunda kaldı.
Bunların ilki, yüksek verimli iş yükleri için Düşük Voltajlı Çıkarım (LVI) işlemcisi. Bu çip, çoğu yapay zeka çipinin yarısı kadar voltajda matematiksel işlem yapmasını sağlayan yeni bir mimariye sahip. Bu yaklaşımla Etched, tam voltaj modunda çipler daha fazla güç çektiğinde yavaşlayan ve tepe FLOP'ların yarısından daha azını üreten çoğu yapay zeka çipinde meydana gelen sürekli performans sorunlarını çözüyor.
CMS Hızlandırıcısı, HBM/SRAM Kombinasyonu Sunuyor
İkinci parça ise düşük gecikme süreli iş yükleri için Küme Ölçekli Bellek (CSM). Daha hızlı çözme hızları için HBM'ye doğru devasa SRAM bloklarına yönelimi gördük, ancak SRAM çipler iyi FLOPs verimliliği veya bellek kapasitesi sunmuyor. Etched'in CSM ile sunduğu çözüm, daha hızlı bellek erişimi için yüksek bant genişliğine sahip ara bağlantıyı koruyan, daha düşük gecikmeli ve paylaşımlı bir bellek havuzu ürünüdür. Bu HBM/SRAM hibriti, daha düşük maliyet, daha yüksek güvenilirlik, daha iyi verim ve gelişmiş termal özellikler sunarken hem bellek kapasitesi hem de bellek gecikmesi sorunlarını ele alıyor.
Hepsi bir araya geldiğinde, Etched erken müşteri testlerinde çıkarım iş yükleri boyunca en son teknoloji verimliliği, gecikme süresi ve güç verimliliğini elde etmeyi başardı. Etched'in VLI işlemcisi, termal kısıtlama olmadan trilyon parametreli seyrek MoE'leri %80 tepe FLOPs ile çalıştırabiliyor.
Şu anda Etched, üretimi benzeri görülmemiş bir hızda ölçeklendiriyor ve ofislerinde 2 MW'lık bir veri merkezi kurmuş durumda, ayrıca 7/24 mühendislik için Tayvan'da bir fabrika açtı. Şirket, bu yaz performans ve yol haritaları hakkında daha fazla güncelleme yapmayı vaat ediyor.
