Yapay zeka alanındaki kıyasıya rekabet hız kesmeden devam ederken, büyük teknoloji şirketleri NVIDIA'nın yüksek fiyatlı ve sınırlı tedarikteki grafik işlem birimlerine (GPU) rakip olabilecek veya alternatif sunabilecek özel çipler geliştirmek için sürekli arayış içinde. Google'ın Tensor İşlem Birimleri (TPU) ve Amazon'un Trainium çipleri gibi çözümler, yapay zeka hesaplamalarında NVIDIA'nın ürünlerini desteklemek amacıyla daha az güç tüketimi ve maliyet avantajı sunuyor. Şimdi ise gelen bilgilere göre Google'ın yeni TPU çiplerinin, kendi Gemini modellerine özel olarak optimize edileceği ve bu süreçte TSMC'nin gelişmiş çip paketleme teknolojisi CoWoS'a olan ihtiyacı ortadan kaldıracağı belirtiliyor.
Google Yeni TPU Çiplerinin RAM'ini Doğrudan Silikon Üzerine Entegre Etmeyi Planlıyor
Google'ın TPU çiplerinde hangi paketleme teknolojilerini kullanacağı konusu, medya tarafından sıkça merak edilen bir konu. Daha önce, Google ve TPU tasarım ortağı MediaTek'in bu çipler için Intel'in EMIB-T paketleme teknolojisini kullanabileceğine dair çeşitli raporlar ortaya çıkmıştı. Ancak analistler, bu seçimin üretim verimliliğine veya Intel'in çalışır durumda çipler tedarik etme kabiliyetine bağlı olabileceği yönünde spekülasyonlar yapmıştı.
Ancak son gelen bilgilere göre Morgan Stanley'den yapılan bir açıklama, Google'ın çiplerindeki paketleme ihtiyacını tamamen ortadan kaldırmaya odaklandığını gösteriyor. Intel'in EMIB-T teknolojisinin orta seviye yapay zeka çipleri için uygun olduğuna inanılırken, TSMC'nin CoWoS paketlemesi NVIDIA'nın yapay zeka GPU'ları gibi yüksek performanslı çipler için tercih edilen bir yöntem olarak öne çıkıyor.
Detaylara göre Google, "Frozen V2" adını verdiği bir çip tasarlıyor. Bu çip ile firmanın iki önemli hedefi gerçekleştirmesi bekleniyor. Birincisi, bu TPU aracılığıyla özel olarak Gemini yapay zeka modellerini çalıştırmak için optimize edilmiş bir çip üretmek. Google bu özelleştirmeyi, çipin RAM'ini (SRAM) doğrudan silikon üzerine entegre ederek ve böylece CoWoS gibi ayrı paketleme teknolojilerine olan ihtiyacı ortadan kaldırarak sağlamayı amaçlıyor.
Morgan Stanley, Frozen V2'nin önümüzdeki yıl erken üretim aşamasına girebileceğini ve 2028 yılına kadar üretimin artacağını öngörüyor. Google'ın olası ortakları arasında Marvell'in yer alabileceği belirtilse de, ortaklarla ilgili kesinleşmiş herhangi bir detay henüz bulunmuyor. Bu yaklaşımın tamamen yeni olmadığını belirtmekte fayda var; zira yapay zeka çipi üreticisi Taalas da bu yılın başlarında benzer bir yöntemi duyurmuştu.
Taalas da yapay zeka modellerinin ağırlıklarını (neural network weights) doğrudan silikon üzerine entegre ederek bellek-işlem veri aktarımındaki darboğazı ortadan kaldırmayı hedeflemişti. Ancak bu yaklaşımın önemli bir dezavantajı da bulunuyor: Bir önceki modele göre önemli yükseltmeler içeren yeni bir yapay zeka modeli tanıtıldığında, her seferinde yeni bir çip tasarlamak gerekiyor. Bu da, TSMC gibi üreticilerin her üretim partisi için makinelerini ayarlamalarını gerektiriyor.
