Yapay zeka (YZ) donanım ve yazılım firması Groq, Avrupa pazarında hızla büyüyen YZ sektöründe iddiasını ortaya koydu. Şirket, AB pazarındaki rekabette önemli bir pay kapmak amacıyla Avrupa'daki ilk veri merkezini Finlandiya'nın başkenti Helsinki'de kurduğunu duyurdu. Bu hamle, özellikle YZ çıkarım (inference) pazarında Nvidia'nın GPU'lara dayalı çözümlerine karşı iddialı bir alternatif sunma hedefi taşıyor.
Groq'un CEO'su Jonathan Ross, Helsinki'deki veri merkezinin kurulumuna dört hafta önce karar verdiklerini ve şu anda sunucu raflarının yerleştirilmeye başlandığını belirtti. Ross, "Bu hafta sonuna kadar trafik sağlamaya başlamayı bekliyoruz. Hızlı bir şekilde inşa edildi ve piyasadaki diğer tekliflerden çok farklı bir yaklaşım sergiliyor" dedi.
Ross, şirketinin donanım ve operasyonlarındaki bu hız ve verimliliğin, şu anda Nvidia'nın egemen olduğu bir pazarda Groq'a avantaj sağlayacağına inanıyor. Mevcut grafik kartı devi Nvidia, YZ eğitimi (training) konusunda piyasayı domine etmiş olsa da Ross, Groq'un, YZ algoritmalarının etkili bir şekilde çalışmasını sağlayan çıkarım hesaplamalarını güçlendirerek günlük operasyonlarda öne geçme potansiyeline sahip olduğunu düşünüyor.
Ross, "Çıkarım genellikle daha yüksek hacimli, ancak daha düşük marjlı bir iş. Biz bu görevi üstlenmekten memnunuz" açıklamasını yaptı. Hatta Nvidia hissedarlarının bile bu durumdan memnun kalacağını, çünkü bunun sektörü ileriye taşıyarak uzun vadede Nvidia'ya da fayda sağlayacağını iddia etti.
Yine de Ross, çıkarım işinde Nvidia ile doğrudan rekabete girmekten çekinmiyor. Nvidia GPU'larının gücünü ve etkileyici yeteneklerini takdir etmekle birlikte, Ross bu genel amaçlı çiplerin YZ düşünülerek tasarlanmadığını vurguluyor. Groq'un Dil İşlem Birimleri (LPU'lar) ise tam da bu amaçla geliştirilmiş özel Uygulamaya Özgü Entegre Devreler (ASIC'ler) olarak öne çıkıyor.
Groq'un LPU'ları, YZ çıkarım hesaplamaları için özel olarak tasarlanmış ASIC'lerdir. Görevlerin gecikme süresini azaltmak için çip üzerinde bellek kullanır ve çipler, büyük dil YZ modellerinin gerektirdiği doğrusal cebirsel hesaplamaları ele almak üzere tasarlanmıştır. Ross, bu sayede LPU'larının hem hızlı hem de verimli olduğunu, aynı çıktıyı üretmek için geleneksel GPU tasarımlarının yaklaşık üçte biri kadar güç tükettiğini iddia ediyor. Ross sadece şirketinin donanımının hızına değil, aynı zamanda tepki hızlarına da güveniyor.
Ross, "Bir yetkili GTC'de (Nvidia'nın konferansı) eğer iki yıl içinde GPU almak istiyorsanız, siparişlerinizi şimdi vermeniz gerektiğini söyledi. Bu saçma bir gereklilik. Bizim için bu süre yaklaşık altı ay. Bu, dörtte bir zaman demek ve ihtiyacınız olanı tahmin etme yeteneğinizi tamamen değiştiriyor" ifadelerini kullandı. Ayrıca, Nvidia'nın HBM gibi egzotik bileşenler kullandığı için yıl içinde üretebileceği GPU sayısı konusunda sınırlı olduğunu belirtirken, Groq'un bu tür bileşenleri kullanmadığı için tedarik açısından daha az kısıtlı olduğunu ve bunun çıkarım için çok önemli olduğunu ekledi.
Samsung ve Cisco'dan aldığı önemli yatırımlarla desteklenen Groq'un yeni veri merkezi, Amerikalı veri merkezi firması Equinix ile ortaklık içinde inşa ediliyor. Bu ortaklık, şirketin daha hızlı faaliyete geçmesine ve gelecekteki genişleme fırsatlarına kapı aralayacak. Nvidia'nın ise CEO'su Jensen Huang'ın "YZ fabrikaları" olarak adlandırdığı, dünya çapında yüzlerce milyar dolarlık yatırımı içeren uzun bir YZ ortağı listesi bulunuyor.
Şirketlerin taraf tuttuğu bir ortam oluşmaya başlıyor ve bu durum, donanım kadar yazılım cephesi için de eşit derecede önemli olabilir. Nvidia, CUDA yazılım yığını sayesinde uzun süredir profesyonel grafik kartı alanında büyük ölçüde egemen durumda. CUDA, YZ geliştirme araç setlerinin çoğunun temelini oluşturuyor.
Ancak Nvidia'nın piyasadaki devasa konumuna rağmen, Groq rekabet edebileceğinden emin görünüyor. Nvidia GPU'larından çok daha basit bir tasarıma sahip olan LPU'ları ve genel bir derleyici kullanması sayesinde Groq, donanım ve yazılımlarının daha sade, daha hızlı ve aynı derecede, hatta daha yetenekli olabileceğini iddia ediyor.
Ross, Groq'un kendi küçük, yeni başlayan rakiplerine de hazır olduğunu belirtti. YZ çıkarım sektörünün ne kadar sıcak olduğuna rağmen Groq'un, alternatif tekliflerini oluşturmaya başlayan start-up'ların önüne geçmesi gerektiğini ifade etti.
Ross sözlerine devam etti: "Birçok start-up ortaya çıkacak, ancak bir YZ çipi geliştirmek pahalı. Bir çipi pazara sunmak için çeyrek ila yarım milyar dolar harcayacaksınız ve herkesi finanse edemezsiniz." Ross, yetenekleri elde tutma konusunda endişeli görünmüyordu. Ross, YZ araştırma alanına biraz bitişik oldukları için yetenek bulma ve elde tutma konusunda daha kolay zaman geçirdiklerini belirtti. "Yine de sıcak bir sektör ve en iyi yetenekler için büyük bir çekim var. Bizim durumumuzda, birçok insan bizi çok yüksek bir büyüme yörüngesinde görüyor ve bu yolda olmak istiyor, bu yüzden insanlar bize hisse senedi ve büyüme potansiyeli için katılıyor" dedi.
Olası personel sorunlarına rağmen Groq, Avrupa'da sıcak bir karşılamayla karşılaşacak gibi görünüyor. AB ve Birleşik Krallık'taki birçok ülke, ABD ve Çin'deki YZ çabalarıyla rekabet edebilmek adına önümüzdeki yıllarda YZ çıkarım veri merkezlerine yoğun yatırım yapmayı planlıyor.
Eğer bu veri merkezi, karar vericilerin girişimi başlatmasından haftalar sonra müşterilere etkili bir şekilde hizmet vermeye başlayabilirse, bu muhtemelen son olmayacaktır. Ancak Groq için benimseme hızı ve gücü, şirketin gelecekteki başarısı için kritik önem taşıyacaktır. Nvidia, sadece veri merkezi donanımından son çeyrekte 35.6 milyar dolar kazanırken, AMD 3.7 milyar dolar elde etti. Groq, bu alanda anlamlı bir rakip olmak istiyorsa, YZ iş yükleri için kendi ASIC çözümlerini oluşturmak isteyen müşterilere ve şirketlere hitap etmesi gerekiyor ki bu pazarın çok spesifik bir alt bölümüdür.
Groq'un donanımının ne kadar ölçeklenebilir olduğuna dair bir cevaba da ihtiyacı olacaktır, zira bir ASIC çözümü arayan potansiyel hiper ölçeklendiriciler şirketi yakından takip edecektir. Bu durum, Broadcom, Marvell ve Mediatek gibi daha köklü ASIC işletmelerinden gelebilecek potansiyel rekabetle de iç içedir. Groq kendisini kanıtlarsa, o zaman son derece sıcak olan YZ pastasından bir dilim arayan, dolaylı Nvidia rakipleri topluluğunun bir parçası haline gelebilir.
