Yapay zeka dünyasının önde gelen isimlerinden OpenAI ve köklü silikon tedarikçisi Broadcom, veri merkezlerinde büyük dil modellerinin (LLM) çıkarım işlemleri için özel olarak tasarlanmış yeni bir çip duyurdu. Jalapeño adı verilen bu yeni nesil çip, yapay zeka modellerinin daha verimli çalışmasını hedefliyor.
Şirketler, Jalapeño çipini büyük veri merkezlerinde kullanmayı planladıklarını ve bu adımın, zamanla daha da geliştirilecek çiplerin yer alacağı uzun vadeli bir projenin ilk aşaması olduğunu belirtiyor.
Broadcom'dan yapılan açıklamaya göre, bu özel entegre devre (ASIC), LLM çıkarım işlemleri için sıfırdan tasarlandı. Çipin geliştirilmesinde OpenAI'deki araştırmacıların elde ettiği detaylı bilgiler ve şirketin gelecekteki modellerine yönelik yol haritası dikkate alındı. Çipin tasarımı ve üretimi yalnızca dokuz ay sürdü.
Jalapeño'nun vaadi, mevcut veri merkezlerinde kullanılan çıkarım sistemlerine kıyasla, büyük dil modellerinin güncel ihtiyaçları için daha özel bir çözüm sunması.
OpenAI, ilk testlerin Jalapeño'nun mevcut en gelişmiş çözümlere kıyasla watt başına önemli ölçüde daha iyi performans sunacağını gösterdiğini iddia ediyor. Ancak şirket, performans ölçümlerinin henüz tamamlanmadığını ve önümüzdeki aylarda detaylı bir teknik rapor sunulacağını da ekliyor.
Bu gelişmeler ışığında, ChatGPT ve Codex gibi hizmetleriyle tanınan OpenAI'nin, modellerinin ve ürünlerinin arkasındaki tüm teknolojik yapıyı kendi bünyesinde toplama ve böylece Nvidia gibi dış şirketlere olan bağımlılığını azaltma stratejisinin bir parçası olduğu düşünülüyor. Bu dikey entegrasyonun, daha iyi performans ve verimlilik sağlaması bekleniyor.
Genel olarak bakıldığında, OpenAI ve rakipleri, küresel çip sıkıntısı ve veri merkezi kapasitesi üzerindeki rekabetin arttığı bu dönemde, özel silikon çözümlerine yönelerek daha fazla işlem gücü elde etmenin yollarını arıyor.
Broadcom, daha önce de altyapı kuran müşteriler için başarılı bir çip üreticisi olsa da, yapay zeka alanındaki bu yeni gelişmelerle birlikte, büyük veri merkezlerine ve gelişmiş modeller geliştiren ekiplere özel çip sağlama konusunda önemli bir ivme kazanmış durumda.
Her iki şirket de Jalapeño çiplerinin bu yıl sonuna kadar veri merkezlerinde kullanıma sunulacağını açıkladı.
