Bir zamanlar yarı iletken dünyasının göz ardı edilen parçası olan CPU'lar, yapay zekanın yükselişiyle birlikte merkez sahneye çıktı. Özellikle kişisel yapay zeka asistanlarının yaygınlaşması, bu durumu daha da hızlandırdı. Meta'nın Muse gibi yenilikçi projeler, CPU'ların önemini yeniden tanımlayarak sektörde büyük bir ivme kazandırdı.
Kişisel yapay zeka asistanlarından kaynaklanacak talebin henüz belirsiz olduğunu savunanlar olsa da, son gelen veriler bu tezi çürütüyor. Yapılan analizler, CPU teslim sürelerinin neredeyse iki katına çıktığını gösteriyor.
CPU Teslim Süreleri 25-30 Haftaya Fırladı, Yapay Zeka Talebi Tartışmaları Sürüyor
Yapılan son araştırmalar, CPU'lar için teslim sürelerinin tipik 16-20 haftalık eşikten 25-30 haftaya kadar uzadığını ortaya koyuyor. Bu durum, kişisel yapay zeka asistanlarından gelebilecek CPU talebi hakkındaki tartışmalar devam ederken, CPU'lar için olumlu bir tablo çiziyor.
Meta'nın Muse'u, sizin adınıza çok adımlı görevleri yerine getirebilen ve belirli sonuçlara ulaşabilen bir kişisel yapay zeka asistanıdır. Bu asistan, insan benzeri bir şekilde web sitelerinde gezinebilir, bulut tabanlı bir tarayıcı açabilir ve uygulamayı kapattıktan sonra bile arka planda çeşitli işlemleri yönetebilir.
Gizlilik endişelerini gidermek için Muse, özel ve izole edilmiş bir bulut bilgisayar olan Sanal Makine (VM) içinde çalışır. Bu VM, sizin verilerinizi ve kimlik bilgilerinizi güvenli bir şekilde saklayan kendi tarayıcısına sahiptir. İkinci bir güvenlik katmanı olan Sentinel ise ortamı sürekli olarak izler ve asistanın Sentinel'in onayı ve sizin açık onayınız olmadan herhangi bir işlemi tamamlamasını engeller.
Daha önceki analizler, Meta Muse'un her kullanıcısına özel bir Sanal Makine tahsis edeceğini öne sürmüştü. Bu VM'ler, 2 sanal CPU, 8 GB RAM ve 100 GB SSD'ye sahip olacaktı. Başlangıçtaki basit hesaplamalar, Muse'un günlük aktif kullanıcı sayısı arttıkça milyonlarca ek CPU talebi yaratabileceğini gösteriyordu. Ancak son dönemdeki daha detaylı analizler, bu CPU talebi sorununa daha incelikli bir yaklaşım gerektirdiğini ortaya koyuyor.
Yapılan incelemeler, her Muse kullanıcısı için 2 sanal CPU ve 8 GB RAM tahsis etme zorunluluğunu sorguluyor. Gerçekte, yapay zeka asistanları için kullanılan sanal makineler genellikle aşırı yüklüdür. Bir sanal makine, model yanıtları, kullanıcı girdileri, araç sonuçları ve ağ bağlantıları gibi birçok şey için bekleme modunda zaman geçirir. Ayrıca, sanal makine aktif olsa ve belleği tutuyor olsa da, gerçek CPU kullanımı genellikle sıfıra yakındır. Bu nedenle, aşağıdaki soruların yanıtlanması önemlidir:
- Herhangi bir anda kaç adet aktif sanal makinenin çalışır durumda olması gerekiyor?
- Aşırı yükleme dikkate alındığında, fiziksel olarak kaç adet CPU çekirdeğine ihtiyaç duyulacak?
Meta Muse için günde ortalama 2 saat çalışan 100 milyon günlük aktif kullanıcı varsayımıyla, ortalama iş yükünü karşılamak için 8,33 milyon sanal makineye ihtiyaç duyulacaktır. Elbette bu 2 saatlik iş yükü eşit dağılmamıştır ve yoğun saatlerde daha fazla konsantredir. Bu senaryoda, her zaman hazır olması gereken sanal makine sayısı 20,8 milyona çıkmaktadır. Buna ek olarak, ani artışlar, arızalar ve büyüme için yaklaşık %20 ek kapasite eklendiğinde, 100 milyon Muse kullanıcısını karşılamak için toplam 25 milyon aktif sanal makineye ihtiyaç duyulacaktır. Yüksek kullanım senaryosunda, yani tipik bir Muse asistanı günde 4 saat çalıştığında, bu talep 50 milyon aktif sanal makineye ulaşabilir.
Şimdi ikinci önemli soruyu yanıtlayalım: Sanal makine başına kaç adet fiziksel CPU çekirdeği gereklidir? Bu sorunun yanıtını bulmak için, bir yapay zeka laboratuvarının sandbox platformundan yararlanılmıştır. Bu platformda yaklaşık 160 düğüm, 30.000 fiziksel CPU çekirdeği, 380.000'den fazla eş zamanlı sandbox ve düğüm başına yaklaşık 800 mikro sanal makine yoğunluğu bulunmaktadır.
Bu laboratuvar, düğüm başına yaklaşık 188 fiziksel CPU çekirdeği ayırmaktadır. Bu da, aktif bir mikro sanal makine başına yaklaşık 0,23 fiziksel çekirdek anlamına gelir. Elbette, bu laboratuvarın operasyonel verimliliği oldukça yüksektir ve Meta'nın bu kadar tutumlu olması beklenmeyebilir. Bu nedenle, sanal makine başına düşen fiziksel çekirdek sayısı 0,3 ile 0,75 arasında değişebilir ve ortalama olarak 0,5 olarak kabul edilebilir.
Tüm bu bilgileri bir araya getirdiğimizde, 25 milyon aktif sanal makine varsayımıyla Meta'nın yalnızca 12,5 milyon CPU çekirdeğine ihtiyaç duyabileceği ortaya çıkıyor. Özellikle, sandbox'ların yaklaşık %90'ının ortalama olarak talep edilen CPU kaynaklarının %5'inden azını kullandığı belirtiliyor, çünkü asistanlar zamanlarının büyük çoğunluğunu model yanıtlarını bekleyerek geçiriyor.
Elbette burada önemli nüanslar bulunmaktadır. Sanal makine başına 0,5 fiziksel çekirdek varsayımı sabit değildir ve aslında çıkarım hızı ile birlikte değişmelidir. İlk bakışta daha hızlı çıkarımın her sanal makineye ayrılan fiziksel çekirdek miktarını daha da azaltacağı düşünülse de, teknoloji daha verimli hale geldikçe talebin de arttığı Jevons Paradoksu etkisini göz ardı etmemek gerekir.
Özetle, Meta'nın Muse gibi kişisel yapay zeka asistanlarının yarattığı CPU talebine ilişkin varsayımlarda birçok değişken olsa da, temel eğilim konusunda bir fikir birliği vardır: Bu eğilim, CPU üreticileri için yapısal olarak oldukça olumludur. Trend Force'un son raporu da bu temel tezi destekleyen ek kanıtlar sunmaktadır.
