Yapay zekanın (YZ) doymak bilmez enerji ihtiyacı hem maliyetli hem de sürdürülemez bir durum yaratıyor. Bain & Company'nin yeni raporuna göre, YZ'nin işlem gücü talebini karşılamak için önümüzdeki yıllarda büyük yatırımlar gerekecek. Bu rapor, YZ'nin büyümesini sürdürebilmesi için yıllık 2 trilyon dolarlık gelire ihtiyaç duyulduğunu, ancak buna rağmen 800 milyar dolarlık devasa bir açık öngörüldüğünü ortaya koyuyor.
Bu bulgular, mevcut YZ anlatılarına karşı bir gerçeklik kontrolü niteliği taşıyor. Rapor, milyarlarca parametrelik modellerin heyecanından ziyade, altyapının fiziksel ve ekonomik gerçeklerine odaklanıyor. Bain'in analizine göre, sektör enerji kısıtlamaları, sınırlı GPU (Grafik İşlem Birimi) tedariği ve sermaye darboğazlarının birleştiği bir noktaya doğru ilerliyor.
Bain'in temel argümanı, işlem gücü talebinin, onu sağlayan araçlardan çok daha hızlı ölçeklenmesidir. Moore Yasası'nın yavaşlamasına rağmen, YZ iş yükleri iki katından daha hızlı büyüyor. Bu durum, veri merkezi operatörlerini her çipteki verimlilik artışlarına güvenmek yerine, daha fazla donanım ekleyerek ölçek büyütmeye zorluyor. Sonuç olarak, küresel YZ işlem gücü ayak izinin 2030 yılına kadar 200 GW'a ulaşması bekleniyor ve bunun yarısı yalnızca ABD'de olacak.
Bu ölçekteki bir büyüme, yerel elektrik şebekelerinde büyük ve zorlu güncellemeler, elektrikli ekipmanlar için uzun tedarik süreleri ve tonlarca yüksek kapasiteli soğutma sistemi gerektirecek. Daha da önemlisi, HBM ve CoWoS gibi temel donanımların tedarikinde şimdiden sıkıntılar yaşanıyor. Sektördeki bazı önde gelen firmaların açıklamaları ve Bain raporu, talebin endüstrinin üretim kapasitesini her alanda aştığını gösteriyor; tek istisna fiyatlandırma gibi görünüyor.
Eğer sermaye akışı kesilirse veya sabit kalırsa, büyük bulut bilişim sağlayıcıları (hyperscalers), watt başına ve metrekare başına en iyi geri dönüşü sunan sistemlere yönelecektir. Bu durum, Nvidia'nın GB200 NVL72 veya AMD'nin Instinct MI300X gibi tam raflı GPU platformlarının kullanımını artıracaktır. Bu platformlar, termal yoğunluk ve bağlantı verimliliği ile ön plana çıkmaktadır. Buna karşılık, daha düşük hacimli ve ana akım iş istasyonu parçalarına dayanan konfigürasyonlar geri plana düşebilir ve bu da üst düzey masaüstü bilgisayarlara gidebilecek çip tedarikini azaltabilir.
Bu durum kişisel bilgisayar (PC) tarafında da etkiler yaratıyor. Eğer eğitim maliyetleri yüksek kalırsa ve veri merkezlerindeki çıkarım işlemleri enerji sınırlarına ulaşırsa, iş yükünün bir kısmı kenar bilişime (edge computing) kayacaktır. Bu, şu anda 40 ila 60 TOPS (saniyede trilyon işlem) aralığında NPU'lar (Sinirsel İşlem Birimleri) sunan dizüstü ve masaüstü bilgisayar üreticileri için avantajlı bir durum yaratıyor. Kenarda çıkarım işlemleri sadece daha hızlı olmakla kalmaz, aynı zamanda daha ucuz ve daha az sermaye gerektirir.
Bu gelişmeler yaşanırken, rekabet de devam ediyor. Bir teknoloji devi, Wisconsin'deki YZ veri merkezi harcamasını 7 milyar doların üzerine çıkardı. Diğer büyük firmalar da milyarlarca dolar yatırım yapıyor. Ancak bu fonların büyük bir kısmı zaten GPU tedariği ve model geliştirme için ayrılmış durumda. Bain'in de belirttiği gibi, bu agresif rakamlar bile maliyet ve gelir arasındaki farkı kapatmak için yeterli olmayabilir.
Bu rapor, mevcut YZ döngüsünün merkezindeki gerilimi güçlendiriyor. Bir yanda, altyapının inşa edilmesi, personelinin yetiştirilmesi ve enerji ihtiyacının karşılanması yıllar alıyor. Diğer yanda ise, modellerin her altı ayda bir boyut ve maliyet olarak ikiye katlanması, YZ balonunun büyümesi korkularını güçlendiriyor. Eğer bu durum devam ederse, üst düzey silikonlar, bellek ve soğutma sistemleri önümüzdeki on yıl boyunca hem kıt hem de pahalı kalmaya devam edebilir.
