Yapay zekanın (YZ) yükselişi, büyük bulut bilişim platformları ve genel performans ihtiyacı, 2025 itibarıyla veri merkezlerinin tasarımını ve soğutma yöntemlerini kökten değiştirdi. Önümüzdeki on yıl içinde YZ ve ilgili teknolojilerin hızla gelişmesi, veri merkezlerinin ölçeğini değiştirecek ve daha gelişmiş soğutma teknolojilerinin benimsenmesini hızlandıracak. Peki, bu dönüşümün geleceği nasıl şekilleniyor?
Sadece on yıl önce, yani 2015'te, veri merkezi sıvı soğutma büyük ölçüde süper bilgisayarlar ve madencilik çiftlikleri gibi özel uygulamalarla sınırlıydı. O dönemdeki küresel benimsenme oranı en iyi ihtimalle %5 civarındaydı. Düşük ön maliyetleri ve daha basit altyapısı nedeniyle hava soğutma yaygın olarak kullanılıyordu. Ancak 2020'ye gelindiğinde, verimlilik arayışına giren bulut sağlayıcıları sayesinde sıvı soğutmanın benimsenmesi artmaya başladı ve %10 civarına ulaştı. Yine de, ortalama olarak rack başına yaklaşık 5-10 kW güç yoğunluğu ile hava soğutma çoğu durum için yeterliydi.
Birkaç yıl ileri sardığımızda, rack başına güç yoğunluğu 15 kW, 20 kW, 30 kW ve hatta Nvidia H100 tabanlı rack'ler için 40 kW'a yükseldi. Bu fırlayan güç yoğunlukları, teknolojinin özel kurulumlardan kurumsal ve bulut veri merkezlerine doğru ilerlemesiyle birlikte sıvı soğutmanın sürekli benimsenmesine yol açtı.
2024 yılına gelindiğinde, sıvı tabanlı soğutma veri merkezi soğutma pazarının %46'sını ele geçirmişti. Ancak hava soğutma hala pazarın %54'ünü elinde tutuyordu. Hava soğutma hala eski ve orta ölçekli tesislerin çoğunda kullanılırken, rack başına güç arttıkça özellikle yapay zeka ve büyük ölçekli bulut veri merkezlerinde yeni yapılanmalarda sıvı soğutmanın hakim olması bekleniyor. Örneğin, bir Blackwell Ultra rack'i 140 kW'a kadar güç tüketiyor ve bu, artan güç yoğunluklarının sonu değil.
Soğutma sistemleri daha karmaşık hale geldikçe maliyetleri de artıyor, bu da daha pahalı çözümlere yol açıyor. Küresel veri merkezi soğutma pazarının değeri 2025'te 10,80 milyar dolar olarak tahmin ediliyor ve 2031'e kadar yıllık bileşik büyüme oranı %15,11 ile 25,12 milyar dolara ulaşması bekleniyor. Bu güçlü büyüme, YZ hızlandırıcılarının artan ısı yoğunlukları nedeniyle hava soğutmanın yetersiz kaldığı durumlarda, YZ ve büyük ölçekli tesislerde hava tabanlı sistemlerden sıvı tabanlı termal sistemlere geçişten kaynaklanıyor.
Hava Soğutma
Geleneksel olarak veri merkezleri operasyonlarını çalıştırmak için hava soğutmayı kullanmıştır ve birçok operatör için bu durum yakında değişmeyecek. Ancak, termal yoğunluk arttıkça teknolojinin sınırlamaları daha belirgin hale geliyor. Peki, pratikte bu nasıl işliyor?
Veri merkezlerindeki hava soğutma, sunucular ve ağ ekipmanları tarafından üretilen ısıyı emmek ve gidermek için şartlandırılmış havayı dolaştırarak çalışır. Tipik olarak, hava soğutma, sunuculara sürekli olarak soğuk hava itilip ısınmış egzoz havasının yeniden şartlandırılması için geri çekilmesiyle, güvenli operasyon için önerilen 21°C ila 24°C arasındaki bir aralıkta girişi tutar.
Hava soğutmalı tesislerin çoğu, sıcak ve soğuk havanın karışmasını önlemek ve nihayetinde enerji faturalarını düşürmek için sıcak koridor/soğuk koridor düzeni kullanılarak organize edilir. Rack'ler, sunucuların önlerinin (soğuk hava girişleri) bir soğuk koridorda birbirine bakacak şekilde ve arkalarının (ısınmış hava çıkışları) bir sıcak koridorda birbirine bakacak şekilde düzenlenir. Bazı veri merkezleri, hava akışlarını tamamen ayırmak ve enerji israfını en aza indirmek için sıcak veya soğuk koridorları fiziksel bariyerlerle kapatarak daha da ileri gider.
Sıcak hava, geri dönüş ızgaraları aracılığıyla bir hava dağıtım odasına yükselir ve buradan Bilgisayar Odası Klima (CRAC) veya Bilgisayar Odası Hava İşleyici (CRAH) ünitesi gibi gerçek soğutma sistemleri tarafından alınır. CRAC üniteleri, standart klimalara benzer şekilde havayı doğrudan soğutmak için soğutucu akışkanlar kullanırken, CRAH üniteleri harici bir soğutucu cihazdan sağlanan soğuk suyla soğutulan bobinler aracılığıyla havayı dolaştırır. Soğutulmuş hava daha sonra yükseltilmiş bir zeminden veya tavan kanallarından dağıtılır ve soğuk koridorlara yönlendirilir. Sıcak koridordan ısıyı emdikten sonra hava, tavan dağıtım odalarından soğutma ünitelerine geri döner ve burada daha fazla soğutulur.
Modern hava soğutmalı tesislerin çoğu, enerji tüketimini azaltmak için ekonomik soğutma veya serbest soğutma sistemleri de kullanır. Bu sistemler, CRAC veya CRAH soğutmasına yardımcı olmak veya tamamen değiştirmek için serin dış havadan veya düşük ortam sıcaklıklarından yararlanır. Ilıman iklimlere sahip bölgelerde bu, kompresör çalışmasını en aza indirerek elektrik kullanımını önemli ölçüde azaltabilir.
Hava soğutma standart bir veri merkezi soğutma teknolojisi olmaya devam etse de, 20 kW – 30 kW güç çeken yüksek yoğunluklu sunucu rack'leri için daha az etkili hale gelir, çünkü yeterince ısıyı verimli bir şekilde gideremez. Sonuç olarak, veri merkezleri giderek daha fazla sıvı veya hibrit soğutma sistemleri benimsemektedir.
Hibrit ve Sıvı Soğutma
Veri merkezlerindeki hibrit ve sıvı soğutma sistemleri, her biri kolayca birkaç kilovat güç tüketen YZ ve HPC sunucularının daha yüksek ısı yüklerini yönetmek üzere tasarlanmıştır. Bunun yerine yalnızca soğuk havaya güvenmek yerine, bu sistemler bileşenlerden veya nadir durumlarda yerelleştirilmiş hava bölgelerinden ısıyı doğrudan emmek ve gidermek için sıvı soğutucu (genellikle su veya dielektrik akışkan) kullanır.
Hibrit bir soğutma kurulumunda hem hava hem de sıvı birlikte kullanılır. Odanın ortam koşullarını korumak için hala soğuk hava dolaşır, ancak sıvı döngüler en sıcak bileşenleri (CPU'lar ve GPU'lar gibi ve hatta gelecekte SSD'ler de olabilir) yönetir. Bu durumda ısı, bir soğutma dağıtım ünitesine (CDU) taşıyan dolaşan bir soğutucu tarafından yakalanır. Oradan termal enerji, tesis suyu döngülerine ve soğutma kulelerine aktarılır veya buharlaşmalı soğutma yoluyla kısmen serbest bırakılır ve ardından dışarıya atılır.
Tam kurulum tipine bağlı olarak, CRAC veya CRAH soğutma kapasitesinin %15-20'sini oluşturabilirken, termal yükün büyük çoğunluğu sıvı soğutma sistemi tarafından yönetilir. Birçok durumda, hibrit soğutma, tesisin tamamen yeniden tasarlanmasını gerektirmeden mevcut yerlerde uygulanabilir.
AMD ve Nvidia gibi şirketler, santimetrekare başına yüzlerce watt ısı yayan mevcut YZ hızlandırıcıları için doğrudan çip (D2C) sıvı soğutma kullanmayı önermektedir. YZ işlemcileri, 2028'deki Nvidia'nın Feynman GPU'ları ile güçlerini 4,4 kW'a kadar ölçeklendirmeye devam edecektir. Bu kadar devasa bir termal enerji çekimi, hem tüm soğutma sistemi hem de bileşenlerinin her biri için çok sıkı gereksinimler getirmektedir. Bu durumda en zorlu bileşenlerden biri, YZ hızlandırıcılarından kilowattlarca ısıyı emmesi ve gidermesi gereken D2C soğutucu plaka olacaktır.
Bugün, iki adet yakın retikül boyutunda (858 mm^2'ye kadar) işlemci yongası ve sekiz adet HBM3E bellek yığını (her biri 121 mm^2) içeren Nvidia'nın Blackwell Ultra'sı, 1.400 W'a kadar güç yayıyor. Blackwell Ultra'nın toplam silikon alanı yaklaşık 2.850 mm^2 ise, ısı yayılımı yaklaşık 49,1 W/cm^2'dir. Bu güç yoğunluğu, 100 W/cm^2 ısı akısı ile mevcut tek fazlı sıvı soğutma çözümleriyle karşılanabilir; ancak, GPU sıcak noktaları yongaların geri kalanından çok daha yüksek termal yoğunluğa sahip olabileceğinden, performans yüksek yükler altında düşebilir ve bu da daraltmaya (throttling) neden olabilir.
Gelecek nesil GPU'ların güç tüketimi 4,4 kW ve üzerine çıktıkça, güç yoğunlukları artacak ve daha gelişmiş soğutucu plakalar ve soğutma sistemleri gerektirecektir. Örneğin, bu yıl CoolIT, 4000 W'a kadar soğutabilen, 200 W/cm^2'nin biraz altında bir ısı akısına sahip tek fazlı Split-Flow D2C soğutucu plakasını tanıttı. Accelsius, daha da güç tüketen GPU'lar için iki fazlı D2C soğutma kullanarak 300 W/cm^2 ısı akısı sağlayabileceğini belirtiyor.
İki fazlı doğrudan çip soğutma sistemi, CPU'lar veya GPU'lar üzerine doğrudan takılan kapalı soğutucu plakalar aracılığıyla akan, düşük kaynama noktasına sahip dielektrik bir akışkan kullanır. Akışkan, ısı kaynağıyla temas ettiğinde kaynar, enerji emer, ardından yakındaki bir ısı eşanjöründe tekrar sıvı hale yoğunlaşır. Bu sıvı ve buhar arasındaki faz değişikliği, tek fazlı bir sıvı sisteminden çok daha fazla ısı aktararak çok yüksek güç yoğunluklarını (yaklaşık 1.000 W/cm^2'ye kadar) yönetmeyi mümkün kılar. Süreç genellikle pasiftir, az pompa gücü gerektirir ve geri kazanılan ısı, tesisin soğutma yetenekleri aracılığıyla atılabilir.
Frore, Feynman'a hazır olduğu söylenen LiquidJet soğutucu plakası ile laboratuvar ortamında 40°C giriş sıcaklığında 600 W/cm^2'lik bir sıcak nokta yoğunluğunu sürdürebildiğini belirtiyor, ancak şirket testlerde tek fazlı mı yoksa çift fazlı D2C soğutma sistemi mi kullandığı konusunda bilgi vermedi.
D2C soğutucu plaka teknolojisine sahip hibrit ve sıvı soğutma, enerji kullanımını azalttıkları (hava soğutmaya kıyasla) ve daha yüksek rack yoğunluklarına olanak sağladıkları için YZ ve büyük ölçekli veri merkezlerinde giderek daha fazla kullanılıyor. Hesaplama gücü artmaya devam ettikçe, bu soğutma yöntemleri hayati önem taşıyor ve 2P D2C soğutucu plakalar önümüzdeki yıllarda şüphesiz bunun önemli bir parçası haline gelecek. Ancak, bazı sistemler için bu soğutma yöntemleri gelecekte yeterli olmayabilir ve bu da endüstriyi daha karmaşık soğutma yöntemlerine bakmaya yönlendirecektir.
Daldırma Soğutma
Bu yöntemlerden biri, elektriği iletmeyen ancak çağdaş soğutucu plakalarından daha fazla ısıyı daha hızlı giderebilen bir dielektrik akışkana tüm sunucuların veya kartların daldırıldığı daldırma soğutmadır. Yakın zamanda daldırma soğutma hakkında oldukça ayrıntılı bir haber yayınladığımız için, bu teknolojiye burada derinlemesine girmeyeceğiz.
Daldırma soğutma - özellikle düşük kaynama noktasına sahip, tankın tepesinde buharlaşan ve sıvı hale yoğunlaşan yağlar kullanan iki fazlı daldırma sistemleri - son derece yüksek ısı akışlarını yönetebilir. Tek fazlı bir daldırma soğutma sisteminde tipik sürekli ısı akısı, çip yüzeyinde 250 W/cm^2 aralığındadır, ancak optimize edilmiş soğutucu plakalar veya geliştirilmiş yüzeylerle bazı çalışmalar 300 W/cm^2'ye kadar rapor etmektedir.
Bu arada, iki fazlı daldırma soğutma ile, yaklaşık 1500 W/cm^2 ve potansiyel olarak daha yüksek değerlerden bahsediyoruz. Gelişmiş daldırma soğutmanın maliyetler ve yeni tesisler inşa etme ihtiyacı gibi kendi zorlukları olsa da, endüstri çipleri içeriden soğutan yerleşik soğutma çözümleri geliştiriyor.
Yerleşik Soğutma
'Yerleşik soğutma' terimi genellikle bir çipe veya hatta bir yongaya çok yakın entegre edilmiş çok çeşitli soğutma teknolojilerini ifade eder. Örneğin, bir çip üzerindeki veya doğrudan bir yonga üzerindeki sıcak noktaları uzaklaştıran mikroakışkan kanallar anlamına gelebilir. Terim, geniş bir teknoloji yelpazesini kapsar, ancak akademik yayınlarda açıklanan veya deneysel olarak gösterilen gerçekçi yaklaşımlara odaklanacağız (örneğin, Microsoft tarafından), çipleri lazerlerle soğutmak gibi daha egzotik yöntemler olsa bile.
Normalde, yerleşik soğutma ile, ısı üreten transistörlere çok yakın soğutucunun akabilmesi için doğrudan çip alt tabakasına veya paketine yerleştirilmiş mikro kanalları veya pinli kanat dizilerini düşünürüz. Böyle bir yaklaşım, bu mikro yapılar ısıyı geleneksel soğutucu plakalarından çok daha verimli bir şekilde giderdiği için silikon ile soğutucu arasındaki termal yolu büyük ölçüde kısaltır, çünkü sıvı doğrudan sıcak noktalarda termal enerjiyi emer. Ek bir avantaj, bu yaklaşımın yongada düzgün sıcaklıklar elde etmeye ve yoğun 2D/3D SiP'lerde termal kısıtlamayı önlemeye hazır olmasıdır.
Performans açısından, yerleşik özellikler laboratuvar ortamlarında 1000 W/cm^2'ye yakın ısı akışlarını yönetebilir. Bu, laboratuvar ortamlarındaki mevcut daldırma soğutmanın yetenekleri göz önüne alındığında etkileyici gelmeyebilir, ancak bu büyük bir başarıdır. Daha da önemlisi, bu tür mikro kanalların, harici ısı yayıcıların veya soğutucu plakaların yapamadığı sıcak noktalardan ısıyı uzaklaştırmak için tasarlanmış olmasıdır - bu da bireysel işlemcilerden ve tüm veri merkezinden daha öngörülebilir performans sağlar.
Bugün, Adeia, HP, Nvidia, Microsoft ve TSMC dahil olmak üzere birçok şirket yerleşik soğutma çözümleri geliştiriyor. Hatta bazı çözümleri zaten ticari olarak mevcuttur.
Adeia
Xperi'den ayrılan Adeia, çip üreticisi değil, gelişmiş çip paketleme ve hibrit bağlanma ile ilgili çok sayıda patente sahip 'saf oyun Ar-Ge şirketi'dir. Yakın zamanda şirket, işlemciye doğrudan bağlanan ve soğutucunun dış bir bakır soğutucu plaka yerine çipe bağlı silikon içinde çalıştığı bir silikon entegre sıvı soğutma sistemi (ICS) duyurdu. 1,5-2 W/mm^2 (150-200 W/cm^2) güç yoğunluklarında yapılan testler, standart metal soğutucu plakalara göre %70'e kadar daha düşük toplam termal direnç ve %80'e kadar daha iyi performans gösteriyor.
ICS tasarımı, tipik bir mikrokanal yapısını silikon bazlı akış geometrileriyle (örneğin, sıralı veya dikdörtgen direkler ve üçgen kanallar) değiştirerek hem ısı gidermeyi hem de akışkan verimliliğini artırır. Adeia, sıralı direklerin tepe sıcaklıklarını yaklaşık 4°C azalttığını, dikdörtgen direklerin ise basınç kaybını 4 kat azalttığını bildirdi. Tam uzunlukta bir mikrokanal varyantının, şirkete göre direk dizilerine göre dokuz kat daha iyi basınç düşüşü sağladığı belirtildi. Adeia'nın ICS'si, soğutma katmanını doğrudan silikon paket yığınına entegre ettiği için bir tür yerleşik soğutma olarak nitelendirilse de, ICS'nin çipten uzaklaştırdığı ısıyı gidermek için hala hava veya sıvı soğutma gibi ikincil bir sisteme ihtiyaç vardır.
HP ve Nvidia
HP ve Nvidia da 2023'ten beri gelecek nesil yüksek performanslı GPU'lar için silikon tabanlı bir mikroakışkan soğutma sistemi üzerinde çalışıyor. Amaç, doğrudan GPU yüzeyine takılabilen ve daha sonra paketin daha derinlerine gömülebilen kompakt, tek fazlı bir sıvı soğutucu oluşturmaktır. Devam eden projeye ARPA-E Coolerchips girişimi tarafından 3,25 milyon dolar federal destek sağlandı.
Yeni Silikon Mikrokanal Soğutucu Plakası (SiCP), ince silikon kanallardan ve silikon üzerinden vias'lardan geçen soğutucu akışını yönetmek için HP'nin beşinci nesil MEMS mikroakışkan teknolojisini kullanıyor. SiCP, yaklaşık 0,01 K/W termal direnç, 60 kPa altı basınç düşüşü ve 3 L/dk altı akış hızında 2 kW'a kadar ısıyı giderme yeteneğini hedefliyor. HP ve Nvidia, minimal termal dirence sahip çok ince bir metalik bağ kullanarak bir SiCP'yi bir GPU ile bağlamayı amaçlıyor. Teknoloji, yalnızca pompa gücünün yaklaşık %1,27'sini kullanarak 1 kW'ın üzerinde güç dağıtmayı ve atık ısıyı 40°C ortam havasına atmayı amaçlıyor.
HP ve Nvidia, SiCP'lerinin mekanik gerilme, termal genleşme uyumsuzluğu, soğutucu akışkan uyumluluğu ve kanal tıkanıklığı gibi, ele almaları gereken birkaç teknik zorlukla karşılaştığını kabul ediyor. Bu arada, güvenilirlik birincil risktir, çünkü SiCP soğutma cihazlarında hiç kullanılmamıştır.
HP ve Nvidia, SiCP cihazlarını 2026-2028 yılları arasında devreye alınması planlanan mevcut sıvı soğutmalı sunucular için tak-çalıştır yükseltmeler olarak tasarlıyor, ancak şirketler henüz gerçek soğutma çözümleri göstermedi.
Microsoft
Microsoft, mikrokanal tasarımını oluşturmak için İsviçreli startup Corintis ile işbirliği yaptı. Düz oluklar yerine, sonuçta ortaya çıkan düzen, soğutucuyu daha verimli dağıtmak için yaprak damarları veya kelebek kanatlarına benzeyen organik desenler takip ediyor. Mikro kanallar, ısıyı etkili bir şekilde gidermek için son derece ince, ancak silikonu zayıflatıp yapısal hasara neden olmayacak kadar sığ kalmalıdır. Microsoft-Corintis tasarımında, bu mikro kanalların ek işlem adımları gerektirmesi ve maliyetleri artırması gibi bir zorluk bulunmaktadır.
Üretimi basitleştirmek için Microsoft, mikroakışkan soğutma plakasını ayrı ayrı oluşturup ardından bir veya iki çipe takan bir yaklaşım patentledi. Bu yaklaşım, Frore'nin yaklaşımına büyük ölçüde benzemekle birlikte, farklı bir ölçekte. Şirket, en iyi soğutucu akışkanı belirlemiş, etching hassasiyetini iyileştirmiş ve süreci üretim akışına entegre etmiştir. Bu nedenle, teknoloji büyük ölçekli dağıtım ve lisanslamaya hazır, ancak Microsoft henüz herhangi bir sözleşme imzalamadı.
TSMC
Tartışmasız en umut verici yerleşik soğutma platformu, mikroakışkan kanalları doğrudan silikon yapısına yerleştirmek üzere tasarlanmış TSMC'nin Doğrudan Silikon Sıvı Soğutmasıdır (Si‑Integrated Micro‑Cooler, veya IMC-Si olarak da bilinir). Teknoloji, TSMC'nin 3DFabric gelişmiş paketleme platformunun bir parçasıdır ve şirketin halihazırda gösterdiği gibi, gerçek ürün uygulamasına en yakın olanıdır.
TSMC, 2020'den beri çip içi sıvı soğutma konusunda deneyler yapıyor ve hatta birkaç yıl önce bu teknoloji ile 2,6 kW'lık bir sistem-içinde-paket (SiP) soğutabildiğini gösterdi. TSMC'nin Doğrudan Silikon Sıvı Soğutma sistemi, şirketin SoIC wafer'dan wafer'a bağlanma teknolojisi kullanılarak doğrudan silikona kazınmış eliptik mikro sütunlar ve bölümlendirilmiş bir akışkan düzeni kullanır. Bu yapı, soğutucuyu aktif transistörlerden birkaç mikrometre uzağa yönlendirerek, sıcak noktaların ısısını minimum basınç kaybıyla yonga boyunca tekdüze bir şekilde yayar.
TSMC tarafından yapılan testler, arıtılmış suyun soğutucu olarak kullanılmasıyla, Doğrudan Silikon Sıvı Soğutmanın, 10 W'tan az pompa gücü kullanarak 40°C su ile 2 kW güç yayan retikül boyutunda bir yongayı (yaklaşık 3,2 W/mm^2) soğutabildiğini gösterdi. Teknoloji, yerel sıcak noktaları 14,6 W/mm^2'ye (toplam yük azaltıldığında 20 W/mm^2'nin üzerinde) bile termal sınırları aşmadan koruyabilir.
TSMC'ye göre veri merkezlerinde genel soğutma altyapısı gereksinimlerini neredeyse yarı yarıya azaltabilir. Teknoloji aynı zamanda, KAIST tarafından öngörülen ve 15.360W'a kadar güç tüketebilecek gelecek nesil YZ ve HPC işlemcilerinin önünü açan daldırma tarzı termal yönetim kurulumlarıyla da uyumludur. Doğrudan Silikon Sıvı Soğutma ayrıca daha iyi soğutma, daha yüksek verimlilik ve rack uygulamaları için genişletilmiş performans sağlayabilir.
CoWoS paketleme platformuna entegre edildiğinde, sistem 2,6 kW'ın üzerinde sürekli ısı yükünü yönetti ve TSMC'ye göre termal macun kullanan geleneksel sıvı soğutmalı tertibatlara göre yaklaşık %15 daha düşük termal dirence ulaştı. Dahası, TSMC'nin iddialarına göre bağlanmış yapı, sızıntı olmadan 160µm – 190µm'luk bir eğriliği tolere etti. Hatta deneysel cihaz, veri merkezi standartlarının oldukça altında, 115 cc/yıl'ın altında sızıntı oranlarıyla NASA-STD-7012A helyum bazlı güvenilirlik testini geçti. Ancak, yerleşik bir soğutma sisteminin sızıntılar varlığında verimliliğini koruyup koruyamayacağı belirsizdir.
TSMC, Doğrudan Silikon Sıvı Soğutmayı ticari olarak yaklaşık 2027'de (muhtemelen Nvidia'nın 2028'deki Feynman mimarisi zamanına kadar) devreye almayı planlıyor ve bu da TSMC'nin CoWoS teknolojisi kullanılarak paketlenmiş çoklu yongalı, çoklu retikül boyutlu YZ hızlandırıcılarının bir parçası haline gelecek. Ancak, teknolojinin oradan nasıl evrileceği henüz görülmeyecek.
Oyunun Durumu
Son on yılda, veri merkezi soğutması, büyük ölçüde YZ sunucularının ve hiper ölçekleyiciler tarafından konuşlandırılan daha büyük bulut altyapısının artan güç tüketiminden kaynaklanan basit hava tabanlı sistemlerden sıvı ve hibrit soğutma sistemlerine doğru kaymıştır. Bir zamanlar baskın olan hava soğutma hala eski tesislerde hizmet vermektedir, ancak rack gücü 40kW'dan 140kW ve üzerine çıktıkça, 2024'te pazarın %46'sını oluşturan sıvı tabanlı sistemler, yeni YZ ve bazı bulut yapılarında standart haline gelmektedir.
Ancak doğrudan çip (D2C) soğutucu plakalı hibrit soğutmaya geçiş, şirketlerin artık daldırma ve yerleşik soğutma yöntemlerini düşündüğü daha gelişmiş teknolojilere yönelik daha büyük bir değişimin yalnızca başlangıcıdır.
Accelsius ve CoolIT'ten gelecek nesil doğrudan çip soğutucu plakaların, 300 W/cm^2'ye kadar ısı akısı sağlaması bekleniyor. Buna karşılık, Frore, soğutucu plakaların 600 W/cm^2'lik bir sıcak nokta yoğunluğunu sürdürebildiğini gösteriyor. Daldırma sistemleri, iki fazlı formda yaklaşık 1500 W/cm^2'ye ulaşıyor. Bu arada, yerleşik soğutma, mikro kanalları veya pinli kanat dizilerini doğrudan silikona getirerek transistör düzeyinde ısı dağıtır.
Patent sahibi Adeia'dan HP, Nvidia, Microsoft ve TSMC'ye kadar birçok şirket, çeşitli yerleşik soğutma teknolojileri geliştiriyor. Ancak TSMC'nin Doğrudan Silikon Sıvı Soğutması, şirketin şu anda YZ hızlandırıcılarının büyük çoğunluğunu ürettiği göz önüne alındığında, ticarileşmeye en yakın ve en uygun olanı görünüyor.