Yapay zeka (YZ) alanındaki hızlı gelişim, geçmişte kalan ekran kartlarına olan ilgiyi yeniden canlandırdı. Özellikle Tensor Çekirdeklerine sahip eski Nvidia GPU'ları, sundukları matris hesaplama yetenekleri sayesinde yeni bir kullanım alanı buluyor. Bu doğrultuda, RTX 2080 Ti modellerini 22GB VRAM'e yükselten servisler ortaya çıkarken, Hong Kong merkezli bir satıcı eBay'de bu modifiye edilmiş kartları 500 dolara satışa sundu.
Bu modifiye işlemi, standart 11GB VRAM'e sahip RTX 2080 Ti'ların bellek kapasitesini iki katına çıkararak, modern büyük dil modelleri (LLM) ve difüzyon modelleri gibi yapay zeka iş yükleri için daha kullanışlı hale getiriyor. Hesaplama gücü ve VRAM ihtiyacı olan ancak RTX 2080 Ti'ı kendisi modifiye etmek istemeyenler için eBay'deki bu teklif oldukça cazip görünüyor.
Satış ilanında, modifiye edilmiş 22GB VRAM'li RTX 2080 Ti kartların “Turbo” yani blower tipi fanlı modeller olacağı belirtiliyor. Kartın markası konusunda ise seçici olunmaması gerektiği vurgulanıyor. Satıcı, “GPU markası Gigabyte, MSI, ASUS, Leadtek veya başka markalardan biri olabilir. Elimizdekine göre değişir,” açıklamasını yapıyor.
eBay'deki ilan görsellerinde Gigabyte marka blower tipi bir kartın yanı sıra, gönderilmeye hazır halde paketlenmiş modifiye kartlar ve çalışan bir karttan alınmış 22528 MB bellek bilgisini gösteren bir GPU-Z ekran görüntüsü yer alıyor.
Satıcının eBay'deki genel geri bildirim oranı %99.6 gibi nispeten düşük olsa da, bu özel ürün ilanına gelen geri bildirimler, en az 38 alıcının kartları sorunsuz bir şekilde teslim aldığını ve ürünün vaat edilen şekilde çalıştığını gösteriyor.
Eğer siz de bu şanslı alıcılardan biri olursanız, 500 dolarlık bir 22GB RTX 2080 Ti, günümüzdeki VRAM-performans oranı açısından en iyi seçeneklerden biri olabilir. Bu geniş bellek kapasitesi, RTX 2080 Ti'ın 616 GB/s bellek bant genişliği ve Tensor Çekirdekleri ile birleştiğinde, yerel LLM görevleri için hala yeterli bir performans sunuyor. Ancak, daha modern kartlara kıyasla ham hesaplama gücü ve sınırlı düşük hassasiyetli veri tipi desteği, zorlu difüzyon modellerinde işlemleri yavaşlatabilir.
Turing mimarili kartlar arasında, 24GB VRAM'e sahip Titan RTX modelleri eBay'de yaklaşık 800 dolara, aynı bellek kapasitesine sahip Quadro RTX 6000 ise yaklaşık 900 dolara alıcı buluyor. Yerel YZ meraklılarının favorisi olan, daha hızlı GDDR6X bellek ve 936 GB/s bellek bant genişliği sunan 24GB VRAM'li RTX 3090 modelleri ise yaklaşık 1200 dolardan satışa sunuluyor. Daha fazla VRAM'e sahip Ampere mimarili RTX Pro kartlar ise bu fiyatların çok daha üzerine çıkıyor.
Bu GPU'ların piyasaya sürüldükten yıllar sonra bile hala yüksek fiyatlara alıcı bulması, Nvidia'nın 2018'den bu yana hem tüketici hem de veri merkezi ürünlerinde sunduğu Tensor Çekirdek mimarisinin devam eden kullanışlılığının ve yaygın erişilebilirliğinin bir kanıtıdır.
AMD, 2020'de CDNA 1 ile matris hesaplama hızlandırıcılarına sahip olsa da, bu teknolojinin erişilebilirliği RDNA 4'ün geçtiğimiz yılın başlarında piyasaya sürülmesine kadar yalnızca Instinct veri merkezi ürünleriyle sınırlı kaldı. Intel, Alchemist mimarisine 2022'nin sonlarında XMX matris motorları ekledi ancak Arc grafik ürünleri, bu yeteneğin varlığı veya yokluğunun ötesinde önemli zorluklarla karşılaştı. Apple ise ilk kez M5 ailesi ile GPU'larına Neural Accelerator ekledi.
Tüm bu gelişmeler göz önüne alındığında, VRAM kapasitesi ihtiyacı olan ve bunu iyi bir miktar hesaplama gücüyle birleştirmek isteyenler için 22GB VRAM'li RTX 2080 Ti, uygun fiyatlı ve güçlü bir seçenek olabilir. Ayrıca, CUDA yazılım ekosistemine erişim imkanı da cabası. Sekiz yıl önce elektronik atık kutusuna gidebilecek bir GPU için hiç de fena bir durum değil.
