Eğer sizin de oyuncu bilgisayarınız günün büyük bir bölümünde boş duruyorsa, iki yeni girişim size bu boş zamanı değerlendirmeniz için para teklif etmeye hazırlanıyor. Birbirinden bağımsız olarak faaliyet gösteren bu şirketler, yapay zeka (AI) çıkarım görevlerini, kullanıcıların boşta duran oyun bilgisayarlarını kullanarak yerine getirmeyi hedefliyor. Bu model, bir nevi 'yapay zeka için Airbnb' veya 'yapay zeka için Uber' olarak tanımlanıyor.
Önümüzdeki haftalarda 'Far AI' platformunu faaliyete geçirmeyi planlayan Abu Dabi merkezli Far Labs, 100 milisaniye veya daha az gecikme süresi vaat ediyor. Austin merkezli Evolving Edge ise halihazırda açık beta sürecini sürdürüyor. Her iki şirket de, devasa ölçekli yapay zeka modelleri yerine, daha küçük açık kaynak kodlu modelleri hedefliyor. Bu alanda, ağında günde 60.000'den fazla aktif tüketici GPU'su bulunan Salad gibi mevcut oyuncularla da rekabet ediyorlar.
Far Labs'ın geliştirdiği özel zamanlayıcı (scheduler), yapay zeka modelini küçük parçalara ayırarak birden fazla makineye dağıtıyor. Ardından bir orkestratör ve yük dengeleyici, bu parçaları yeniden birleştirerek nihai yanıtı oluşturuyor. Evolving Edge ise, geleneksel veri merkezlerinde de kullanılan açık kaynaklı Ray framework'ü ile görevleri dağıtıyor.
Kullanıcıların kişisel bilgisayarlarına yabancı bir iş yükünün yüklenmesi, zararlı yazılımlar veya yerel dosyalara erişim gibi bazı riskler barındırabilir. İki firma bu endişeleri gidermek için, çıkarım görevlerinin sanal bir ortamda (sandbox) çalıştırılması, şifreli iletişim ve GPU, CPU, bellek, depolama ve ağ erişimi üzerinde sıkı sınırlar uygulanması gibi çözümler sunuyor. Müşteriler ana makineye doğrudan erişemiyor ve Evolving Edge, kendi düğüm (node) yazılımını açık kaynak olarak yayımlayarak kullanıcıların donanımlarında ne çalıştığını denetlemelerine olanak tanıyor.
Salad platformu, saatlik 0.02 dolardan başlayan fiyatlarla tüketici GPU gücünü müşterilere sunuyor. Ancak bu ücretin yalnızca bir kısmı, platformun payı alındıktan sonra GPU sahibine ulaşıyor. Daha önce yapılan incelemelerde, bu platformların kullanıcılara ödediği miktarın, elde edilen gelirin ortalama %14'ü civarında olduğu tahmin ediliyor.
Elektrik maliyetleri ise kalan gelirin önemli bir kısmını oluşturuyor. Güçlü bir ekran kartı (örneğin RTX 4090), sürekli yük altında aylık 40 ila 50 dolar civarında elektrik tüketebilir. Bu durumda, elde edilen kazancın bu maliyeti karşılamaması riski bulunuyor. Ancak, yeni platformların ödeme oranları hakkında henüz detaylı bilgi bulunmuyor.
Her iki şirketin kurucuları da, merkezi bulut sistemlerinin aksine, dağıtık ağların arızalara karşı daha dirençli olduğunu vurguluyor. Bir şirket kurucusu, geniş bir ağda küçük bir oranda düğümün kaybolmasının genel hizmeti etkilemeyeceğini belirtiyor.
Tüm bunlara rağmen, dağıtık yapay zeka hesaplama sistemlerinin güvenilirlik konusunda aşması gereken bazı engeller var. Geçmişte, yapay zeka iş yükü adı altında aslında faydalı bir hesaplama yapmadan büyük miktarda güç tüketen projelerin olduğu rapor edilmişti. Far Labs ve Evolving Edge, token ödülleri yerine gerçek müşteri çıkarım görevlerini yönlendirmeleriyle bu tür modellerden bir adım önde olsalar da, maliyet ve gecikme süreleri gibi iddialarının, ağların ölçeklenebilirliği kanıtlanana kadar henüz doğrulanmadığını belirtmek gerekir.
