Ünlü YouTuber PewDiePie, yapay zeka alanında oldukça özgün bir çalışma yaparak kendi 'ChatOS' adlı yapay zeka hizmetini geliştirdi. Bu sistem, Çin yapımı açık kaynak kodlu modelleri ve güçlü NVIDIA GPU'ları kullanıyor.
PewDiePie Yapay Zeka Modellerini Konuşturdu, Onlar Ona Karşı Birleşti!
Felix'in yapay zeka modellerini yerel makinelerde çalıştırma konusundaki yeteneği dikkat çekici. Yeni bir videosunda PewDiePie, PCIe birleştirme teknolojisiyle adeta 10 GPU'luk bir 'mini veri merkezi' oluşturduğunu ve bunu kişiselleştirilmiş bir yapay zeka hizmeti için kullandığını anlatıyor. GPU rafında sekiz adet NVIDIA RTX Ada GPU ve iki adet blower tipi RTX 4090 bulunuyor. Bu kartlar, Çin'de yaygın olarak kullanılan modifiye edilmiş versiyonlara benziyor. Kendi geliştirdiği hizmete 'ChatOS' adını veren PewDiePie, sisteminde Çin yapımı açık kaynak kodlu modelleri kullandığını belirtiyor.
Felix'in asıl amacı, bu güçlü yapay zeka makinesini tıbbi araştırmalarda kullanmak ve protein katlanması simülasyonlarını çalıştırmaktı. Ancak, Llama 70B gibi modelleri barındırarak yapay zeka model hosting denemeleri yapmaya karar verdi ve bu denemeler başarıyla sonuçlandı. Daha da ileri giderek, yerel yapay zeka modelleriyle iletişim kurmak için bir web hizmeti oluşturdu. Bu hizmet, web araması, RAG (Retrieval-Augmented Generation), ses çıkışı ve hafıza gibi yetenekleri de içeriyor. PewDiePie'nin Baidu'nun Qwen açık kaynak modelini kullanarak tamamen özel ve kendi kendine barındırılan bir sistem kurduğu görülüyor.
Daha da eğlenceli olanı ise, PewDiePie'nin birden fazla büyük dil modelini (LLM) yerel olarak çalıştırarak birbirleriyle nasıl etkileşim kurduklarını gözlemlemesiydi. Modelleri önce 'Konsey' olarak adlandıran Felix, daha sonra bu yapıyı 'Sürü'ye genişletti. 'Konsey' üyeleri, bir komuta verilen yanıtı analiz etmek için oylama yapıyor ve bu oylama süreci birden fazla yapay zeka örneği tarafından yönetiliyordu. Zamanla, başlangıçta programlanmamış olmasına rağmen, Konsey üyeleri birbirlerini stratejik olarak desteklemeye ve işbirliği yapmaya başladılar.
Bu durumu çözmek için Felix, tüm sistemi daha 'basit' bir modele geçirdi. Modellerin birbirleriyle etkileşim kurarak gelişmesi ve insan benzeri bir şekilde oylama sisteminde işbirliği yapması oldukça komik bir manzara oluşturdu. PewDiePie'nin bu yapay zeka macerası, günübirlik keyifli bir deneyim oldu.
