Taşınabilir yapay zeka cihazları giderek yaygınlaşsa da, yeni bir girişim kağıt üzerinde oldukça yetenekli görünen dünyanın en küçük yapay zeka süper bilgisayarını tanıtarak sınırları zorluyor.
Tiiny AI'ın Yeni Cep Laboratuvarı, 120 Milyar Parametreli Yapay Zeka Modellerini Çalıştıracak Gücü Sunuyor
Uç bilişim (Edge AI) sektörü, özellikle açık kaynaklı modellerin yerel makinelerde çalıştırılmasına olanak tanıdığı için daha kişiselleştirilmiş iş yükleri sunarak öne çıkıyor. Ancak bu, aynı zamanda pahalı donanımlar gerektiriyor. Bazı yüksek performanslı cihazların maliyeti genel bir kullanıcı için uygun olmayabilir. Tiiny AI adlı bir girişim, bu boşluğu doldurmayı hedefliyor. Sadece uygun maliyetli bir çözüm sunmakla kalmayıp, aynı zamanda 'dünyanın en küçük' süper bilgisayarı olduğu iddia edilen Tiiny AI Pocket Lab cihazını tanıtıyor.
İlginçtir ki, cihaz yalnızca 14.2 × 8 × 2.53 cm boyutlarında ve 300 gram ağırlığında. Buna rağmen Tiiny AI, süper bilgisayarın 120 milyar parametreli bir modeli başarıyla çalıştırabileceğini iddia ediyor; bu, benzersiz bir başarı.
Bu makineyle kullanılabilen büyük dil modellerinin (LLM), "doktora düzeyinde akıl yürütme, çok adımlı analiz ve derin bağlamsal anlama" için mükemmel olduğu belirtiliyor. Cihaz üzerinde çalışabilme yeteneği sayesinde, AI Pocket Lab sadece tüketiciler için değil, aynı zamanda yerel LLM dağıtımıyla deneme yapmak isteyenler için de ideal.
Tiiny AI'ın açıklamalarına göre, AI Pocket Lab, GPT-OSS, Llama, Qwen, DeepSeek, Mistral ve Phi gibi modelleri destekliyor. AI Pocket Lab'ın en etkileyici yönlerinden biri, entegre bir NPU ile 190 TOPS işlem gücü sunabilmesi. 80 GB LPDDR5X RAM ile agresif kuantizasyon (nicemleme) etkinleştirilerek 120 milyar parametreli bir modelin yerel bir ortamda sorunsuz bir şekilde çalışması mümkün oluyor. Ayrıca Tiiny AI, 120 milyar parametreli bir arayüzü pratik hale getiren iki teknik kullandıklarını belirtiyor.
Cihazın 2026'da düzenlenecek olan CES fuarında sergileneceği duyuruldu. Firma, piyasaya çıkış tarihi ve perakende satışa sunulma detaylarını henüz açıklamamış olsa da, AI Pocket Lab kesinlikle umut vadeden bir cihaz olarak öne çıkıyor. Sektördeki lansmanının nasıl olacağını görmek ilginç olacak.
