Teknoloji dünyasında yapay zeka alanındaki gelişmeler hız kesmeden devam ediyor. Yerel yapay zeka çözümlerinin artışıyla birlikte, birçok firma özgün ürünler piyasaya sürüyor. Bunlardan biri de, standart bir M.2 yuvasına takılabilen ve güçlü yapay zeka yetenekleri barındıran Amaretti E1.S AI modülünü tanıtan Unigen oldu. Bu modül, dışarıdan bakıldığında sıradan bir SSD'yi andırsa da, içerisinde oldukça iddialı yapay zeka işlem gücü barındırıyor.
Unigen Amaretti AI Modülü: 60 TOPs NPU, 32 GB Bellek ve Sadece 10W Güç Tüketimiyle M.2 Yuvasına Geliyor
Amaretti E1.S AI modülü, EdgeCortix'in SAKURA-II AI hızlandırıcısı üzerine kurulu. Bu hızlandırıcı, başlangıçta düşük güç tüketen yapay zeka platformları için tasarlanmış olup, bu yetenekleri Raspberry Pi 5 ve diğer ARM tabanlı ürünlere taşıyor. Hızlandırıcı çip, 60 TOPS INT8 ve 30 TFLOPS BF16 işlem gücüne sahip bir NPU (Sinirsel İşlem Birimi) içeriyor. Çift 64-bit LPDDR4x bellek denetleyicisi ve 20 MB dahili SRAM önbelleği ile gelen bu çip, yaklaşık 8-10W güç tüketiyor.
Unigen, SAKURA-II AI hızlandırıcısını E1.S kart üzerine entegre etmiş ve etkileyici bir şekilde 32 GB'a kadar bellek kapasitesi sunuyor. Modül, 16 GB ve 32 GB seçenekleriyle sunuluyor ve 68 GB/s'ye kadar bant genişliği sağlıyor. Amaretti modülü 10W ile derecelendirilmiş, bu da her Watt başına 6 TOPS işlem gücü anlamına geliyor.
32 GB bellek kapasitesi, modülün 20 milyar parametreye kadar yapay zeka büyük dil modellerini (LLM) rahatlıkla çalıştırmasına olanak tanıyor. Bu, GenAI ve Agentic AI iş akışlarını çalıştırması gereken düşük güçlü yapay zeka çözümleri için ideal bir çözüm sunuyor. Ayrıca, bu modüller birden fazla M.2 yuvasına takılarak genel yetenekleri daha da artırılabiliyor. EdgeCortix, daha gelişmiş özelliklere sahip çift çipli ve PCIe konfigürasyonları da sunuyor olsa da, M.2 çözümü oldukça dikkat çekici bir seçenek olarak öne çıkıyor.
Pek çok bilgisayar, masaüstü ve dizüstü cihazda boşta duran M.2 yuvaları bulunuyor. Yerel yapay zeka yetenekleri arayan ve sistemini hızlandırmak isteyen kullanıcılar için bu modüller oldukça mantıklı bir yatırım olarak değerlendirilebilir.
Gelen bilgilere göre, AI modülü TensorFlow, PyTorch, ONNX ve Hugging Face gibi en güncel yapay zeka çerçevelerini destekliyor. Modülün başlıca öne çıkan özellikleri şunlar:
- E1.S AI Modülü
- AI Hızlandırıcısı: SAKURA-II
- 10W güç tüketimiyle yüksek verimlilik
- 20 milyar parametreye kadar GenAI LLM desteği
- 32 GB'a kadar modül başına bellek kapasitesi
Unigen, Amaretti E1.S AI modülünü entegre bir soğutucu ile birlikte gönderiyor. Ürün fiyatı hakkında henüz net bir bilgi bulunmuyor, ancak sunulan bellek kapasitesi kullanıcıların fiyat beklentisi hakkında bir fikir verebilir.
