Teknoloji devleri son yıllarda giderek büyüyen yapay zeka modelleri geliştirirken, bu modelleri çalıştırmak için pahalı grafik işlem birimlerinden (GPU) oluşan sunucular kullanıyor. Ancak küçük yapay zeka modellerinin de önemi büyük. Google, yerel cihazlarda çalışmak üzere tasarlanan Gemma açık kaynak modelinin minik bir versiyonunu duyurdu. Yeni Gemma 3 270M modelinin çok hızlı bir şekilde uyarlanabileceği ve küçük boyutuna rağmen sağlam bir performans sergilediği belirtiliyor.
Google, bu yılın başlarında 1 milyar ile 27 milyar parametre arasında değişen ilk Gemma 3 açık kaynak modellerini tanıtmıştı. Üretken yapay zekada parametreler, modelin girdileri işleyerek çıktıları tahmin etmesini sağlayan öğrenilmiş değişkenlerdir. Genel olarak, bir modeldeki parametre sayısı arttıkça performansı da yükselir. Sadece 270 milyon parametreye sahip olan yeni Gemma 3, akıllı telefonlar gibi cihazlarda ve hatta tamamen bir web tarayıcısı içinde çalışabiliyor.
Yapay zeka modellerini yerel olarak çalıştırmanın, gelişmiş gizlilik ve daha düşük gecikme süresi gibi birçok faydası bulunuyor. Gemma 3 270M, bu tür kullanım alanları göz önünde bulundurularak tasarlandı. Bir Pixel 9 Pro üzerinde yapılan testlerde, yeni Gemma'nın Tensor G4 çipinde 25 konuşmayı çalıştırabildiği ve cihazın pilinin yalnızca %0.75'ini kullandığı görüldü. Bu da onu şimdiye kadarki en verimli Gemma modeli yapıyor.
Geliştiricilerin milyarlarca parametreye sahip modellerle aynı performansı beklememesi gerektiğini unutmamak gerek, ancak Gemma 3 270M'nin kullanım alanları mevcut. Google, modelin talimatları izleme yeteneğini test eden IF Eval kıyaslamasını kullanarak, yeni modelinin kendi boyutunun üzerinde bir performans gösterdiğini ortaya koydu. Gemma 3 270M, bu testte %51.2 puan alarak, daha fazla parametreye sahip diğer hafif modellerden daha yüksek bir skor elde etti. Yeni Gemma, Llama 3.2 gibi 1 milyar üzeri parametreli modellerin gerisinde kalsa da, parametrelerinin sadece küçük bir kısmına sahip olmasına rağmen şaşırtıcı derecede yaklaşıyor.
Google, Gemma 3 270M'nin doğrudan kullanıma hazır olduğunu, ancak geliştiricilerin modeli kendi özel kullanım alanlarına göre uyarlamasını beklediğini belirtiyor. Küçük parametre sayısı sayesinde bu süreç hem hızlı hem de düşük maliyetli. Google, yeni Gemma'nın metin sınıflandırma ve veri analizi gibi görevlerde kullanılabileceğini, bu işlemleri ağır hesaplama gereksinimleri olmadan hızlı bir şekilde gerçekleştirebileceğini öngörüyor.
Çoğunlukla Açık
Google'ın Gemma modellerini "açık" olarak tanımlaması, "açık kaynak" ile karıştırılmamalıdır. Ancak pratikte bu durum çoğu açıdan benzerlik gösteriyor. Yeni Gemma'yı ücretsiz olarak indirebilirsiniz ve model ağırlıkları mevcuttur. Ayrı bir ticari lisanslama anlaşması bulunmuyor, bu da geliştiricilerin Gemma 3 270M türevlerini kendi araçlarında değiştirmesine, yayınlamasına ve dağıtmasına olanak tanıyor.
Bununla birlikte, Gemma modellerini kullanan herkes, modellerin zararlı çıktılar üretmesini engellemek veya gizlilik kurallarını kasıtlı olarak ihlal etmek gibi durumları yasaklayan kullanım şartlarına uymakla yükümlüdür. Geliştiriciler ayrıca yaptıkları değişiklikleri detaylandırmak ve Google'ın özel lisansını devralan tüm türev sürümler için kullanım şartlarının bir kopyasını sağlamakla sorumludur.
Gemma 3 270M, hem önceden eğitilmiş hem de talimatlara göre ayarlanmış sürümleriyle Hugging Face ve Kaggle gibi platformlarda mevcut. Ayrıca testler için Google'ın Vertex AI platformunda da yer alıyor. Google, Transformer.js tabanlı, tamamen tarayıcıda çalışan bir hikaye oluşturucu ile yeni modelin yeteneklerini de öne çıkardı. Geliştiricilikle ilgilenmeyenler bile bu uygulamayı deneyebilir.
