Apple'ın yeni nesil Siri'sinin, bulutta çalışan özel bir Google Gemini modeliyle güçlendirilmesi planlanıyordu. iPhone üreticisi daha önce bu teknolojinin kendi donanımları üzerinde çalışacağını duyurmuştu.
Ancak Apple, Google'ın devasa modelini kendi sunucularına entegre etmekte zorlanınca, gizlilikle ilgili endişeleri bir nebze olsun giderebilmek için geçici bir çözüm olarak NVIDIA'nın GPU şifreleme teknolojisine yönelmek zorunda kaldı. Bu süreçte Siri'yi destekleyen Gemini modeli Google'ın sunucularında barındırılacak.
Apple, En İyi Performans İçin Yeni Siri Modelini Google Sunucularında Barındırıyor ve Gizlilik İçin NVIDIA B200 GPU'larının Dahili Şifrelemesinden Faydalanıyor
Yaklaşan sohbet robotu benzeri Siri'nin, Google'ın Gemini modelinin çok daha gelişmiş bir sürümünü kullanacağı biliniyor. Bu versiyonun dahili olarak Apple Foundation Models sürüm 11 olarak adlandırıldığı ve geliştirilmiş Siri'yi destekleyen modelden önemli ölçüde daha yetenekli olacağı belirtiliyor.
Öte yandan Apple, damıtma (distillation) adı verilen bir teknikle, daha küçük ve cihaz üzerinde çalışabilen modeller de eğitiyor. Bu teknik, öğrenci modellerine öğretmen modeli olan lisanslı Google Gemini modelinin bazı yeteneklerini kazandırıyor.
Ancak Google'ın özel Gemini modelinin trilyonlarca parametreye sahip olması, Apple'ın Özel Bulut Bilişim (Private Cloud Compute) adını verdiği kendi sunucu ağına bu modeli entegre etmesini zorlaştırdı. Bu nedenle, yeni Siri ile ilgili bazı kullanıcı istekleri, en iyi çıkarım (inference) performansını sağlamak amacıyla doğrudan Google Cloud'daki lisanslı Gemini modeli tarafından işlenecek.
Şimdi ise gelen ilginç bir rapor, Apple'ın Google sunucularında NVIDIA'nın B200 GPU'larını kullanmayı değerlendirdiğini ortaya koyuyor. Bu GPU'lar, veriyi işlenirken şifreleyen yerleşik bir şifreleme özelliğine sahip.
NVIDIA, bu özelliğin "Rubin, Blackwell ve Hopper GPU'larında dağıtılan yapay zeka modellerinin gizliliğini ve bütünlüğünü koruduğunu" ve "hassas yapay zeka iş yüklerinin paylaşılan veya bulut ortamlarında bile ölçekte güvenli bir şekilde çalışmasını sağladığını" belirtiyor.
Bu adım, Apple'ın kullanıcılarına verilerinin Google tarafından kötüye kullanılmayacağına dair güvence vermesine yardımcı olacaktır. Mevcut koşullar altında yapılabilecek en iyi uzlaşma budur.
