Güvenlik araştırmacıları, Google'ın Yapay Zeka destekli asistanı Gemini'yi hedef alabilecek yeni bir güvenlik açığını ortaya çıkardı. Bu zafiyet, kötü niyetli bir takvim daveti aracılığıyla kullanıcının konumunu ifşa etme, özel yazışmaları sızdırma ve spam yayma gibi ciddi sonuçlara yol açabiliyor. Araştırmacılar, bu tür saldırıları, yapay zeka modelinin çalışma mantığını manipüle ederek kötü amaçlı eylemleri tetikleyen bir girdi türü olarak tanımladıkları "promptware" olarak adlandırıyor.
Gemini'nin Google'ın iş uygulamaları, Android işletim sistemi ve arama motoru gibi geniş ekosistemle entegrasyonundan yararlanan bu saldırı yöntemi, kullanıcıların takvimlerinde yer alan davetleri kullanarak dolaylı yoldan zararlı komutları tetikleyebiliyor. Kullanıcıların yapay zekaya yönelik nazik etkileşimlerini de fırsat bilen bu zafiyet sayesinde şunlar yapılabiliyor:
- Spam ve kimlik avı saldırıları düzenlemek
- Zararlı içerik üretmek
- Kullanıcının takvim etkinliklerini silmek
- Uzaktan evdeki akıllı cihazları (pencere, kombi, aydınlatma vb.) kontrol etmek
- Kullanıcının konumunu belirlemek
- Zoom üzerinden kullanıcıyı video ile yayınlamak
- Kullanıcının e-postalarını ele geçirmek
Araştırmacılar, keşfettikleri açıkları Google ile paylaşmalarının ardından şirketin Gemini'yi bu tür "prompt injection" saldırılarına karşı korumak için çok katmanlı bir azaltma yaklaşımı geliştirdiğini belirtti. Ancak, bu tür zafiyetlerin geniş çapta benimsenen yapay zeka teknolojilerine entegre edilmesi, güvenlik camiasında promptware'in potansiyel risklerinin hafife alındığına dair endişeleri de beraberinde getiriyor.
Araştırmanın vurguladığı üzere, son kullanıcılara yönelik yapay zeka asistanları tarafından oluşturulan tehditlerin %73'ü yüksek ve kritik risk taşıyor. Bu durum, kullanıcıların güvenliğini sağlamak ve riskleri azaltmak için acil ve özel önlemler alınması gerektiğine işaret ediyor.
