Yapay zeka yatırımlarının hız kesmeden devam ettiği bu dönemde, teknolojinin oldukça güvenli olduğu ve mevcut platformlarda herhangi bir güvenlik açığı bulunmadığı varsayılabilir. Ancak gerçekler pek de böyle değil. Teknoloji devleri bile hatalardan ve sistemlerinin kötüye kullanılmasından muaf değil. Son olarak, bir kişi Meta'nın yapay zeka platformunda önemli bir güvenlik açığı keşfetti ve bu açığı şirkete bildirdiği için 10.000 dolarlık bir ödül kazandı. Bu durum, milyarlarca dolarlık şirketlerin bile kusurlardan uzak olmadığını bizlere hatırlatıyor.
Meta, Yapay Zeka Güvenlik Açığını Bildiren Kişiye 10.000 Dolar Ödeyerek Teknoloji Devlerinin Bile Hatalara Düştüğünü Gösterdi
Meta, kullanıcıların özel sohbetlerini ve yapay zeka tarafından üretilen yanıtları diğer kullanıcıların erişimine açan bir güvenlik açığını yapay zeka sohbet robotunda yamayarak giderdi. Güvenlik testi firması AppSecure'un kurucusu Sandeep Hodkasia, Aralık ayında bu kusuru fark ederek şirketi bilgilendirdi. Meta, bu bilgiyi paylaşan kişiye ödül programı aracılığıyla yaklaşık 10.000 dolar vererek hatayı gidermeye yönelik bir adım attı.
Teknoloji devi, açığın artık mevcut olmadığını ve güvenlik zafiyetinin giderildiğini doğruladı. Şirket ayrıca, sistemdeki kusur mevcut olsa da, herhangi bir kötüye kullanım olduğuna dair bir kanıt bulunmadığını belirtti. Hodkasia, Meta Yapay Zeka'nın kayıtlı kullanıcıların metin ve görselleri yeniden oluşturmak için istemleri düzenlemesine olanak tanıma şeklini incelerken bu boşluğu fark ettiğini detaylandırdı. Bu basit bir özellik gibi görünse de, hassas kullanıcı etkileşimlerini ifşa etme potansiyeli nedeniyle sıradan olmadığı anlaşılıyor.
Meta sunucularındaki sorun, kullanıcının istemi talep etme yetkisine sahip olup olmadığını tam olarak doğrulanamamasıydı. Meta'nın sistemleri her isteme benzersiz bir tanımlayıcı atıyordu; bu tanımlayıcıyı değiştirebilen herkes, doğru yetkilendirme olmadan kullanıcının istemlerine ve yanıtlarına müdahale edebiliyordu. Tanımlayıcıların tahmin edilebilir olması, saldırganların hassas bilgileri toplamasını potansiyel olarak kolaylaştırabilecek büyük bir kusurdu.
Güvenlik açığının keşfi, özellikle geçtiğimiz yıl piyasaya sürülen bağımsız uygulamanın ardından Meta'nın yapay zeka uygulamalarına yönelik artan incelemelerle aynı zamana denk geliyor. Uygulama, net olmayan paylaşım ayarları nedeniyle özel konuşmaları istemeden deşifre ediyor. Birçok kullanıcı, uygulama içindeki özellik nedeniyle etkileşimlerinin kamuya açık olarak paylaşıldığının farkında değil, bu da teknoloji devinin etik ve sorumlu yapay zeka yaklaşımını sorgulamalarına neden oluyor.
