Teknoloji dünyasının en popüler yapay zeka (YZ) sohbet robotlarını ilgilendiren endişe verici bir güvenlik açığı ortaya çıktı. Yapılan araştırmalara göre, bu sistemlerdeki bir kusur, hackerların kullanıcıların sohbetlerini şifrelemeyi atlayarak ele geçirmesine olanak tanıyabilir.
Siber güvenlik uzmanları tarafından keşfedilen ve "Whisper Leak" adı verilen bu saldırı türü, "ortadaki adam saldırısı" olarak biliniyor. Bu yöntemde, hackerlar sunucular arasında iletilmekte olan mesajları yakalayabiliyor. Saldırganların, mesajların meta verilerini okuyarak içerikleri hakkında çıkarımlarda bulunabilmesi, bu açığın temelini oluşturuyor.
Araştırmacılar, bulgularını henüz hakem değerlendirmesinden geçmemiş bir platforma yükledi. Büyük Dil Modeli (LLM) sağlayıcıları, Haziran 2025'te bu konuda bilgilendirildi. Geliştirici bazı firmalar, riski değerlendirerek gerekli düzeltmeleri uygulamaya başladı. Ancak, araştırmacıların belirttiğine göre, bazı LLM sağlayıcıları çeşitli gerekçelerle bu düzeltmeleri uygulamayı reddetti veya hiç yanıt vermedi.
Konuyla ilgili bir siber güvenlik analisti, LLM'lerin insanların büyük miktarda bilgi paylaştığı bir alan olması nedeniyle potansiyel bir bilgi hazinesi olduğunu ve hastanelerin tıbbi verileri analiz etmek için bu sistemleri kullanmasıyla birlikte, bilgilerin sızdırılmasının kaçınılmaz olarak beklendiğini ifade etti.
Yapay Zeka Sohbet Robotlarında Yeni Zafiyetler Keşfedildi
ChatGPT gibi üretken yapay zeka sistemleri, komutlara dayalı olarak yanıtlar üretebilen güçlü araçlardır. Bu sistemler, akıllı telefonlardaki sanal asistanlar gibi çalışır. Büyük Dil Modelleri, metin tabanlı yanıtlar üretmek üzere devasa veri kümeleriyle eğitilir.
Kullanıcıların LLM'lerle yaptığı sohbetler, normalde iletişimi gizli tutan bir şifreleme protokolü olan Aktarım Katmanı Güvenliği (TLS) ile korunur. Ancak araştırmacılar, kullanıcı ve sohbet robotu arasındaki iletişimin meta verilerini analiz ederek bu şifrelemeyi aşmayı ve içerikleri tahmin etmeyi başardı.
Meta veri, temelde verinin kendisi hakkında veri anlamına gelir. Mesajların boyutu ve sıklığı gibi bilgiler meta veriyi oluşturur ve genellikle mesajın içeriğinden daha değerli olabilir. LLM'lerle yapılan mesajların içeriği gizli kalmış olsa da, mesajları ele geçirip meta verilerini analiz ederek, araştırmacılar mesajların konusunu tahmin edebildi.
Bu başarı, LLM yanıtlarındaki şifrelenmiş veri paketlerinin boyutlarını analiz ederek elde edildi. Araştırmacılar, zamanlamalar, çıktı dizileri ve token uzunlukları gibi unsurlara dayanan bir dizi saldırı tekniği geliştirerek, şifrelemeyi kırmaya gerek kalmadan mesajlardaki olası cümleleri yeniden yapılandırmayı başardı.
Whisper Leak saldırısı, bir ülkenin veri toplama yasalarının daha gelişmiş bir versiyonunu kullanıyor. Bu yasalar, mesajların içeriğini okumadan gönderen, zamanlama, boyut ve sıklık gibi bilgilere dayanarak içerik hakkında çıkarımlarda bulunulmasına olanak tanıyor.
Güvenlik araştırmacıları, bu durumu şöyle özetliyor: "Bunu şöyle düşünün: Bir devlet kurumu veya internet servis sağlayıcısı, popüler bir yapay zeka sohbet robotuna yapılan trafiği izlese, tüm trafik şifreli olmasına rağmen, kullanıcıların belirli hassas konular hakkındaki sorularını güvenilir bir şekilde tespit edebilirdi. Bu konular, kara para aklama, siyasi muhalefet veya diğer izlenen konular olabilir."
LLM sağlayıcılarının bu riski azaltmak için çeşitli yöntemler kullanması mümkün. Örneğin, yanıt alanlarına rastgele baytlar ekleyerek (rastgele dolgu) mesajların boyutunu artırmak ve böylece paket boyutlarını bozarak tahmin edilebilirliği azaltmak gibi.
Whisper Leak'in temelindeki güvenlik açığı, LLM'lerin dağıtım şeklinin bir mimari sonucu olarak ortaya çıkıyor. Araştırmacılar, bu zafiyeti gidermenin imkansız olmadığını, ancak tüm LLM sağlayıcıları tarafından henüz evrensel olarak uygulanmadığını belirtiyor.
Sağlayıcılar sohbet robotlarındaki kusurları gidermeden önce, kullanıcıların güvenilmeyen ağlarda hassas konuları tartışmaktan kaçınmaları ve sağlayıcılarının bu tür önlemleri alıp almadığının farkında olmaları öneriliyor. Sanal özel ağlar (VPN'ler) da kullanıcının kimliğini ve konumunu gizleyerek ek bir koruma katmanı sağlayabilir.
