Meta'nın genel amaçlı yapay zeka aracı Muse'un, kullanıcıların sohbetleri web bağlantıları aracılığıyla paylaştığında hassas bilgileri açığa çıkarabildiği bildirildi.
Birçok çevrimiçi hizmet gibi Muse da kullanıcıların aramaları, konuşmaları, görüntüleri ve benzer içerikleri başkalarıyla paylaşmasına olanak tanıyor. Bu tür paylaşım özellikleri genellikle, herkesin içeriği barındıran bir sayfayı yüklemek için kullanabileceği benzersiz bir URL oluşturma seçeneğini tıklamayı içerir. Potansiyel olarak hassas bilgilerin istenmeyen kişilerin erişimine açık olmasını önlemek için, URL'ler genellikle kolayca tahmin edilemeyecek uzun bir metin dizisi içerir.
Tek Bir Sorgu Yeterli Oluyor
Meta CEO'su Mark Zuckerberg'in geçen ay "gizlilik ve güvenlik için sıfırdan inşa edildiğini" belirttiği Muse'un da benzer önlemleri aldığı görülüyor. Ancak URL'lerin oluşturulmasındaki merkezi bir tasarım kararı, bağlantıların kolayca keşfedilmesine neden olmuş. Sonuç olarak, güvenlik firması Claroc'tan araştırmacılar, Muse kullanıcılarının başkalarıyla sohbet paylaşmak için oluşturduğu 6.800 bağlantıyı tespit edebildiklerini belirttiler. Bu bağlantılardan birkaç yüzünü açan araştırmacılar, kamuya açık olması amaçlanmayan bilgileri buldular:
- Önde gelen bir yapay zeka laboratuvarıyla yapılan gizli yönetici arama görüşmesi için hazırlanan ve laboratuvarın dahili iletişim kişisi ile görüşme saatini belirten bir adayın notları.
- Ulusal bir pazarlama şirketinin, CEO'su için işaretlenmiş dahili gelir incelemesi.
- Küçük bir işletme sahibinin talep edilen miktarla birlikte kredi başvurusu.
- Kısmi hesap numarası ve işlem tutarı ile saati içeren bir banka dolandırıcılığı uyarısının bulunduğu bir yapılacaklar listesi.
- İki gayrimenkul adresi ve tam getiri, gelir ve ipotek rakamlarını içeren bir emlak yatırımcısının dahili performans raporu.
- Çalışanların izinli oldukları haftaları listeleyen, onlarca çalışanın yer aldığı bir iş yerinin tam yıllık personel izin takvimi.
Araştırmacılar, "Eğer bize önceden sorsaydınız, bunları toplamanın gerçek çaba gerektireceğini tahmin ederdik. Sadece bir sorgu yetti." diye belirttiler.
URL'leri keşfetmenin en kolay yolu, mevcut birçok ticari hizmetten biri aracılığıyla pasif DNS araması yapmaktır. Pasif DNS kayıtları, alan adlarının IP adreslerine geçmiş çözümlerini ve zaman içindeki ad sunucusu ve posta sunucusu kayıtlarını saklar. Pasif DNS sistemleri tipik olarak, bir izleme sistemi bir DNS yanıtı gözlemlediğinde bir pasif DNS kaydı oluşturur. Bu durumda, amaçlanan taraf paylaşım bağlantısına tıkladığında, DNS bilgileri aranabilir bir veritabanına kaydedilir.
Claroc araştırmacıları, tüm Muse paylaşım bağlantılarının cf.metaaiusercontent.com alan adını kullanması nedeniyle bu bağlantıları keşfedebildiler. Sohbet adının URL'ye eklenmesi ve uzun bir metin dizisiyle birlikte kullanılması da keşfi daha da kolaylaştırıyor. Bu tür bağlantıların basitleştirilmiş örnekleri şunlardır: home-sale-budget-9f21c8a3.cf.metaaiusercontent.com, q3-revenue-review-7b1e42f0.cf.metaaiusercontent.com ve loan-application-draft-a4c9e2.cf.metaaiusercontent.com. Sohbet başlığının, halka açık DNS kayıtlarının herkesin arayabileceği şekilde web adresine dahil edilmesi kararı, halka açık keşfi mümkün kılıyor.
Claroc, "Pek çok yapay zeka asistanı genel bağlantı ile paylaşım yapıyor. Muse'un paylaşımlarının bulunmasını kolaylaştıran şey, web adresinin içinde yer alan ve halka açık DNS kayıtlarının arama için kaydettiği başlıktır. Biz bunlara GhostShares (Hayalet Paylaşımlar) diyoruz: bağlantısı hiç verilmeyen kişiler için açılan ve bu kişilerin kendi başlarına bulabilecekleri sayfalar." açıklamasını yaptı.
Muse, Apple'ın uygulama mağazasında hızla en üst sıralara tırmandı. Asistan, formları otomatik olarak dolduruyor, randevu ayarlıyor, alışveriş yapıyor, belgeler oluşturuyor ve çeşitli diğer eylemleri gerçekleştiriyor. Amacına uygun çalışabilmek için Muse, kullanıcının hesaplarının çoğuna erişim gerektiriyor. Meta, bu asistanı, amacına uygun çalışması için gereken olağanüstü güvene layık bir platform olarak yoğun bir şekilde pazarladı.
Muse'un piyasaya sürülmesinden üç hafta sonra, macOS güvenlik uzmanı Patrick Wardle, aynı cihazda yüklü olan herhangi bir başka uygulamanın kullanıcının Muse hesabının tam kontrolünü ele geçirmesine izin veren sıfır gün açığı keşfetti. Meta, cihazın zaten tehlikeye atılmadığı sürece istismar edilemeyeceği gerekçesiyle açığın ciddiyetini küçümsedi. Şirket, bir hesabı ele geçirmek için basit bir ClickFix saldırısının yeterli olduğu Wardle'ın bulgusunu kabul etmedi. Paylaşım bağlantılarının kolayca keşfedilmesi, Muse'un gerektirdiği erişime layık olup olmadığı sorusunu daha da haklı çıkarıyor.
Bir Meta temsilcisinin, gönderilen sorulara henüz yanıtı olmadı. Claroc kurucu ortağı ve CTO'su Asaf Aprozper, şirketinin Meta ile iletişime geçtiğini ve hiçbir zaman yanıt alamadığını belirtti.
Aprozper, "Benzer platformları inceledikten, sektördeki meslektaşlarla görüştükten ve Meta Muse belgelerini yeniden okuduktan sonra, bu davranışın tasarım gereği olduğunu belirledik. Ancak, kullanıcılar Muse'dan bir sohbeti biriyle paylaşmasını istediklerinde, tanımladığımız pasif DNS teknikleri kullanılarak keşfedilebilecek genel bir bağlantı oluşturulduğu konusunda bilgilendirilmelidir." diye yazdı.
Muse kullanıcıları, bağlantı paylaşırken dikkatli olmalıdır. Bu, konuşmalarda tartışılan kişisel bilgi miktarını sınırlamak ve bağlantıları mümkün olan en kısa sürede silmek anlamına gelir.
