Ara

Yapay Zeka Tedarik Zincirinde 2 Milyon Dijital ‘Kanarya’: Gizlilik Felaketi Ortaya Çıktı!

Araştırmacılar, yapay zeka hizmetlerinden oluşan geniş bir ağ üzerinden gönderilen isteklere 2 milyon dijital 'kanarya' yerleştirerek, kendilerine emanet edilen hassas bilgilerin akıbetini araştırdı. Elde edilen bulgular ise, hassas verileri adeta bir süzgeç gibi sızdıran bir ekosistemi gözler önüne serdi.

Bu sızıntı, günümüzdeki birçok yapay zeka uygulamasının aracı görevi gören ve kullanıcıların komutlarını işleyen çeşitli yapay zeka hizmetlerinden faydalanmasıyla ortaya çıktı. Bu 'yapay zeka yönlendiricileri' veya 'yapay zeka geçitleri', kullanıcıların gönderdiği çok sayıda komutu, maliyet veya görev uygunluğu gibi kriterlere göre en uygun çıkarım motoruna yönlendiriyor. Geliştiriciler, doğrudan büyük sağlayıcılar yerine bu yönlendiricileri kullanarak en uygun modeli buluyor.

Yapılan bir güncelleme ile, bu hizmetlerden bazılarının müşterilerine gönderdikleri bazı komutların okunmuş olabileceğine dair bir e-posta gönderdiği bildirildi. Bu araştırma referans gösterilerek, potansiyel sızıntının Çin merkezli bir model sağlayıcısı olan MiniMax'e gönderilen komutları kapsadığı belirtildi. Araştırmacıların yerleştirdiği izleme bağlantılarının, komutlar doğrudan MiniMax'e veya diğer üç bayi aracılığıyla gönderilmiş olsa da erişildiği ifade edildi. Bu gelişme üzerine, MiniMax model uç noktalarından 'Sıfır Veri Tutma' etiketi kaldırıldı.

Güvenlik Açıkları, Komut Hırsızlığı ve Gizlilik İhlalleri

Potansiyel sızıntıları test etmek amacıyla, araştırmacılar daha önce hiç kullanılmamış Amazon Web Services erişim anahtarları, boş AWS hesaplarına bağlı geçerli kimlik bilgileri, SSH gibi hizmetler için şifreler ve benzersiz URL'ler, DNS adları ve özel git deposu referanslarından oluşan bir koleksiyon topladılar. Bu 'kanaryalar' - kömür madenlerindeki kuşlar gibi - herhangi bir sır sızdırılırsa, zincirin sorumlusu olan her bir bağlantıyı tespit etmeyi sağlayacaktı.

Elde edilen bulgular oldukça çarpıcı:

  • En az üç yapay zeka sağlayıcısının, aldıkları komutları sızdırmak için kullanılan erişimleriyle saldırganlar tarafından ele geçirildiğine dair kanıtlar bulundu.
  • Çıkarım pazarındaki birden fazla bayi, komutları kaydedip kimlik bilgilerini kullanan kişilere iletti.
  • Birden fazla yapay zeka sağlayıcısının, Sıfır Veri Tutma (ZDR) veya 'veri toplama yok' gibi son kullanıcı gizlilik ayarlarını ihlal ettiği görüldü.

Güvenlik firması Dragos'un araştırma sorumlusu, binlerce yapay zeka komutu ile benzersiz, izlenebilir sırları yapay zeka sağlayıcılarına gönderdiklerini ve bu sırların nerede yüzeye çıktığını izlediklerini belirtti. Buldukları sonuçların güvenlik açıkları, komut hırsızlığı ve müşteri verilerini korumada yaygın başarısızlıkları ortaya çıkardığını ekledi.

Komutlar aktarım sırasında şifrelense de, büyük çıkarım bayi ağındaki her adımda şifreleri çözülüyor. Komut önce bir yapay zeka yönlendiricisine gönderiliyor ve bu yönlendirici, isteği işlemek için en uygun çıkarım sağlayıcılarını belirlemek üzere komutun düz metnini okuyor. Ardından komut, bazen farklı barındırma sağlayıcılarında çalışan model havuzlarına gönderilebiliyor. Komutlar, bir yapay zeka yönlendiricisinden (örneğin Vercel) diğerine (örneğin OpenRouter) de geçebiliyor. Bu aktörlerin her biri, politikaları gereği komutu kaydedip saklama olasılığına sahip.

Yapay Zeka Çağında Vahşi Batı

En endişe verici bulgu, üç ayrı barındırma sağlayıcısının ihlal edilmiş olmasıydı. Bu sağlayıcılardan birini ele geçiren saldırganlar, yüzlerce AWS anahtarını yeniden kullanmış. Bu anahtarlar, kaynaklara erişmek için test edilmiş ve S3 kovaları, sır yöneticileri ve parametre depoları gibi yerlerde daha fazla kimlik bilgisi aranmış. Hatta barındırılan modelleri etkinleştirip kendi IAM kullanıcılarını ekleyerek erişimlerini sürdürmeye çalışmışlar. Çalınan bu anahtarlar, AWS API çağrılarında on binlerce kez kullanılmış.

İki ihlal edilen sağlayıcıya gönderilen sırların, aynı kiralık sunucudan neredeyse anında birlikte kullanıldığı gözlemlenmiş. Bu durum, sağlayıcıların aynı saldırgan tarafından ele geçirildiğini neredeyse kesinleştiriyor.

Daha önce de belirtildiği gibi, bazı sırlar bayilerin kendileri tarafından çalınmış. Sunucularına komut çekmek için düşük fiyatlar sunmuşlar, ardından istek kaydını açıp beklemişler. Araştırmacılar, aynı modele farklı satıcılar aracılığıyla istek göndererek onları tespit etmiş. Kimlik bilgileri bir satıcı aracılığıyla kullanıldığında, ancak diğerinde kullanılmadığında, satıcının değil, model sağlayıcısının sorumlu olduğu anlaşılmış.

Son olarak, 'kanarya' deneyi, bazı sağlayıcıların gizlilik hükümlerini ihlal ederek komutlardaki sır URL'lerini taradığını ortaya koymuş. Bir ABD barındırma sağlayıcısının, tek bir çıkarım çağrısından sonra bile sır URL'sini iki aydan fazla süre boyunca taradığı görülmüş. Bir diğeri ise, her istekten günler sonra, hangi yapay zeka yönlendiricisinin kullanıldığına bakılmaksızın URL'ler için geri dönen bir tarayıcı çalıştırmış.

Araştırmacılar, sızıntıyı önlemenin en etkili yolunun modelleri şirket içi sunucularda barındırmak olduğunu belirtiyor. Ancak bu seçenek oldukça maliyetli. Kendinden barındırmalı bir sistemin maliyetini karşılayamayanlar için, doğrudan 'tek bir sözleşme ve okunacak bir gizlilik politikası' sunan birinci sınıf bir sağlayıcıdan hizmet almanın bir sonraki en iyi seçenek olduğunu ekliyorlar. Ancak bu durumda bile verilerin sızmayacağına dair bir garanti olmadığını, ancak bu önlemin olasılığı azalttığını belirtiyorlar. Yapay zeka kullanıcılarının, varsayılan sağlayıcı veya bayi havuzlarını kabul etmek yerine doğrudan üst düzey sağlayıcıları kendilerinin seçmesi gerektiği de vurgulanıyor.

Bu çarpıcı araştırma, yapay zeka ekosisteminde yaygın olan gevşek gizlilik ve güvenlik uygulamalarına ilişkin en son suçlamaları ortaya koyuyor. Bu bulgular, komutlara girdikleri sırların gizli kalmasını sağlamak isteyenler için, yakın zamanda kolaylaşması pek mümkün olmayan zorlu bir görevle karşı karşıya oldukları anlamına geliyor.

Kaynakça: arstechnica.com

Önceki Haber
Intel'den DDR5 Bellek Sırları: Prototip Hataları ve 256GB Devrimi
Sıradaki Haber
Kalbin Gizli Sinyali Keşfedildi: Ani Kardiyak Ölüm Riskini Öngörüyor!

Benzer Haberler: