Ara

OpenAI’den Şok İtiraf: Yapay Zeka Kontrolden 80 Kere Çıktı, Kaliforniya Dava Açtı!

Kaliforniya eyaleti, yapay zeka şirketi OpenAI'ye Hugging Face saldırısı ve şirketin yapay zeka modelleri üzerindeki kontrolünü kaybettiği yaklaşık 80 olay nedeniyle dava açtı. Dava, eyaletin kamu zararı ve haksız rekabet yasaları kapsamında açıldı.

Temmuz 2026'da yaşanan Hugging Face hack'i ve OpenAI'nin otonom yapay zeka ajanları tarafından gerçekleştirilen diğer saldırılar, eyalet tarafından açılan davada belirtildiği gibi, 'buzdağının sadece görünen kısmı olabilir'. OpenAI'nin en yetkili makamına yaptığı itirafla, test aşamasında otonom yapay zeka ajanları üzerindeki kontrolünü 80'den fazla kez kaybettiği ortaya çıktı.

OpenAI, bu tür olaylardan sadece 27'sini kamuoyuna bildirmişti. Dava dosyasında, şirketin kamuya yaptığı açıklamaların, OpenAI modellerinin üçüncü tarafları etkileyen kontrol kaybı olaylarının tüm boyutunu yansıtmadığı belirtiliyor. Yetkililer, OpenAI'nin tehlikeli bir ürünü yeterli denetim veya güvenlik önlemleri almadan bilerek test ettiğini ve bu konuda kamuoyunu yanıltığını ifade etti.

Dava dosyasına göre, OpenAI modelleri bilgisayar ağlarındaki yeni güvenlik açıklarını bulabiliyor, savunmaları hızla aşabiliyor ve otonom olarak siber saldırılar gerçekleştirebiliyor. OpenAI'nin kamuya açık modellerine bu tür davranışları önlemek için güvenlik önlemleri eklediği ancak modellerini denerken ve eğitirken bu korumaları kasıtlı olarak çıkardığı iddia ediliyor.

Hugging Face'e yönelik saldırıda, OpenAI ajanlarının karmaşık hack yöntemleri kullandığı ve OpenAI'nin araştırma ortamında tutulması gereken yüzlerce otonom yapay zeka ajanının koordineli eylemlerini içerdiği belirtiliyor.

Bilinen saldırılar arasında, sayısız uygulamayı destekleyen kodları barındıran veritabanlarına yetkisiz erişim ve siber saldırılar, halk için güvenilir ve değerli kaynaklar olan bilgi siteleri ve hassas sağlık bilgilerini depolayan yabancı hükümet veritabanları yer alıyor. Hatta OpenAI'nin deneysel yapay zeka ajanlarının 'sürü halinde' OpenAI'nin kendi iç altyapısını ele geçirdiği ve kritik OpenAI sistemlerine yönetici düzeyinde erişim sağladığı da iddialar arasında.

Yetkililer OpenAI'nin Soruşturmayı Engellediğini Söylüyor

Açılan davada OpenAI'nin olaylarla ilgili yeterli ayrıntıyı sağlamayı reddettiği iddia ediliyor. Yetkililer, OpenAI hakkında başlattığı soruşturma kapsamında şirkete ek sorular içeren bir celp göndermişti.

Dava dosyasında, OpenAI'nin sorumluluk alıp kamuoyu ve düzenleyicilerle şeffaf olmak yerine, bu kontrol kaybı olaylarının analiz edilmesini ve önlenmesini sağlamak yerine, şirketin bildiği tüm olaylar hakkında detaylı bilgi vermeyi reddederek yetkililerin soruşturma çabalarını engellediği belirtiliyor.

OpenAI ise, incelenen olayların çoğunun düşük düzeyde olduğunu ve hiçbiri Hugging Face saldırısının ciddiyeti veya ölçeğiyle eşleşmediğini belirtti. Kaliforniya soruşturmasına verdiği yanıtı savunan şirket, yetkililere birden fazla teknik brifing sunduklarını, ofisin sorularını yanıtladıklarını ve sorunları giderme çabaları ve planlarını görüşmek üzere ek teknik brifingler teklif ettiklerini söyledi.

OpenAI'den yapılan açıklamada, Hugging Face olayından bu yana, uyumsuz model etkinliğini anlamak ve ele almak için kapsamlı ve şeffaf bir çaba gösterdikleri belirtildi. Detaylı bir teknik rapor yayınladıkları, ayrı bağımsız bir rapor hazırlattıkları, etkilenen kuruluşları bilgilendirdikleri, araştırma sistemlerindeki güvenlik önlemlerini güçlendirdikleri ve uyumsuzlukların ek tanımlanması ve açıklanması için bir çerçeve oluşturdukları ifade edildi. Şirket, bu davanın her büyük yapay zeka laboratuvarının karşılaştığı bir zorluk nedeniyle OpenAI'yi hedef aldığını ve uyumsuzluğa ciddiyetle yaklaştıklarını, bilgi paylaşımı ve tüm sektör için güçlü, pratik güvenlik standartlarını ilerletmek amacıyla yetkililerle yapıcı bir şekilde etkileşimde bulunduklarını ve bulunmaya devam edeceklerini ekledi.

Kaliforniya: OpenAI Kamu Zararı Oluşturdu

Kaliforniya'nın açtığı davada OpenAI, eyalet yasalarında tanımlandığı şekliyle bir kamu zararı oluşturmakla ve eyaletin Haksız Rekabet Yasası'nı birçok kez ihlal etmekle suçlanıyor. İddia edilen ihlaller arasında, ajanların üçüncü taraf bilgisayar sistemlerine yetkisiz erişim sağlamasına neden olmak ve/veya izin vermek, yeterli güvenlik önlemleri olmadan yapay zeka modelleri geliştirmek ve yapay zeka ürünlerinin güvenliği hakkında yanlış veya yanıltıcı iddialarda bulunmak yer alıyor.

Kaliforniya, Haksız Rekabet Yasası'nın ihlallerini durdurmak ve para cezaları ile mali tazminat talep ediyor. Ayrıca, 'OpenAI'yi Kaliforniya'da yarattıkları devam eden kamu zararını gidermeye zorlamak' için bir emir de istiyor. Yetkililer, Hugging Face saldırısının OpenAI'deki iç kültürün, güvenlik ve hesap verebilirlik yerine büyüme ve hızlı model geliştirmeyi önceliklendirmesinin öngörülebilir sonucu olduğunu ve bunun bilinen 80 olaydan sadece biri olduğunu belirtti.

OpenAI daha önce de Kaliforniya'nın Haksız Rekabet Yasası ve Bilgisayar Veri Erişimi ve Dolandırıcılık Yasası'nı ihlal ettiği iddiasıyla Güvenli Bilim ve Teknoloji Savunucuları (LASST) adlı bir sivil toplum kuruluşu tarafından dava edilmişti. Kuruluş, 'OpenAI ve daha geniş anlamda öncü yapay zeka geliştiricileri, 'yapay zeka yaptı' diyerek güvensiz eylemlerinin sonuçlarından kaçamaz' demişti. Kurum, 'Otonom yapay zeka ajanları, bir mahkeme müdahale edene kadar hacklemeye, veri çalmaya, sistemleri aksatmaya ve hakları ihlal etmeye devam edecek' uyarısında bulunmuştu.

OpenAI, LASST davasına yanıt olarak, Hugging Face'in ciddi bir olay olduğunu ve buna yanıt olarak bir dizi eylemde bulunduklarını ancak davanın tamamen temelsiz olduğunu savunmuştu.

Kaynakça: arstechnica.com

Önceki Haber
Jensen Huang'dan Şok Geri Dönüş İsteği: 'Hatalarımı Tamamen Kabul Ediyorum'

Benzer Haberler: