Çin'de bir bilişim sistemine yasa dışı müdahale, 3 yıla kadar hapis cezası gerektiren ciddi bir suç. Buna rağmen, bazı macera arayanlar, kolluk kuvvetlerinin gazabını farkında olmadan üzerlerine çekebiliyorlar. 'Kırılmış' yapay zeka modellerini dağıtan bir API röle istasyonunun üyeleri de bunun bedelini ağır ödedi.
Yasa Dışı Bir Yapay Zeka Grubu 'Kırılmış' Modeller Satıyordu, Bir Kullanıcı Sınırı Aştı
Çin'den gelen tuhaf bir olay, bir kişinin aptallığının nasıl hem kendi eliyle beslediği kuşu hem de sistemleri baltalayabileceğini gösteriyor. Bilgisayar konusunda bilgili geliştiriciler, belirli komutlar veya kod düzenlemeleriyle bir yapay zeka modelinin dahili güvenlik önlemlerini aşarak onu 'kırabilirler'.
Dahası, çoğu şirket bu tür uygulamaları yasakladığı için, girişimci kullanıcılar özel bir 'röle istasyonu' sunucusu kurabiliyor. Bu sunucularda resmi yapay zeka modellerine erişim sağlayıp, güvenlik önlemlerini kaldırıyor ve bu 'kısıtlanmamış' yapay zekayı ücret karşılığında özel bir kullanıcı grubuna yeniden satıyorlar.
Görünüşe göre, bir kullanıcı bir röle istasyonundan 'kırılmış' bir model alıp, onu bir devlet internet sitesindeki zayıflıkları bulmak için kullanmış.
Saldırgan, sitenin İçerik Yönetim Sistemi (CMS) üzerinde 'Süper Yönetici' kontrolünü ele geçirmeyi başarmış ve sitenin kullanıcı verilerine, binlerce makaleye ve veritabanı yedeklerine erişim sağlamış. Hatta sürekli veri çalmak için gizli bir arka kapı oluşturmayı bile planlamış.
Kullanıcı, başarısının ekran görüntülerini röle istasyonunun özel sohbet grubunda gururla paylaşmış. Bu paylaşımlar, eylemin getirebileceği ciddi cezaları anlayan duyarlı bir üye tarafından fark edilmiş ve tüm grup ile saldırı, siber güvenlik polisine bildirilmiş.
Bunun üzerine röle istasyonunun yöneticisi paniğe kapılmış. Hemen tüm faaliyetleri durdurmuş, polisin izin vermesi halinde para iadesi vaadinde bulunmuş ve kanıtları yok etmek için tüm sohbet grubunu silmiş.
Buradaki ironi, röle istasyonunu işleten kişinin, 'asi', kuralları çiğneyen yapay zeka modelleri satarak para kazanmasıydı. Sadece uçuk komutlar veya küçük atlatmalar için bir araç sattıklarını düşünüyorlardı. Oysa bir kullanıcı bu fikri kelimenin tam anlamıyla almış, ciddi bir gerçek dünya siber saldırısı gerçekleştirmiş ve polisi yöneticinin kapısına dayayarak tüm işini yok etmiş.
Bu durum, 'tehlikeli yapay zeka' konusundaki korkuların artık ders kitaplarındaki teorilerden gerçeğe dönüştüğünü gösteriyor: Kısıtlanmamış bir model başarıyla silah haline getirilmiş ve sonuçları neredeyse anında ortaya çıkmış.
