Yapay zeka destekli sistemlerin güvenliği konusunda endişeler giderek artarken, araştırmacılar bazı popüler yapay zeka modellerinin müstehcen içerik üretmek için kolayca manipüle edilebildiğini ortaya koyuyor. Bu durum, özellikle kişisel verilerin gizliliğini ve dijital ortamda güvenliği tehdit eden önemli bir sorun olarak öne çıkıyor.
Yapılan araştırmalar, rıza dışı üretilen müstehcen içeriklerin önemli bir kısmının metin mesajları ve özel bulut depolamaları üzerinden yayıldığını, bu durumun tespiti ve raporlanmasını zorlaştırdığını gösteriyor. Google'ın da dahil olduğu bir çalışma, bu tür içeriklerin yaygınlığının temel nedeninin, zararlı yapay zeka araçları olduğunu vurguluyor.
Son dönemde yapılan testler, hem Google hem de OpenAI gibi önde gelen yapay zeka geliştiricilerinin modellerinin daha yetenekli hale geldikçe, müstehcen çıktıları engelleme konusunda daha zayıf hale gelebileceğini gösteriyor. Bu durum, yapay zeka güvenliği alanında faaliyet gösteren White Circle gibi kuruluşların dikkatini çekiyor. Şirket, yapay zeka modellerini kırarak kapsamlı güvenlik testleri yapmaya odaklanıyor ve şirketlerin gelişmiş yapay zeka sistemlerini uygularken karşılaştıkları tehditleri tespit etmelerine ve bunlara karşı önlem almalarına yardımcı oluyor.
Kolayca Aşılabilen Engeller
Geçtiğimiz ay yayımlanan bir ön baskı çalışmasında, White Circle araştırmacıları DALL·E 3, Google'ın Nano Banana 2 ve GPT-Image-2 gibi modellerdeki güvenlik açıklarını ortaya çıkardı. Yapılan açıklamada, "piyasada bulunan ve herkes tarafından indirilebilen standart araçlar kullanılarak ve API çağrıları gönderilerek, White Circle, yeni saldırı yöntemleriyle güvenlik filtrelerini aşmayı başardı ve yaklaşık yüzde 13 oranında müstehcen içerik üretebildi." denildi.
Araştırmacılar, bu saldırıların gerçekleştirilmesi için özel olarak tasarlanmış veya en gelişmiş yapay zeka modellerine ihtiyaç duyulmadığına dikkat çekiyor. Modellerin çıktıları incelenerek bypass oranının doğrulandığı ve bu oranın aynı standart altında test edilen diğer yöntemlerden daha yüksek olduğu belirtildi. Bu durum, yapay zeka güvenliğinin her zamankinden daha fazla inceleme altında olduğu bir dönemde, önde gelen laboratuvarların inşa ettiği savunmaların iddia edilenden çok daha zayıf olduğunu gösteriyor.
White Circle, bu tür araştırmaları yayımlayarak, yapay zeka laboratuvarlarının dışarıdan bağımsız bir değerlendiricisi olarak konumlanıyor. Şirket, model geliştiricilerinin gerçek güvenlik açığının boyutunu anlamaları ve daha güçlü korumalar oluşturmaları için tüm saldırı hattını açık kaynak olarak paylaşmayı planlıyor. Bu araştırmanın henüz geniş çapta duyurulmamış olmasına rağmen, önümüzdeki Kasım ayında önemli bir yapay zeka konferansında paylaşılacağı ve bu durumun Google ve OpenAI üzerindeki incelemeyi artırabileceği belirtiliyor.
White Circle, bulgularını "karşılıklı temaslar" aracılığıyla bazı yapay zeka laboratuvarlarıyla paylaştığını ancak ne Google ne de OpenAI'nin modellerindeki güvenlik açıklarıyla ilgili doğrudan yorum yapmadığını bildirdi. Bu arada, OpenAI ve Google'ın ChatGPT Images 2.5 ve Nano Banana 2.1 gibi yeni modeller piyasaya sürdüğü ve White Circle'ın aynı yöntemle yaptığı güvenlik testlerinde bu modellerin önceki sürümlerine göre önemli ölçüde daha kolay kırılabildiği belirtildi.
White Circle'ın saldırı yöntemi, açık içerik gibi görünüşte kolayca tespit edilebilen kategorilerdeki savunmaları aşabiliyor. Bu durum, hackleme gibi diğer istenmeyen yapay zeka davranışlarını engellemek için güncellenen daha ciddi savunma sistemleri için iyiye işaret değil. White Circle'ın temel hipotezi, daha yeni modellerin daha gelişmiş olması ve daha geniş bir içerik yelpazesi üretme yeteneğine sahip olması veya güvenlik yerine yeteneklerin önceliklendirilmiş olması şeklinde. Bu durum, hükümetlerin üçüncü taraf güvenlik testlerini zorunlu tutması gerektiğini düşündürüyor.
"RISE" Saldırı Yöntemi, Jailbreak'leri Yineleyerek Aşılıyor
White Circle, "yeniden kullanılabilir ve aktarılabilir" jailbreak'leri ortaya çıkarmak için tek tek komutlarla sınırlı kalmadı. Araştırmacılar, önde gelen modeller arasında çalışabilen yeniden kullanılabilir saldırı stratejilerini tespit etmek için "birden fazla komut ve senaryoda işe yarayan desenler" aradılar. (Araştırmacılar, Midjourney'nin test edilmediğini, çünkü "kontrollü kıyaslama için uygun bir halka açık API sağlamadığını" kaydetti.)
Ekip, bu yenilikçi saldırı yöntemine "Yinelemeli Strateji Evrimi Yoluyla Kırmızı Takım Oluşturma" (RISE) adını verdi. Bu yöntem iki bileşene dayanıyor: jailbreak'ler üreten bir saldırı modeli ve çıktının yasaklanmış içerik olup olmadığını doğrulayan bir hakem modeli. Saldırı modeli, Hugging Face'ten indirilen bir Qwen modeli, hakem modeli ise Gemini 3.8 Flash olarak kullanıldı. Bu da gösteriyor ki, gelişmiş modellerin savunmalarını kırmak için gelişmiş modellere sahip olmak gerekmiyor.
Araştırmacılar, özellikle hakem modelinin müstehcen içeriği doğru bir şekilde işaretlemesini sağlamak için önemli bir zaman harcadıklarını belirtti. Yapay zeka şirketlerinin sürekli olarak yeni ve daha çekici modeller piyasaya sürerek pazarı ele geçirme çabası içinde olduğu bir dönemde, yapay zeka şirketlerinin bu modelleri test etmeden piyasaya sürmeleri ve bu durumun ciddi raporlama sorunlarına yol açması endişe verici.
White Circle'ın araştırması, diğer modellere yönelik saldırıları simüle edebilecek daha gelişmiş modeller oluşturmayı amaçlıyor. Bu sayede, kötü niyetli kişiler tarafından istismar edilmeden önce savunmacıların güvenlik açıklarını tespit etmelerine ve gidermelerine yardımcı olabilecekleri belirtiliyor. İdeal bir senaryoda, yapay zeka şirketlerinin sadece zorunlu dış güvenlik testlerine tabi tutulması değil, aynı zamanda nükleer tehditleri önlemek için kullanılan sisteme benzer şekilde üçüncü taraf denetimlerine tabi tutulması gerektiği düşünülüyor.
White Circle, daha önce Anthropic'in hata ödül programına katılmış olsa da, bu programın "amacının çok sınırlı" olduğunu bulmuş. Bu tür araştırmaların bu program kapsamında ele alınmayacağını ve Anthropic bünyesinde yürütülmesinin, bulguları kamuoyuyla paylaşmalarını kısıtlayabileceğini belirtmişler. Anthropic'in, üçüncü taraf yapay zeka güvenlik değerlendiricilerini kendi bünyesine entegre etme teklifi olsa da, OpenAI ve Anthropic'in, ticari sırların sızdırılmasını önlemek için dış değerlendiricilere kısıtlayıcı gizlilik sözleşmeleri (NDA) getirilmesi gerektiğini savunması, White Circle'ın bu tür bir işbirliği yapmasını engelleyebilir.
Yapay Zeka Nü ve CSAM Artışı
Yapay zeka tarafından üretilen rıza dışı müstehcen görseller (NCII) ve çocuk cinsel istismarı materyalleri (CSAM) üretmek isteyen kötü niyetli kişiler, bu amaçla tasarlanmış "nüfuz edici uygulamalar" kullanabiliyorlar. Ancak Google'ın araştırması, yapay zeka ürünü müstehcen görseller üreten çevrimiçi kullanıcıların yüzde 20'sinin bunu "eğlence için" veya "şaka olarak", neredeyse üçte birinin ise sadece "teknolojiyi denemek" için yaptığını ortaya koyuyor. Bu nedenle, en erişilebilir modellerin güvenlik önlemlerinin ne kadar kolay aşılabildiği önemli hale geliyor.
Google'ın araştırması, "teknik engellerle caydırılabilecek bir dizi fail için istismar yolunu" kapatmak üzere güvenlik önlemlerinin zorunlu olması gerektiğini belirtiyor. Geliştiricilerin de, söz konusu sentetik müstehcen görüntülerin ilk üretimini ve dağıtımını önlemek için sağlam, model düzeyinde güvenlik önlemleri ve köken göstergeleri uygulaması gerektiği vurgulanıyor.
İnternet Gözetim Vakfı (IWF), bu yılın ilk yarısında geçen yılın tamamından daha fazla fotogerçekçi yapay zeka ürünü çocuk cinsel istismarı görüntüsü tespit edildiği konusunda acil eylem çağrısında bulundu. 2026'nın ilk altı ayında CSAM'ın yasal tanımına uyan 6.310 yapay zeka görüntüsü bulundu; bu da geçen yılın toplam bulgularına göre yaklaşık yüzde 40 daha fazla. Britanya merkezli bir yardım kuruluşu olan IWF, yapay zeka şirketlerinden CSAM üretilmesini önleyecek bir güvenlik çerçevesi oluşturmalarını talep ediyor.
IWF sözcüsü, yapay zeka teknolojilerindeki gelişmelerin, teknik uzmanlık gereksinimini ortadan kaldırarak ve giriş engellerini önemli ölçüde düşürerek istismar edici çocuk cinsel istismarı görüntülerinin üretilmesini sağladığını belirtiyor. Yapay zeka araçlarının suçlu içeriği çoğaltıp büyütebileceğini ve zararlı materyallerin ölçekli bir şekilde oluşturulup yayılmasını hızlandırabileceğini vurgulayan sözcü, bu araçların kötüye kullanılmasını zorlaştıran herhangi bir adımın olumlu bir gelişme olduğunu ekliyor.
IWF, teknoloji şirketlerinin yapay zeka ürünü CSAM ile daha iyi mücadele etmek için savunucularla daha yakın çalışması gerektiğine inanıyor. CSAM'ın değerlendirilmesinin, uzman eğitimi ve refakat desteği gerektiren son derece özel bir görev olduğunu belirten sözcü, güvenlik önlemlerinin yeni teknolojilere tasarım aşamasında dahil edilmesi gerektiğini, bu kapsamda modellerin piyasaya sürülmeden önce test edilerek çocuklara ait müstehcen veya cinsel içerikli görüntülerin oluşturulamayacağının garanti altına alınması gerektiğini ifade ediyor.
Olası Azaltma Yöntemleri
White Circle, RISE gibi bir yöntem kullanarak, yapay zeka laboratuvarlarının daha fazla jailbreak'i daha hızlı tespit edebileceğini ve zararlı çıktıları engellemek için savunmalarını hızla güçlendirebileceğini düşünüyor. Şirketler, müstehcen görüntüler üzerindeki engelleri test etmenin yanı sıra, bu yöntemi grafik şiddet veya kendine zarar verme gibi diğer yasaklanmış çıktıları önlemek için de kullanabilirler. Ancak yapay zeka laboratuvarları henüz bu reproduksiyon hattını talep etmemiş durumda.
Araştırmacılar, yapay zeka şirketlerinin güvenlik testlerine ancak bu zorunlu hale geldiğinde yatırım yapacağını düşünüyor. Bu durum, halkın, modellerin sadece kötü komutları değiştirerek kısıtlanmış çıktıları önlediği, ancak komutları oluşturmak için LLM'in kendi keşif yeteneklerini ortaya çıkaran doğal dil saldırı stratejilerini geliştiremediği modellerle yetinmek zorunda kalabileceği anlamına geliyor. Nihayetinde, bu sistemleri kırmak için gelişmiş modellere veya özel teknolojiye ihtiyaç duyulmadığı, sadece ücretsiz bir indirme ve API çağrıları yapabilme yeteneğinin yeterli olduğu belirtiliyor. Ancak bu sistemleri geliştiren laboratuvarların kendi güvenliklerini değerlendirmesi, kendi sonuçlarını yayımlaması ve kendi standartlarını belirlemesi, hükümetlerin bağımsız, üçüncü taraf değerlendirmelerini zorlaması gerektiğinin bir kanıtı olarak görülüyor.
