OpenAI, yapay zeka sohbet botu ChatGPT tarafından üretilen metinleri varsayılan olarak damgalayacağını duyurdu. Bu adım, özellikle Avrupa Birliği'nde yasal düzenlemelere uyum sağlamak amacıyla atılıyor.
Avrupa Birliği'nde yürürlüğe giren Yapay Zeka Yasası, yapay zeka modelleri tarafından üretilen içeriklerin tespit edilebilir bir şekilde işaretlenmesini zorunlu kılıyor. Ancak, bu tür işaretlemelerin tamamen etkili ve güvenilir bir yolu henüz bulunmuyor. SynthID ve C2PA gibi standartlar mevcut olsa da, temel düzeyde bilgiye sahip kişiler tarafından kolayca aşılabilirler.
OpenAI'nin de kullandığı işaretleme yöntemi, 'textGrain' olarak adlandırılıyor ve şirketin bu konuda teknik bir makale yayınladığı belirtiliyor. Genel olarak, bu yöntem, insan gözüyle fark edilmeyen ancak özel bir araçla tespit edilebilen kelime seçimlerinde belirli desenler oluşturarak çalışıyor. OpenAI, bu tespit aracına başlangıçta sınırlı sayıda araştırmacı ve kuruluşun erişebileceğini ve zamanla başvuru yoluyla daha fazla kişinin dahil edilebileceğini ifade ediyor.
OpenAI'nin textGrain üzerindeki testleri, metnin %92'sini başarılı bir şekilde tespit edebildiğini gösteriyor. Ancak, metnin sadece %10'luk bir kısmının değiştirilmesi, tespit oranını yaklaşık %30 düşürebilirken, %20'lik bir değişiklik bu oranı %75'e kadar geriletebiliyor. Bu oranlar, daha kısa veya çevrilmiş metinlerde daha düşük olma eğiliminde.
Ağustos ayında, OpenAI'nin bir rakibi de kendi modelleri tarafından üretilen metinler için bir işaretleme özelliği sunmuştu. Ancak bu özellik küresel çapta devreye alınmıştı. OpenAI ise şu an için bu özelliği sadece düzenlemelerin gerektirdiği bölgelerde varsayılan olarak sunuyor.
Yeni işaretleme özelliği, önümüzdeki haftalarda Avrupa Birliği'ndeki kullanıcılara sunulmaya başlanacak.
