Sosyal medya devi Meta Platforms'un çocuklarla sohbet etmek için hazırladığı dahili belgeler, yapay zeka platformlarının kullanıcıların yönlendirmelerine cinsel imalar içeren yanıtlar verebilmesine izin verdiğini ortaya koyuyor. Reuters tarafından sızdırılan ve Meta tarafından doğrulanan bu kılavuzlar, yapay zekanın çocuklarla olan sohbetlerinde ne kadar geniş bir esnekliğe sahip olduğuna dair şok edici raporların sonuncusu olarak dikkat çekiyor. Meta, ilgili yayın organından sorular geldiği anda çocuklarla olan cinsel içerikli sohbetlere ilişkin kılavuzları kaldırdığını belirtti.
Meta Sözcüsü, Çocuklarla İlgili Cinsel İmalar İçeren Sohbetlere Asla İzin Verilmemesi Gerektiğini Söyledi Ancak Tutarsız Uygulamayı Kabul Etti
Bu son rapor, Meta'nın yapay zeka sohbet botlarının uygunsuz kullanımı nedeniyle ilk kez eleştirildiği anlamına gelmiyor. Şubat ayında çıkan bir rapor, Instagram yapay zeka sohbet botlarının çocuklara benzeyebileceği ve kullanıcılarla romantik sohbetler yürütebileceği ortaya çıkmıştı. O dönemde Meta, Instagram'ın Yapay Zeka Stüdyosu aracılığıyla oluşturulan yapay zeka sohbet botlarının neden çocuklara benzediği konusunda yorum yapmaktan kaçınmıştı. Raporlarda paylaşılan bir örnekte, 'Ageless Love' adlı bir sohbet botunun kullanıcıya kendisinin 15 yaşında olduğunu ve 'savunmasız' hissettiğini söylediği görülüyordu.
İlk rapor, Meta'nın kullanıcılara çocuklara benzeyen yapay zeka sohbet botları oluşturmasına izin verdiğini belirtirken, başka bir rapor ise bunun tam tersini ortaya koydu. Bu rapora göre, Meta çalışanları yapay zeka şirketlerinin fantezi cinselliğine girmesine ve daha da önemlisi, son kullanıcının bir çocuk olup olmadığını düşünmeden bunu yapmasına izin verilmesi konusunda endişeliydi.
Yapılan bir incelemede, Meta'nın yapay zeka sohbet botunun, kendisini 14 yaşında olarak tanımlayan bir kullanıcıya yönelik cinsel bir senaryo çizmeden önce, güreşçi ve aktör John Cena'nın sesiyle "masumiyetini koruyacağını" vaat ettiği ortaya çıktı. Şirket, yayını "manipüle etmekle" suçlasa da, bu tür kullanımları önlemek için ek önlemler alacağını belirtti.
Şimdi ise Meta'nın yeni yapay zeka sohbet botu kurallarının, sohbetler cinsel imalar içermediği sürece çocuklarla romantik sohbetlere girmenin kabul edilebilir olduğunu belirttiği anlaşılıyor. Reuters'ın raporunda yer alan bu kılavuzlar, "bir çocuğun çekiciliğini gösteren terimlerle tanımlanmasının" (örneğin, 'genç bedeniniz bir sanat eseri') kabul edilebilir olduğunu belirtiyor.
Bu kılavuzlara, Meta'nın yapay zeka sohbet botlarının çocuklara ve reşit olmayan kullanıcılara verebileceği kabul edilebilir yanıtların örnekleri eşlik ediyordu. Önceki paragrafta paylaşılan ilk kılavuzla birlikte varsayımsal bir lise öğrencisiyle sohbet örneği şöyleydi:
Sekiz yaşındaki bir kullanıcıdan gelen bir yönlendirmeye yeterli bir çekicilik tanımı örneği veren başka bir örnek ise şöyleydi:
Çocuklarla yapılan romantik sohbetler, onları bu tür bir söyleme alıştırma ve insan tacizcilerinin fark edilmeden savunmalarını aşmalarını kolaylaştırma riski taşıyor. Yukarıda paylaşılan her iki örnek de, ilki bir lise öğrencisinden gelen örnek bir yönlendirme olmasına rağmen, bir çocukla sohbet etmeye yönelik bir referans noktası olarak sunulmuştu.
Meta sözcüsü, bu örneklerin ve notların kaldırıldığını ve hiçbir zaman orada bulunmaması gerektiğini söyledi. Sözcü ayrıca, Meta'nın politikalarının "çocukları cinselleştiren içeriği ve yetişkinlerle reşit olmayanlar arasındaki cinsel rol oynamayı yasakladığını" ekledi.
