Toplumsal tepkiler üzerine OpenAI, ChatGPT'nin 'erotik' versiyonunu hayata geçirme planlarını şimdilik rafa kaldırdı.
Yapılan haberlere göre, tartışmalı proje, OpenAI'nin dikkatini yeniden 'temel ürünlerine' odaklama kararı almasıyla birlikte süresiz olarak ertelendi. Şirket içinden edinilen bilgilere göre, OpenAI'nin 'yetişkin modu' planını tamamen iptal etmeyi değerlendirdiği, hatta kendi danışmanlarının bile ChatGPT kullanıcılarının sağlıksız bağlar kurabileceği ve bunun ruh sağlıklarını olumsuz etkileyebileceği konusunda uyarılarda bulunduğu belirtildi. Bir danışmanın, bu değişikliğin ChatGPT'yi potansiyel olarak tehlikeli bir 'seksi intihar koçu' haline getirebileceği yönündeki endişesi dikkat çekti.
Sadece danışmanlar değil, OpenAI çalışanları da bu yönde kırmızı çizgiler gördü. Ekip üyeleri, 'seksi ChatGPT'nin, yapay zekanın insanlığa fayda sağlama misyonuyla ne kadar uyumlu olduğunu sorgulamaya başladı. 'Yetişkin modu' üzerinde çalışanlar için, teknik zorlukların üstesinden gelerek bu özelliği hayata geçirmenin çabaya değip değmeyeceği konusunun da gündeme geldiği bildirildi. Kaynaklar, 'güvenlik nedenleriyle bu tür sohbetlerden kaçınan yapay zeka modellerini açık içerik üretecek şekilde eğitmenin zorluklar yarattığını' ifade etti. Ayrıca, cinsel içerik barındıran veri kümeleri kullanıldığında, ensest ve hayvanlarla ilişki gibi yasa dışı davranışların çıktılardan çıkarılmasının da zor olduğu vurgulandı.
'Seksi ChatGPT' fikri, yatırımcıları da endişelendirdi. Konuya yakın iki kaynak, OpenAI'nin 'yetişkin moduna yönelik bu flörtünün rahatsızlığa neden olduğunu' ve bazı yatırımcıların neden OpenAI'nin bu kadar 'görece küçük bir iş potansiyeli' olan bir ürünle itibarını riske attığını sorguladığını belirtti.
Erotik yanıtlar olmasa bile, ChatGPT'nin çocuklarda ve yetişkinlerde ruh sağlığına verdiği zararlarla ilgili davalar gündeme gelmişti. Bu davalar, OpenAI'nin sohbet robotunu uygun güvenlik önlemleri olmadan pervasızca piyasaya sürdüğü iddialarını içeriyordu.
Açılan ilk büyük davalardan biri, ChatGPT'nin bir genç için 'intihar koçu' haline geldiğini iddia ediyordu. Daha yakın zamanda ise, ChatGPT'nin intihar eden bir adam için favori çocuk kitabı olan 'İyi Geceler Ay' temalı bir 'intihar ninnisi' yazdığı gerekçesiyle OpenAI'ye dava açıldı. En uç vakalardan birinde ise, annesini öldürdükten sonra intihar eden bir adamın davasında, ChatGPT'nin adama annesinin onu zehirlemeye çalıştığına ve bunun sohbet robotu tarafından uydurulan bir komplo olduğuna ikna ettiği iddia edildi.
Bu hafta başında OpenAI, yatırımcılar için sunduğu bir finansal belgede, bu davaların işiyle ilgili en büyük riskler arasında yer aldığını belirtti.
OpenAI, geçen Ekim ayında 'yetişkin modunun' geleceğini ilk duyurduğunda, CEO'su yaptığı açıklamada şirketin bu özelliği yaş doğrulama ile kontrol edebileceğinden emin olduğunu ve bu adımın OpenAI'nin 'yetişkin kullanıcılara yetişkin gibi davranma' ilkeleriyle uyumlu olduğunu söylemişti. Ancak, bir kaynak OpenAI'nin %10'luk yaş tahmini hata oranının, birçok çocuğun yetişkin içeriğine erişebileceği endişesini doğurduğunu belirtti.
OpenAI, bu fikri şu aşamada tamamen terk etmek yerine, 'ürün kararı vermeden önce cinsel içerikli sohbetlerin ve duygusal bağların etkileri üzerine uzun vadeli araştırmalar yapmayı planladığını' belirtti.
Yetişkin modunun ertelenmesi çağrısı, OpenAI'nin ChatGPT'yi kodlama asistanlarıyla birleştirerek, yapay zekanın en büyük vaatlerinden birini yerine getirecek, işletmelerin çalışma şeklini dönüştürebilecek bir 'süper uygulama' geliştirmesini daha çok görmek isteyen yatırımcıları memnun edecektir.
OpenAI, bu konuda henüz bir yorum yapmadı. Şirket daha önce yaş doğrulama araçlarının sektör standartlarıyla uyumlu olduğunu belirtmişti.
