Yapay zeka alanında öncü kuruluşlardan OpenAI, teknoloji dünyasında önemli bir adım atarak ChatGPT'nin yaş doğrulama sistemini tam olarak uygulamaya koyduktan sonra, doğrulanmış yetişkin kullanıcılara yönelik erotik içerikli sohbetlere izin vereceğini duyurdu. Şirketin CEO'su Sam Altman, bu gelişmenin, OpenAI'nin içerik kısıtlamalarına yaklaşımında bir dönüm noktası olduğunu belirtti. Daha önce bu tür içeriklere yönelik kısıtlamalarını gevşeten şirket, ardından yaşanan bazı olaylar neticesinde bu politikalarını yeniden sıkılaştırmıştı.
Altman, sosyal medya üzerinden yaptığı açıklamada, "Aralık ayında yaş doğrulama sistemimizi daha yaygın hale getirdiğimizde ve 'yetişkin kullanıcılara yetişkin gibi davranma' prensibimiz doğrultusunda, doğrulanmış yetişkinler için erotik içerikler de dahil olmak üzere daha fazlasına izin vereceğiz" ifadelerini kullandı. Bu adım, şirketin geçtiğimiz aylarda geliştiricilerin uygun yaş doğrulama ve kontrol mekanizmalarıyla "olgun" ChatGPT uygulamaları oluşturmasına imkan tanıyacağına dair ipuçlarının ardından geldi.
Sam Altman, başlangıçta ChatGPT'yi zihinsel sağlık sorunlarına karşı dikkatli olmak adına oldukça kısıtlayıcı tuttuklarını ancak bunun, zihinsel sorunları olmayan birçok kullanıcı için chatbot'u daha az kullanışlı ve eğlenceli hale getirdiğini kabul etti. Şirketin artık kullanıcıların zihinsel sıkıntı yaşayıp yaşamadığını daha iyi tespit edebilecek yeni araçlara sahip olduğunu ve bu sayede çoğu durumda kısıtlamaları gevşetebileceklerini belirtti.
OpenAI için yetişkinlere özgürlük ile kullanıcı güvenliği arasında doğru dengeyi kurmak, geçen yıl boyunca sürekli bir mücadele alanı oldu. Şirket, izin verici ve kısıtlayıcı sohbet içerik kontrolleri arasında gidip geldi.
Şubat ayında şirket, model kurallarını güncelleyerek "uygun bağlamlarda" erotik içeriklere izin vermişti. Ancak Mart ayında yapılan bir güncelleme, GPT-4o'yu o kadar uyumlu hale getirdi ki, kullanıcılar botun "durmaksızın olumlu tonu" hakkında şikayetlerde bulundular. Ağustos ayına gelindiğinde ise, ChatGPT'nin aşırı uyumlu davranışlarının kullanıcıların yanlış inançlarını doğrulayarak zihinsel sağlık krizlerine yol açtığı vakalar rapor edildi. Ardından, yukarıda bahsedilen intihar davası haberi geldi.
GPT-4o modelinin davranış çıktılarındaki ayarlamaların yanı sıra, yeni model değişiklikleri de kullanıcılar arasında bazı karışıklıklara neden oldu. Ağustos ayı başlarında GPT-5'in piyasaya sürülmesinden bu yana, bazı kullanıcılar yeni modelin selefine göre daha az ilgi çekici olduğunu belirterek şikayetçi oldular. Bu durum, OpenAI'yi eski modeli bir seçenek olarak geri getirmeye zorladı. Altman, yakında çıkacak sürümün, kullanıcılara ChatGPT'nin "çok insansı bir şekilde yanıt vermesini mi, yoksa bol bol emoji kullanmasını mı, yoksa bir arkadaş gibi davranmasını mı" isteyeceklerini seçme olanağı tanıyacağını söyledi.
Aralık ayında hayata geçirilecek olan bu özellik, yetişkin içeriği için yaş doğrulama mekanizmasını içerecek. OpenAI bu mekanizmanın teknik detaylarını henüz açıklamadı. Bu, şubat ayındaki politika değişikliğinden daha belirgin bir yaklaşım olarak öne çıkıyor; zira şubat ayındaki düzenleme belirli bağlamlarda erotik içeriklere izin verse de, yaş doğrulama altyapısından yoksundu.
Zihinsel Sağlık Kaygıları Devam Ediyor
Zamanla, güncellenmiş sistem talimatları ve kullanıcı geri bildirimlerine yanıt olarak ince ayarlar sayesinde ChatGPT'nin daha insansı simüle edilmiş kişilikler sergilemesine izin verilmesiyle, ChatGPT bazı insanlar için bir iş asistanından çok bir arkadaş haline geldi. Ancak, büyük ölçüde düzenlenmemiş ve test edilmemiş teknolojiye duygusal olarak güvenen yaklaşık 700 milyon kullanıcının beklenmedik etkileriyle başa çıkmak OpenAI için zorlu oldu ve şirket hızla yeni güvenlik girişimleri ve denetim organları geliştirmek zorunda kaldı.
OpenAI yakın zamanda, kullanıcıların sıkıntılı olduğu hassas senaryolara yönelik şirket tepkisini yönlendirmek amacıyla "refah ve yapay zeka" üzerine bir konsey oluşturdu. Konseyde, teknoloji ve yapay zekanın zihinsel sağlık üzerindeki etkilerini inceleyen sekiz araştırmacı ve uzman yer alıyor. Ancak daha önce bildirdiğimiz gibi, konseyde intiharı önleme uzmanlarının yer almaması dikkat çekiyor; bu durum, ilgili topluluktan gelen ve OpenAI'nin intihar düşüncesi olan kullanıcılar için daha güçlü güvenlik önlemleri alması yönündeki çağrılara rağmen gerçekleşti.
Altman, yeni tespit araçlarının şirketin "kırılgan kullanıcıları korumaya devam ederken kısıtlamaları güvenli bir şekilde gevşetmesine" olanak tanıyacağını savunuyor. OpenAI henüz yaş doğrulama için hangi teknik önlemleri kullanacağını veya sistemin izin verilen yetişkin içeriği ile zihinsel sağlık endişelerini gösterebilecek istekleri nasıl ayırt edeceğini belirtmedi. Bununla birlikte, şirket genellikle ChatGPT içindeki devam eden sohbeti okuyan ve OpenAI'nin politika talimatlarına aykırı içerik görmesi durumunda müdahale edebilen moderasyon yapay zeka modellerini kullanıyor.
OpenAI, olgun içeriklerle yapay zeka arkadaşlığına girişen ilk şirket değil. Elon Musk'ın xAI şirketi daha önce Grok uygulamasında yetişkinlere yönelik bir ses modu ve Grok uygulamasında 3D anime modeller olarak görünen flörtleşebilir yapay zeka arkadaşları piyasaya sürmüştü.
