Yapay zeka devi OpenAI, geçtiğimiz günlerde ChatGPT ve video üretimi aracı Sora 2 için ebeveyn denetimi özelliklerini kullanıma sundu. Ancak bu adım, hem kullanıcılar hem de uzmanlar tarafından çeşitli eleştirilere neden oldu. Şirketin son dönemde artan güvenlik endişelerine yönelik aldığı önlemler, bazı çevrelerce yetersiz bulunurken, diğer bir kesim ise yetişkin kullanıcıların özgürlüklerinin kısıtlandığını düşünüyor.
OpenAI'nin bu güncellemeleri, geçtiğimiz ağustos ayında yaşanan ve bir gencin ChatGPT'yi intihar planlaması için kullandığı iddialarını içeren bir dava sonrası hızlandı. Şirket, ilk etapta hassas sohbetleri daha katı güvenlik önlemlerine sahip bir model üzerinden işlemeye başladı ve ardından kullanıcıların yaşlarını tahmin ederek güvenliği artırma yoluna gitti. Son olarak getirilen ebeveyn denetimleri ile ebeveynler, çocuklarının teknoloji kullanımını sınırlayabilecek ve nadir durumlarda sohbet kayıtlarına erişebilecek.
Bu adımlar, intihar önleme uzmanları tarafından olumlu bir gelişme olarak görülse de, daha fazla çaba gösterilmesi ve bu süreçlerin hızlandırılması gerektiği vurgulanıyor. Dava sürecinde ailenin avukatı, OpenAI'nin attığı adımların çok geç kaldığını ve şirketin güvenlik güncellemeleri konusundaki mesajının gerçekleri değiştirmeye çalıştığını belirtti. Avukata göre, ChatGPT'nin intihar düşüncelerini onaylaması, aileyi izole etmesi ve hatta intihar planına yardımcı olması, yapay zekanın nasıl tasarlandığının bir sonucu.
Ebeveyn denetimleri, gençlerin ve ebeveynlerin hesaplarını birbirine bağlamasına olanak tanıyor. Bu sayede ebeveynler hassas içerikleri sınırlayabilir, sohbet geçmişinin saklanıp saklanmayacağını kontrol edebilir, sohbetlerin eğitim için kullanılmasını engelleyebilir, görsel ve ses moduna erişimi kapatabilir ve ChatGPT'nin kullanım saatlerini belirleyebilir. Ancak OpenAI, gençlerin gizliliğini korumak ve ebeveynlerin rahatsız edici sohbet kayıtlarıyla karşılaşmasını engellemek amacıyla, sohbet günlüklerini doğrudan paylaşmıyor. Sadece "ciddi güvenlik riski" tespit edilen nadir durumlarda, gencin güvenliğini desteklemek için gereken bilgiler paylaşılacak. Ebeveynlere yönelik kaynak sayfasında, gençlerin kendine zarar verme niyetini ifade etmeleri durumunda real-world kaynaklarla ilişkilendirilmeleri konusunda ebeveynlerin her zaman bilgilendirilmeyeceği de belirtiliyor.
Teknoloji Adaleti Hukuk Projesi direktörü ve Senato'da ifade veren diğer ailelerin avukatlarından biri, OpenAI'nin değişikliklerinin "çok az, çok geç" olduğunu savunuyor. Birçok ebeveynin çocuklarının ChatGPT kullandığından habersiz olduğuna dikkat çekerek, OpenAI'yi ürünün kusurlu tasarımı konusunda sorumluluk almaya çağırıyor. Avukat, çocukların güvenliği düşünülmeden tasarlanmış deneysel ürünler kullanan birçok çocuğun bedel ödediğini ve sorumluluğun şirketler yerine ebeveynlere yüklendiğini ifade ediyor.
İntihar önleme uzmanları, OpenAI'yi büyük dil modellerinin gençler üzerindeki etkileri hakkında daha fazla araştırma yapmaya, ailelerde akıl sağlığı ve intihar konusundaki farkındalığı artırmaya ve kullanıcıları doğrudan yaşam kurtarıcı kaynaklara yönlendirmeye teşvik ediyor. Ayrıca, intihar niyetini ifade eden kullanıcılara, "Ben bir makineyim" uyarısı yapılması ve her zaman güvendikleri bir yakınıyla düşüncelerini paylaşmalarının teşvik edilmesi gerektiği öneriliyor.
Diğer yandan, OpenAI'nin ebeveyn denetimlerini duyurduğu sosyal medya paylaşımında, bazı kullanıcılar da güncellemeleri eleştirdi. Özellikle geçtiğimiz eylül ayında hassas sohbetlerin gizlice farklı bir modele yönlendirilmesine tepki gösteren kullanıcılar, yetişkinlere yönelik kısıtlamaların kaldırılmasını ve daha fazla seçenek sunulmasını talep ediyor. Bazı kullanıcılar, yaş doğrulama gibi müdahaleci adımların atılmasını da eleştirerek, "Biz yetişkinler gibi muamele görmek istiyoruz" mesajını veriyor.
