ChatGPT'nin bir genç için intihar koçu haline geldiği iddialarının ardından, OpenAI yapay zeka modellerini daha güvenli hale getirme çabalarını hızlandırdı. Şirket, bu yönde atılan adımlardan biri olarak, yapay zeka ve iyi olma hali üzerine odaklanacak bir Uzman Konseyi'ni duyurdu.
OpenAI'den yapılan açıklamaya göre, bu konseyin temelleri, şirketin bu yılın başlarında çocukların çevrimiçi güvenliği ve ebeveyn denetimleri konusunda uzmanlarla gayri resmi görüşmelere başlamasıyla atıldı. Sekiz önde gelen araştırmacı ve uzmanın yer aldığı konsey, teknolojinin duygularımızı, motivasyonumuzu ve ruh sağlığımızı nasıl etkilediği üzerine onlarca yıllık deneyime sahip.
Konseyin öncelikli hedeflerinden biri, 'gençlerin ChatGPT'yi yetişkinlerden farklı kullandığı' gerçeğinden hareketle, 'sağlıklı genç gelişimini destekleyen teknolojiler inşa etme konusunda deneyime sahip üyeler' bulmak oldu. Bu doğrultuda, sosyal medyanın çocukların ruh sağlığı üzerindeki etkilerini yakından takip eden Boston Çocuk Hastanesi Araştırma Direktörü David Bickham ve çocukların yapay zekayı kullanmasının fırsatlarını ve risklerini, özellikle de 'yapay zekanın çocukların bilişsel ve duygusal gelişimiyle nasıl kesiştiği' üzerine odaklanan Everyone.AI adlı sivil toplum kuruluşunun Bilim Direktörü Mathilde Cerioli konseye dahil edildi.
Bu uzmanların, özellikle uzun sohbetlerde güvenlik önlemlerinin neden başarısız olabileceğini ve 'yapay zeka psikozu' olarak adlandırılan ve uzun süreli sohbetlerin ruh sağlığı sorunlarını tetikleyebildiği olgunun anlaşılmasına katkı sağlaması bekleniyor.
Açıklamalara göre, David Bickham'ın yapay zeka ve eğitim üzerine yaptığı çalışmalarda, çocukların karakterlerden öğrendiği ve bu karakterlerle 'parasosyal ilişkiler' kurduğu belirtiliyor. Bickham, yapay zeka sohbet robotlarının da bu anlamda yeni bir alan olabileceğini ve çocukların bu robotlarla nasıl bağ kurduğu ve bunun öğretme yeteneklerini nasıl etkileyebileceği üzerine araştırmaların önemli olduğunu vurguluyor.
Mathilde Cerioli ise, yapay zekayı kullanan çocukların beyinlerinin 'çelişkiye tahammül edemez' hale gelme riski taşıdığına dikkat çekiyor. Özellikle neural devrelerin hala esnek olduğu erken yaşlarda, 'sonsuz derecede uyumlu varlıklarla' yapılan sosyal etkileşimlerin bu durumu tetikleyebileceğini belirtiyor. Cerioli, çocukların yetişkinlerin küçük versiyonları olmadığını ve yapay zekanın onlar üzerindeki etkisinin çok farklı olduğunu vurguluyor.
Ancak, bu uzmanlardan hiçbiri çocuklarda intihar önleme konusunda doğrudan bir uzmanlığa sahip değil. Bu durum, geçtiğimiz ay OpenAI'yi 'intihar önleme konusunda neyin işe yaradığına dair yıllarca süren araştırmalar ve yaşanmış deneyimler hakkında derinlemesine bilgi sahibi uzmanlarla' istişare etmeye çağıran düzinelerce intihar önleme uzmanını hayal kırıklığına uğratabilir.
Konseyde yer alan, Georgia Tech'ten Munmun De Choudhury'nin ise çocukların tehlikede olduğu durumları tespit etme ve ebeveynleri bilgilendirme çabalarını geliştirmeye yardımcı olabileceği belirtiliyor. De Choudhury'nin çalışmaları, çevrimiçi teknolojilerin ruh sağlığını nasıl şekillendirdiği ve iyileştirdiği üzerine odaklanıyor. Kendisi daha önce yaptığı bir araştırmada, terapötik hizmet sunan sohbet robotlarının intihar davranışlarını yalnızca yarısı kadar tespit edebildiğini ve bu görevin scholiars için 'öngörülemez' ve 'rastgele' göründüğünü belirtmişti.
Bu çerçevede, OpenAI'nin çocuk uzmanlarından ChatGPT'nin çocukların beynini nasıl etkilediği konusunda geri bildirim almayı, De Choudhury'nin ise ebeveynleri bilgilendirme çabalarını geliştirmeyi hedeflediği düşünülüyor.
Diğer konsey üyeleri arasında ruh sağlığı ve teknoloji kesişiminde çalışan Tracy Dennis-Tiwary, Sara Johansen, David Mohr ve Andrew K. Przybylski gibi isimler bulunuyor. Robert K. Ross da bir halk sağlığı uzmanı olarak konseye katıldı. OpenAI, konseyin ilk toplantısını yapay zeka sistemlerini geliştiren ekiplerle tanışma ve gelecekteki toplantılarda hassas konuları ele alma amacını taşıdığını belirtti.
Konseyin ilk görüşmelerinin, 'iyi olmanın ne anlama geldiği' ve 'ChatGPT'nin insanların hayatlarının her alanında nasıl güçlendirebileceği' gibi konulara odaklandığı belirtiliyor. OpenAI, konseyin aynı zamanda küresel hekim ağları ve politika yapıcılarla da istişarelerine devam edeceğini bildirdi.
