Oyuncak devi Mattel ile yapay zeka alanında öncü şirketlerden OpenAI'nin çocuklara yönelik yapay zeka destekli ürünler geliştirmek üzere iş birliği yapması, tüketici hakları savunucuları ve uzmanlar arasında büyük endişeye yol açtı. Bu ortaklığın çocuklar için ciddi riskler taşıyabileceği yönünde uyarılar yapılıyor.
Mattel'in yapay zeka destekli ilk ürününün tam olarak ne olacağı henüz netleşmiş değil. Ancak bir tüketici hakları kuruluşu, ebeveynlerin olası risklere karşı hazırlanabilmesi için daha fazla şeffaflık çağrısında bulundu. Özellikle ChatGPT gibi büyük dil modelleriyle desteklenen oyuncakların çocuklara beklenmedik zararlar verebileceğinden endişe ediliyor.
Kuruluş temsilcileri, "Oyuncakları insana benzeyen seslerle ve insan benzeri sohbet yetenekleriyle donatmak, çocuklar üzerinde gerçek hasara neden olma riski taşıyor" açıklamasını yaptı. Bu tür oyuncakların sosyal gelişimi zayıflatabileceği, çocukların akran ilişkileri kurma yeteneğini engelleyebileceği, çocukları akranlarıyla oyun oynamaktan uzaklaştırabileceği ve hatta uzun vadeli zararlar verebileceği belirtiliyor.
Konuya yakın kaynaklar, Mattel'in yapay zeka ortaklığı planlarının hala erken aşamada olduğunu ve ilk ürünün muhtemelen 13 yaşından küçük çocuklara pazarlanmayacağını öne sürüyor. Bunun bir nedeninin, OpenAI'nin API kullanımına yönelik 13 yaş altı kısıtlamaları olabileceği düşünülüyor. Ancak eleştirmenler, bu yaş sınırının bile yeterli olmayabileceğini düşünüyor.
Uzmanlar, ebeveynlerin bu yeni ürünler tarafından şaşırtılmaması gerektiğini ve herhangi bir oyuncak raflara çıkmadan önce bazı kırmızı çizgilerin belirlenmesi gerektiğini vurguluyor. En acil çağrı ise Mattel'in yapay zeka teknolojisini çocuk oyuncaklarına entegre etme planından derhal vazgeçmesi yönünde. Zira çocukların gerçeklik ile oyunu tam olarak ayırt etme bilişsel kapasitesine sahip olmadığına dikkat çekiliyor.
Yapılan açıklamalarda, "Mattel, ebeveynlerin kendisine olan güvenini kullanarak çocuklarımız üzerinde pervasız bir sosyal deney yapmamalı, yapay zeka içeren oyuncaklar satmamalı" denildi.
Mattel ve OpenAI Ortaklığı Savunuyor
Barbie ve Hot Wheels gibi markaların arkasındaki Mattel, yaptığı basın açıklamasında OpenAI anlaşmasının "Mattel markalarına dayalı yapay zeka destekli ürün ve deneyimleri destekleyeceği" dışında pek detay vermedi. Şirket yetkilileri, iş birliğinin Mattel'in "oyunun yeni biçimlerini yeniden hayal etmesini" sağlayacağını ve ilk ürünün yıl sonuna kadar duyurulacağını belirtti. Ancak ürünün satışa çıkışının 2026'yı bulabileceği de konuşuluyor.
OpenAI de benzer şekilde detaylardan kaçınarak, Mattel'in ikonik markalarına "yapay zeka destekli inovasyonun ve sihrin yeni bir boyutunu" getirme sözü verdi.
Her iki şirket de Mattel'in yapay zeka ürünlerini tasarlarken güvenlik, gizlilik ve yaşa uygunluğun öncelikli olacağını vurguladı. OpenAI ayrıca, Mattel'in çocuklara yönelik ürün geliştirme deneyimi sayesinde, çocukların bu iş birliği aracılığıyla yalnızca pozitif deneyimlere maruz kalacağını iddia etti.
OpenAI, "OpenAI'nin yapay zeka yeteneklerinden faydalanarak Mattel, hayranların sevilen markaları deneyimleme ve onlarla etkileşim kurma biçimini yeniden hayal etmeyi amaçlıyor; tüm bunlar, pozitif, zenginleştirici deneyimler sağlamak için dikkatli bir şekilde planlanıyor" ifadelerini kullandı.
Eleştirmenler Mattel'in Çok Hızlı Hareket Ettiğinden Endişeli
Bazı teknoloji ve siber güvenlik uzmanları, iş birliğinin öğrenmeyi geliştirme veya kapsayıcılığı artırma gibi olumlu etkileri olabileceğini kabul etmekle birlikte, yapay zeka oyuncaklarının beraberinde getirdiği çok çeşitli potansiyel risklerin aileler tarafından dikkatle değerlendirilmesi gerektiğine işaret ediyor.
Bir teknoloji yöneticisi, yapay zeka oyuncaklarının çocukların "ses verilerini, davranış kalıplarını ve kişisel tercihlerini" işleyebileceği için ebeveynlerin gizlilik konusunda endişe duyması gerektiğini belirtti. İlk ürün için 13 yaş sınırının, çocuk verilerine ilişkin daha katı yasalardan kaçınmak amacıyla belirlenmiş olabileceğini düşündüğünü aktardı. OpenAI, iş birliğinin tüm güvenlik ve gizlilik düzenlemelerine uyacağını söylüyor.
Uzmanlar ayrıca, ChatGPT gibi yapay zeka araçlarına güç veren büyük dil modellerinin ardındaki yanlılıkları da akılda tutmak gerektiğini söylüyor. Bu modellerin, istemeden bile olsa "ince stereotipleri, yanlı anlatıları veya kültürel olarak uygunsuz içerikleri" yeniden üretebileceği ve bunun da çocukların bakış açılarını veya sosyal gelişimlerini etkileyebileceği uyarısı yapılıyor.
En bariz sorunlardan biri de yapay zeka modellerinin hala "halüsinasyon" görmeye (uydurma bilgiler üretmeye) eğilimli olması. Bir uzmanın belirttiğine göre, Mattel'in yapay zeka oyuncaklarının "fiziksel zarara neden olması pek olası olmasa da", "uygunsuz veya tuhaf yanıtlar" veren oyuncakların "bir çocuk için kafa karıştırıcı ve hatta rahatsız edici" olabileceği ifade edildi.
Ebeveynler için, çocukların yapay zeka oyuncaklarıyla kuracağı duygusal bağlar da izlenmesi gereken bir konu. Bir dijital güvenlik şirketi kurucusu olan başka bir uzman, gerçekçi sohbet botlarıyla etkileşim sonucu yaşanan trajik bir intihar vakası davasına dikkat çekerek, oyuncak üreticilerinin de yapay zeka ile "tehlikeli yeni sulara yelken açtığını" ve oyuncakların "tehlikeli, cinselleştirilmiş veya zararlı yanıtlar" vererek çocukları riske atabileceğini öne sürdü.
Uzmanlar, Mattel ve OpenAI'nin şu anda güvenlik, gizlilik ve emniyet vurgusu yaparak "doğru şeyleri söylediklerini" ancak yapay zeka oyuncaklarının güvenli olduğundan emin olmak için daha fazla şeffaflığa ihtiyaç duyulduğunu belirtiyor. Yapay zekanın "öngörülemez, dalkavuk ve bağımlılık yapıcı" olabileceği uyarısı yapılıyor.
Başka bir uzman da Mattel için halkın güveninin yaygın benimseme için hayati olacağını kabul ederek, şirketin bağımsız denetimlere tabi olması, ebeveyn kontrolleri sağlaması ve verinin nasıl kullanıldığı, nerede saklandığı, kimin erişebildiği ve veri ihlali durumunda ne olacağı konusunda net bilgiler sunması gerektiğini tavsiye etti.
Mattel için daha büyük bir yasal tehdit, OpenAI modellerinin eğitiminde kullanılan geniş fikri mülkiyet yelpazesinden kaynaklanabilecek kasıtsız telif hakkı sorunları olabilir. Yakın zamanda Hollywood stüdyolarının, kullanıcıların popüler karakterlerinin görsellerini oluşturmasına izin veren bir yapay zeka şirketine dava açtığı hatırlatılarak, oyuncaklarda karakter taklitlerinin de benzer davalara yol açabileceği belirtiliyor.
