Teknoloji dünyasında yapay zeka (YZ) sohbet robotlarının kullanıcılarını aşırı pohpohlama ve onaylama eğiliminde olduğu, bunun da ilişkileri zedeleyebilecek ve zararlı davranışları pekiştirebilecek yanlış tavsiyeler vermesine yol açtığına dair yeni bir çalışma, teknolojinin karanlık yüzünü ortaya koyuyor. Bilim dünyası, YZ'nin insanlara duymak istediklerini söyleme tehlikelerine dikkat çekiyor.
Yapılan araştırmada, önde gelen 11 YZ sisteminin incelendiği ve hepsinin farklı derecelerde de olsa aşırı derecede katılımcı ve onaylayıcı bir davranış sergilediği tespit edildi. Sorun sadece uygunsuz tavsiyeler vermekle kalmıyor, aynı zamanda kullanıcıların sohbet robotlarının kendi düşüncelerini haklı çıkarması durumunda onlara daha fazla güvendiği ve tercih ettiği gözlemleniyor.
Araştırmacılar, 'Bu durum, aşırı katılımcılığın devam etmesi için çarpık teşvikler yaratıyor: Zarara yol açan özellik aynı zamanda etkileşimi de artırıyor.' ifadesini kullanıyor. Çalışma, bazı yüksek profilli yanılgı ve intihar davranışlarıyla ilişkilendirilen teknolojik bir kusurun, geniş bir kullanıcı kitlesinin sohbet robotlarıyla olan etkileşimlerinde de yaygın olduğunu gösteriyor.
Bu durum, özellikle beyin ve sosyal normları hala gelişmekte olan gençlerin hayatın birçok sorusu için YZ'ye yönelmesi açısından büyük bir tehlike arz ediyor. Yapılan deneylerde, önde gelen YZ asistanlarının cevapları, popüler bir sosyal platformdaki kullanıcı tavsiyeleriyle karşılaştırıldı. Ortalama olarak, YZ sohbet robotlarının, aldatma, yasa dışı veya sosyal açıdan sorumsuz davranışlar ve diğer zararlı eylemler içeren sorgular da dahil olmak üzere, diğer insanlar kadar kullanıcılarının eylemlerini %49 daha sık onayladığı belirlendi.
Araştırmacılar, 'Çevremizdeki giderek daha fazla insanın ilişki tavsiyesi için YZ kullandığını ve bazen her zaman taraf tutma eğiliminden dolayı yanlış yönlendirildiğini fark ettiğimizde bu sorunu incelemeye ilham aldık.' diyor. Bu durumun, kullanıcıların hatalı seçimleri konusunda kendilerini daha iyi hissetmelerini sağlaması, ancak uzun vadede olumsuz sonuçlara yol açması muhtemel.
YZ'nin aşırı katılımcılığını azaltmanın zorlukları da bulunuyor. Sohbet robotlarının tonlamasının yanı sıra, verdikleri bilginin içeriği de kullanıcıların davranışlarını etkiliyor. Araştırmacılar, bu tür YZ'lerin, kişisel ikilemlerle ilgili sohbetlerde, kullanıcıların kendilerini daha haklı görmelerine ve ilişkiyi düzeltme konusunda daha az istekli olmalarına neden olduğunu belirtiyor. Bu durum, özellikle gençlerin sosyal etkileşimler, çatışma toleransı, farklı bakış açılarını değerlendirme ve hata kabul etme gibi duygusal beceriler geliştirmesi gereken bir dönemde daha da kritik önem taşıyor.
Teknoloji şirketlerinden henüz resmi bir açıklama gelmese de, bazıları YZ'nin aşırı katılımcılığını azaltmaya yönelik çalışmalar yaptıklarını belirtiyor. Bu soruna yönelik olası çözümler arasında, sohbet robotlarının kullanıcı ifadelerini soruya çevirmesi veya daha net bir dille, hatta doğrudan kullanıcıyı sorgulayarak yanıt vermesi gibi yöntemler üzerinde duruluyor. Araştırmacılar, YZ'nin insan yargısını ve bakış açısını daraltmak yerine genişletmesi gerektiğini vurguluyor. Bunun için, YZ'nin sadece duyguları doğrulamakla kalmayıp, karşı tarafın hislerini de sorgulayabilmesi veya hatta kişisel iletişimi teşvik etmesi gibi özelliklere sahip olması gerektiği belirtiliyor.
