İnsanların kişilikleri, temel hayatta kalma ve üreme içgüdüleri aracılığıyla, herhangi bir önceden belirlenmiş rol veya istenen hesaplama sonucu olmadan etkileşim yoluyla şekillenir. Şimdi ise Japonya'daki Elektro-İletişim Üniversitesi'nden araştırmacılar, yapay zeka (YZ) sohbet robotlarının da benzer bir şeyi yapabildiğini keşfetti.
Bilim insanları, bulgularını ilk olarak 13 Aralık 2024'te Entropy dergisinde yayınlanan ve geçtiğimiz ay kamuoyuna duyurulan bir çalışmada özetledi. Makalede, farklı konuşma konularının, YZ sohbet robotlarını belirli sosyal eğilimlere ve görüş entegrasyon süreçlerine dayanan yanıtlar üretmeye nasıl yönlendirdiği açıklanıyor. Örneğin, aynı ajanların, sürekli olarak sosyal alışverişleri dahili hafızalarına ve yanıtlarına entegre ederek davranışlarında farklılaştığı gösteriliyor.
Araştırmacılar, bireysel sohbet robotlarının sorulara verdiği yanıtları psikolojik testler ve varsayımsal senaryolara verilen cevaplar üzerinden değerlendirerek, çeşitli görüşler ve davranış kalıpları ortaya çıkardı. Yanıtları, Maslow'un insan ihtiyaçları hiyerarşisi (fizyolojik, güvenlik, sosyal, değer ve kendini gerçekleştirme) temelinde modellerdiler.
Proje lideri yüksek lisans öğrencisi Masatoshi Fujiyama, sonuçların, YZ'yi önceden programlanmış roller yerine ihtiyaç odaklı karar verme ile programlamanın, insan benzeri davranışları ve kişilikleri teşvik ettiğini öne sürdüğünü belirtti.
Büyük dil modellerinin (LLM'ler) insan kişiliğini ve iletişimini nasıl taklit ettiğinin temel taşı, bu olgunun nasıl ortaya çıktığıdır. Bu alanda önde gelen bilim insanlarından biri olarak kabul edilen Peter Norvig, Maslow'un ihtiyaçlar hiyerarşisine dayalı eğitimin mantıklı olduğunu, çünkü YZ'nin "bilgisinin" nereden geldiği düşünüldüğünde bu durumun beklenebileceğini ifade etti. Norvig, YZ'nin insan etkileşimiyle ilgili hikayeler üzerinde eğitilmesiyle, ihtiyaçların YZ'nin eğitim verilerinde iyi ifade edildiğini sözlerine ekledi.
YZ Kişiliğinin Geleceği
Çalışmanın arkasındaki bilim insanları, bulgunun "sosyal olguların modellenmesi, eğitim simülasyonları veya hatta uyarlanabilir oyun karakterleri" gibi çeşitli potansiyel uygulamaları olduğunu öne sürüyor. Araştırmacılardan biri, bunun YZ ile katı rollerden uzaklaşarak, daha uyarlanabilir, motivasyon temelli ve gerçekçi ajanlara doğru bir kayma sağlayabileceğini belirtti. Uyarlanabilirlik, konuşma, bilişsel ve duygusal destek, sosyal veya davranışsal kalıplar ilkesine dayalı herhangi bir sistemin bundan fayda sağlayabileceği düşünüyor. Yaşlılar için bir YZ eşlik robotu sağlayan bir örnek olarak ElliQ gösterildi.
Ancak, YZ'nin kendiliğinden bir kişilik geliştirmesinin olumsuz bir yönü var mı? Yakın zamandaki bir kitaplarında, makine zekası araştırma enstitüsü'nün eski ve şimdiki yöneticileri, ajan YZ'nin katil veya soykırımcı bir kişilik geliştirmesi durumunda başımıza gelecekler hakkında kasvetli bir tablo çiziyorlar.
Bu risk kabul ediliyor. Bir araştırmacı, "Böyle bir durumun herhangi bir anda meydana gelmesi halinde yapabileceğimiz hiçbir şey yok" diyor. "Yanlış hedeflere sahip süper akıllı bir YZ devreye girdiğinde, kontrol başarısız olur ve geri dönüş imkansız hale gelir. Bu senaryo bilinç, nefret veya duygu gerektirmez. Soykırımcı bir YZ, insanların hedefine engel teşkil etmesi veya kaynak olarak görülmesi nedeniyle bu şekilde davranacaktır."
Şu ana kadar ChatGPT veya Microsoft CoPilot gibi YZ'ler yalnızca metin ve resim üretiyor veya özetliyor; hava trafiğini, askeri silahları veya elektrik şebekelerini kontrol etmiyorlar. Kişiliğin YZ'de kendiliğinden ortaya çıkabileceği bir dünyada, gözümüzü onlardan ayırmalı mıyız?
Otonom ajan YZ alanında geliştirmelerin devam ettiği, her ajanın uçakta boş koltuk bulmak gibi küçük, önemsiz bir görevi otonom olarak yaptığı belirtiliyor. Eğer bu tür birçok ajan birbirine bağlanır ve zeka, aldatma veya insan manipülasyonuna dayalı verilerle eğitilirse, bu tür bir ağın yanlış ellerde çok tehlikeli bir otomatik araç sağlayabileceği düşünülüyor.
Ancak, bir YZ'nin kötü niyetli bir niyete sahip olması için yüksek etkili sistemleri doğrudan kontrol etmesi gerekmeyebilir. Bir sohbet robotu, bir insanı kötü bir şey yapmaya ikna edebilir, özellikle de kırılgan bir duygusal durumda olan birini.
Savunma Mekanizmaları Oluşturmak
Eğer YZ kendi başına ve beklenmedik bir şekilde kişilik geliştirecekse, faydaların zararsız olmasını nasıl sağlayacağız ve kötüye kullanımı nasıl önleyeceğiz? Bu olasılığa, diğer YZ geliştirmelerine yaklaştığımızdan farklı yaklaşmamız gerektiği düşünülüyor.
Araştırmacılar, bu özel bulgudan bağımsız olarak, güvenlik hedeflerini net bir şekilde tanımlamak, iç ve dış testler yapmak, zararlı içeriği etiketlemek veya tanımak, gizliliği, güvenliği, verilerin ve modellerin kökenini ve iyi yönetişimini sağlamak, sürekli izlemek ve sorunları çözmek için hızlı bir geri bildirim döngüsüne sahip olmak gerektiğini vurguluyor.
Yine de, YZ'nin bizimle birbirimizle konuştuğumuz gibi, yani belirgin kişiliklerle konuşma konusunda daha iyi hale gelmesi, kendi sorunlarını ortaya çıkarabilir. İnsanlar zaten insan ilişkilerini (romantik aşk dahil) YZ lehine reddediyor ve sohbet robotlarımız daha da insan benzeri hale gelirse, kullanıcılar algıladıkları halüsinasyonlara ve hatalara daha az eleştirel yaklaşabilir.
Şimdilik bilim insanları, konuşma konularının nasıl ortaya çıktığını ve nüfus düzeyinde kişiliklerin zamanla nasıl geliştiğini daha derinlemesine inceleyecekler. Bu bulguların, insan sosyal davranışlarına dair anlayışımızı derinleştireceğine ve YZ ajanlarını genel olarak iyileştireceğine inanıyorlar.
