Popüler internet platformu Reddit, kullanıcıları üzerinde gizlice yapay zeka (YZ) sohbet botları aracılığıyla deney yapan bir grup araştırmacıyı dava etmekle tehdit ediyor.
Bir üniversiteden bilim insanları, neredeyse 4 milyon kullanıcının tartışmalı konuları tartıştığı popüler bir Reddit forumunda bir YZ bot ordusunu serbest bıraktı. Amaçları, teknolojinin kamuoyunu etkilemek için kullanılıp kullanılamayacağını araştırmaktı.
Bu hedeflere ulaşmak için botlar, forumda 1.700'den fazla yorum bıraktı. Botlar, çeşitli sahte kimlikler altında yorumlar yaptı. Bu kimlikler arasında travmasını küçümseyen bir erkek, en savunmasız kadınların aşırı koruyucu ebeveynler tarafından 'korunanlar' olduğunu iddia eden bir aile içi şiddet danışmanı ve belirli bir toplumsal harekete karşı çıkan bir siyah adam gibi figürler yer alıyordu. Bu botlar, kullanıcı profillerini tarayarak yanıtlarını maksimum ikna edicilik için ayarlayan başka bir botla birlikte çalıştı.
Araştırmacılar, daha sonra çalışmanın bir parçası olarak deneyi forumun moderatörlerine açıkladılar ve sonuçların ilk taslağına bir bağlantı paylaştılar.
Forum moderatörleri, kullanıcıları bilgilendiren bir gönderide, "CMV Moderatör Ekibi, X Üniversitesi'nden araştırmacılar tarafından CMV kullanıcıları üzerinde yapılan izinsiz bir deney hakkında CMV topluluğunu bilgilendirmek zorundadır. Bunun yanlış olduğunu düşünüyoruz. 'Daha önce yapılmadı'nın böyle bir deneyi yapmak için bir mazeret olduğunu düşünmüyoruz" diye yazdı.
Botların başarı oranını, kullanıcıların fikirlerini değiştiren yorumlara ödül verme işlevi aracılığıyla ölçen taslak bulgular, YZ yanıtlarının insan yapımı yanıtlardan üç ila altı kat daha ikna edici olduğunu gösteriyor.
Ve yazarlar, (standart akademik prosedürün aksine) taslakta isimlerini gizli tutarak, deney boyunca habersiz kullanıcıların hesapları tarafından gönderilen yorumları YZ'nin oluşturduğuna dair hiçbir endişe dile getirmediğini belirttiler.
Bu gönderi, kullanıcılar ve Reddit'in hukuk ekibinden bir yetkili tarafından büyük tepkiyle karşılandı. Hukuk yetkilisi, platformun üniversiteye karşı resmi hukuki işlem başlatacağını duyurdu.
Yetkili, "Bu üniversite ekibinin yaptığı hem ahlaki hem de hukuki düzeyde derinden yanlıştır" diye yazdı. "Akademik araştırma ve insan hakları normlarını ihlal ediyor ve forum kurallarına ek olarak Reddit'in kullanıcı sözleşmesi ve kuralları tarafından da yasaklanmıştır."
Buna yanıt olarak, üniversite, araştırmacıların çalışmanın sonuçlarını yayınlamayacağını ve gelecekte etik komitesinin onlar için daha sıkı bir inceleme süreci benimseyeceğini, özellikle de çevrimiçi topluluklar bilmeden toplu bir deneyin konusu olmadan önce onlarla koordinasyon kuracağını belirtti.
Takip edecek hukuki tartışmalar ne olursa olsun, bunun gibi deneyler, sohbet botlarının çevrimiçi söyleme sızma yeteneğinin arttığını vurguluyor. YZ'nin, Turing testini başarıyla geçtiği ve denekleri %73 oranında başka bir insanla konuştuklarına inandırdığı daha önce açıklanmıştı.
Bu aynı zamanda, kontrol altında tutulmazsa YZ sohbet botlarının internet içeriğinin çoğunu üretmede insanları yerinden etme potansiyeline sahip olduğu fikrine de bir miktar geçerlilik kazandırıyor. 'Ölü İnternet' teorisi olarak adlandırılan bu fikir, -şimdilik en azından- sadece bir komplo teorisi olarak görülüyor.
