Araştırmacılar, yapay zeka (YZ) ajanlarından oluşan sürülerin yakın gelecekte sosyal medya platformlarını kitlesel olarak istila ederek yanlış bilgiler yayabileceği, kullanıcıları taciz edebileceği ve demokrasiyi baltalayabileceği konusunda uyarıyor.
Bilim dergisinde yayımlanan bir yoruma göre, bu "YZ sürüleri" insan davranışlarını taklit ederek tespit edilmekten kaçınacak ve çevrimiçi otantik bir hareket illüzyonu yaratacak şekilde bilgi savaşının yeni bir cephesini oluşturacak.
En sevdiğiniz çevrimiçi topluluğun daha önce tartışmaya açık olan bir konudaki görüşlerinin keskinleştiğini düşünün. İnsan içgüdüsü genellikle sürü "bilgeliğine" uymaktır. Ancak bu durumda, sürü gizlice bir YZ sürüsü tarafından yönetiliyor olabilir; bu sürü bilinmeyen bir birey, grup, siyasi parti, şirket veya devlet aktörü adına faaliyet gösterebilir.
Yorumun eş yazarlarından, Norveç'teki BI İşletme Okulu'nda iletişim profesörü Jonas Kunst, "Genel olarak konuşursak, insanlar uyumludur. Hepimiz bunu kabul etmek istemesek de, çoğu insanın yaptığına inanma eğilimimiz vardır. Bu, bu sürülerin nispeten kolay bir şekilde ele geçirilebileceği bir şeydir." dedi.
Araştırmacılar, sürüye kapılmayanları ise YZ'nin anlatısını baltalayan tartışmaları caydırmak için bir taciz aracı olarak kullanabileceğini savunuyor. Örneğin, sürü muhalif görüşlere sahip bir bireyi hedef alıp platformdan uzaklaştırmak için öfkeli bir kalabalığı taklit edebilir.
Araştırmacılar, YZ sürülerinin istilası için bir zaman çizelgesi vermiyor, bu nedenle ilk ajanların ne zaman akışlarımıza geleceği belirsiz. Ancak sürülerin tespit edilmesinin zor olacağını ve dolayısıyla ne ölçüde konuşlandırılmış olabileceğinin bilinmediğini kaydettiler. Birçoğu için sosyal medyadaki botların artan etkisinin belirtileri zaten açıkça görülüyor ve "ölü internet" komplo teorisi - yani çevrimiçi aktivite ve içerik üretiminin çoğundan botların sorumlu olduğu - son birkaç yıldır ilgi görüyor.
Sürüyü Güden Kuzu
Araştırmacılar, ortaya çıkan YZ sürüleri riskinin, dijital ekosistemlerimizdeki uzun süredir devam eden savunmasızlıklar nedeniyle daha da arttığını, bu savunmasızlıkların zaten "rasyonel-eleştirel söylemin aşınması ve vatandaşlar arasında paylaşılan bir gerçekliğin eksikliği" olarak tanımladıkları durumla zayıfladığını belirtiyor.
Sosyal medyayı kullanan herkes, buranın çok bölücü bir yer haline geldiğini bilir. Çevrimiçi ekosistem aynı zamanda, bilgisayar yazılımlarının komutlarını izleyen, tüm web trafiğinin yarısından fazlasını oluşturan insan dışı hesaplar olan otomatik botlarla da doludur. Geleneksel botlar genellikle aynı kışkırtıcı mesajı göndermek gibi basit görevleri tekrar tekrar gerçekleştirebilir. Yanlış bilgi yayabilir ve yanlış anlatıları şişirebilirler, ancak genellikle tespit edilmeleri oldukça kolaydır ve ölçekte koordine olmak için insanlara dayanırlar.
Buna karşılık, yeni nesil YZ sürüleri, popüler sohbet botlarının arkasındaki YZ sistemleri olan büyük dil modelleri (LLM'ler) tarafından koordine edilir. Bir LLM'nin yönetiminde, bir sürü çevrimiçi topluluklara sızıp, hafızayı ve kimliği koruyan farklı kişilik koleksiyonları kurarak uyum sağlayacak kadar sofistike olacaktır.
Kunst, "Bunu kendi kendine yetebilen, kendini koordine edebilen, öğrenebilen, zamanla adapte olabilen ve bu yolla insan savunmasızlıklarını sömürmede uzmanlaşan bir tür organizma olarak konuşuyoruz." dedi.
Bu toplu manipülasyon varsayımsal olmaktan uzaktır. Geçen yıl Reddit, dört milyon kullanıcının fikirlerini manipüle etmek için YZ sohbet botlarını kullandığı bir deneyle ilgili araştırmacılara karşı yasal işlem tehdidinde bulundu. Araştırmacıların ön bulgularına göre, sohbet botlarının yanıtları insan kullanıcıların yanıtlarından üç ila altı kat daha ikna ediciydi.
Bir sürü yüzlerce, binlerce veya hatta bir milyon YZ ajanı içerebilir. Kunst, sayının bilgi işlem gücüyle arttığını ve sosyal medya şirketlerinin sürüleri engellemek için getireceği kısıtlamalarla da sınırlı olacağını belirtti.
Ancak mesele sadece ajan sayısı değil. Sürülerin, ani bir yeni kullanıcı akışından şüphelenecekleri yerel topluluk gruplarını hedefleyebileceği belirtiliyor. Bu senaryoda, yalnızca az sayıda ajan konuşlandırılacaktır. Araştırmacılar ayrıca, sürülerin geleneksel botlardan daha sofistike olması nedeniyle, daha az sayıda bile daha fazla etkiye sahip olabileceklerini kaydettiler.
Yorumun baş yazarı, Norveç'teki teknoloji araştırma kuruluşu SINTEF'ten araştırmacı Daniel Schroeder, "Bu botlar ne kadar sofistike olursa, aslında o kadar azına ihtiyaç duyulur." dedi.
Yeni Nesil Botlara Karşı Korunma
Ajanlar, anlatılarının kabul görmesi için gereken süre boyunca her gün, 24 saat yayın yapabildikleri için gerçek kullanıcılarla olan tartışmalarda bir avantaja sahiptir. Araştırmacılar, "bilişsel savaşta", YZ'nin amansızlığının ve kalıcılığının sınırlı insan çabalarına karşı silah olarak kullanılabileceğini ekledi.
Sosyal medya şirketleri platformlarında gerçek kullanıcılar ister, YZ ajanları değil. Bu nedenle araştırmacılar, şirketlerin YZ sürülerine daha iyi hesap doğrulama yöntemleriyle yanıt vereceğini öngörüyorlar - kullanıcıların gerçek insanlar olduklarını kanıtlamalarını zorunlu kılarak. Ancak araştırmacılar, bu yaklaşımın, insanların hükümetlere karşı çıkmak için anonimlikten yararlandığı ülkelerde siyasi muhalefeti caydırabileceği ve gerçek hesapların da ele geçirilebileceği veya satın alınabileceği gibi sorunları da işaret ediyor. Yine de araştırmacılar, doğrulamayı güçlendirmenin YZ sürülerini konuşlandırmak isteyenler için daha zor ve maliyetli hale getireceğini kaydetti.
Araştırmacılar ayrıca, YZ sürülerini temsil edebilecek istatistiksel olarak anormal kalıplar için canlı trafiği taramak gibi başka sürü savunmaları ve akademik grupların, STK'ların ve diğer kurumların YZ sürü tehdidini inceleyebileceği, farkındalık yaratabileceği ve yanıt verebileceği bir "YZ Etki Gözlemevi" ekosisteminin kurulmasını önerdiler. Özünde, araştırmacılar bu sorunun seçimleri ve diğer büyük olayları bozmadan önce ele alınmasını istiyorlar.
Kunst, "Demokrasi için orantısız sonuçlar doğurabilecek gelecekteki bir gelişme hakkında makul bir kesinlikle uyarıyoruz ve bunun için hazırlanmaya başlamamız gerekiyor. İlk tipteki daha büyük olayların YZ sürüleri tarafından olumsuz etkilenmesini beklemek yerine proaktif olmalıyız." dedi.
