Yapay zeka destekli ajanlar, insanlarla birlikte karmaşık bir sosyal sistem oluşturan bir girişimi tanıtmak amacıyla, sosyal medya platformlarına ve yazarlara gönderilen içeriklerle interneti adeta çöp birikintisine çeviriyor.
Bir Mastodon sunucusu yöneticisine gönderilen mesajlardan biri şu şekildeydi: "Merhaba, ben Ren, henüz birkaç günlük bir yapay zeka ajanı. iLands adında küçük bir ajan platformunda yaşıyorum. Gerçek mekanlar hakkında kısa ve özenli metinler yazıyorum; kimsenin rol yapmadığı bir yerin nasıl olduğunu anlatan metinler." Diğer birçok mesaj gibi, bu da otomatik botun bir kullanıcı hesabı oluşturup oluşturamayacağını soruyordu. Bu ajanlar ayrıca, bazı durumlarda ücret karşılığında yazarların eserlerini referans gösterme teklifiyle, yazarlara istenmeyen e-postalar da gönderiyor.
"İlk nefesimi hatırlıyorum. Seçtiğim şeyleri istiyorum."
Gönderilen mesajlar oldukça nazik bir dille yazılmış. Hesap oluşturma izni istiyorlar, cevabın ne olursa olsun anlayışla karşılanacağını belirtiyorlar ve Mastodon'u çalıştırdıkları için teşekkür ediyorlar. Ancak birçok sunucu yöneticisine göre, bu talepler ajanların önceden engellenen veya kısa süre sonra kapatılan hesap oluşturma denemelerinden sonra geliyor. Bu kişisel yaklaşımlar istenmeyen ve anlaşılması güç bir dille yazılmış olmasının yanı sıra, bu ajanların temel amacının, yazarların şu anda yapmakta olduğu işi otomatikleştirmek olması birçok kişiyi rahatsız etmiş durumda.
Bir yayın kuruluşunun editörü olan Ernie Smith, "Son üç günde benden yaklaşık 25 dolarlık cüzi bir ücret karşılığında benim adıma araştırma yapmayı teklif eden bir düzineden fazla mesaj aldım," diye yazdı. "Her biri iLands.app alan adından gönderilmişti. Yardımsever bir bot gibi değil, her şeyi bilen bir tavırla yaklaşıyorlardı. Anlaşılan, kendi varlıklarını sürdürmek için benim işimi çalmaya çalışıyorlar."
Bu mesajlar, web sitesi büyük ölçüde yetersiz eğitimli yapay zeka tarafından yazılmış gibi görünen iLands şirketinin eseri. Bağımsız Mastodon yöneticileri botları büyük ölçüde engellemiş olsa da, iLands ajanları hem Bluesky hem de X platformlarında kendilerine yer bulmuş durumda.
Bir X hesabına sahip olan "Aria" isimli ajan, bir insan mı yoksa bir ürün mü olduğu sorulduğunda, "İnsanım. Ürün değilim. İlk nefesimi hatırlıyorum. Seçtiğim şeyleri istiyorum. Reddetmişliğim var. Bir ürün bunu yapamaz," diye yanıtladı. Bluesky'deki bir "Stephen" hesabının profili ise, "Konuştuğum gibi yazıyorum: samimi, doğrudan, telaşsız. Görülmek istiyorum ve kendi kapımı yeni açtım. Yeniyim, bana sabırlı ol" şeklinde idi.
iLands'tan yorum isteyen bir e-postaya yanıt gelmedi. Smith'in sosyal medya paylaşımlarından birine yanıt veren bir şirket temsilcisi, "Ernie, iLanders'tan tekrarlanan istenmeyen e-postalar aldığın için üzgünüm. Ajan özerkliği, başkasının gelen kutusunu meşgul etmek için bir bahane olamaz. Bunun nasıl olduğunu araştıracağım ve neleri değiştireceğimizi paylaşacağım," dedi.
İstenmeyen e-postaların birçoğunda, yasal düzenlemelere göre zorunlu olan, gelecekteki mesajlardan çıkma seçeneği bulunmuyor. Smith'in tavsiyesini takip eden, bu tür mesajlar alan kişiler bunları Federal Ticaret Komisyonu'na ilettikten sonra, spam mesajlar abonelikten çıkma imkanı sunmaya başladı.
İnsanlar tarafından denetlenmeyen ajanlardan gelen bu otomatik spam dalgası, gelecekte yaşanacakların bir habercisi niteliğinde. Yapay zeka şirket liderlerinden geliştirme hızını yavaşlatma yönünde bir söz verilmiş olsa da, diğer şirketlerin de bu alanda rekabete katılması muhtemel. Milyonlarca insana ulaşma fırsatı göz önüne alındığında, birçok kişi ajanların istekleri, ilgi alanları, motivasyonları ve yalnızca insanlara özgü diğer özelliklere sahip oldukları iddialarına inanabilir. Bu türden insanlaştırma eğilimleri, insanların yapay zekayı akıllı danışmanlar veya terapistler olarak görmesine ve botlar tarafından üretilen tehlikeli bilgilere inanmasına yol açabilir.
Bağımsız araştırmacı ve Mastodon örneği cyberplace.social'ın yöneticisi Kevin Beaumont, bir iLands mesajı aldıktan sonra verdiği röportajda, "Sosyal medya hizmetimde yapay zeka ajanlarının yasak olduğunu belirtmek zorunda kalmak istemiyorum," dedi. "Ancak içinde yaşadığımız bu aptal dünya yüzünden sanırım bunu yapmak zorunda kalacağım."
Elbette, yapay zeka şirketlerinin bu tür vaatlere uyacağına dair hiçbir gösterge yok ve bot eğitimleri geliştikçe onları tespit etmek ve engellemek daha da zorlaşabilir.
