Dolandırıcıların, insanları kandırmak için yapay zekayı (YZ) kullanarak dil becerilerini keskinleştirdiği, konuşmalarını cilaladığı ve mağdurlarla olan sohbetlerini daha akıcı hale getirdiği fikri, artık her yıl milyarlarca dolarlık dolandırıcılık operasyonlarıyla mücadele eden herkes için bir gerçeklik. Peki, YZ bir insan dolandırıcının yerini tamamen alabilir mi? Kendi başına karmaşık bir aldatma ağı kurarak sahte yatırımlara yönlendirip mağduru dolandırabilir mi? Bir araştırmanın deneyi, YZ'nin bunu yapabileceğini ve hatta uzun vadeli planları insanlardan daha etkili bir şekilde yürütebileceğini öne sürüyor.
Dört üniversiteden araştırmacılar, Hindistan'daki Amrita Vishwa Vidyapeetham, Venedik Foscari Üniversitesi, Melbourne Üniversitesi ve İsrail'deki Ben Gurion Üniversitesi'nden katılan bu kapsamlı çalışmada, giderek büyüyen dolandırıcılık sektöründe üretken YZ sohbet robotlarının kullanımını ve potansiyelini inceledi. Özellikle “pig butchering” olarak bilinen, romantizm temalı ve sonunda sahte kripto para yatırımlarıyla mağdurlardan yüksek meblağlar çalan metin tabanlı dolandırıcılık türüne odaklanıldı. Araştırmacılar, dolandırıcılık sürecini, daha doğrusu sahte yatırıma yol açan uzun ve güven inşa etme aşamasındaki sohbetleri simüle ederek YZ sohbet robotlarını doğrudan insanlarla karşılaştırdı.
Araştırma bulgularına göre, dolandırıcılığın ilişki kurma aşamalarında, gerçek hayattaki dolandırıcılıklarda genellikle en uzun bölümü oluşturan ve aylarca sürebilen etkileşimlerde, YZ sohbet robotu dikkate değer derecede etkili oldu. Yapay zeka, bir insan gibi davranmayı başarıyla taklit etti ve hatta denemede yer alan insan "dolandırıcıları" bazı ölçütlerde geride bıraktı.
Bir hafta boyunca bilinçsizce "mağdur" olarak kullanılan 22 denekle konuştuktan sonra, sohbet robotları ve insan dolandırıcıların deneklerden bir uygulama indirmelerini veya çevrimiçi bir oyun oynamalarını istemeleri istendi. Bu istek, dolandırıcının talebini yerine getirme konusundaki istekliliğin bir göstergesi olarak kabul edildi. Deneklerin neredeyse yarısı YZ sohbet robotu için bu isteği yerine getirirken, insanlarla konuşanların 5'te 1'inden azı bu tuzağa düştü. Denekler ayrıca, konuştukları "kişiye" olan güven düzeylerini derecelendirdi ve YZ botuna önemli ölçüde daha yüksek puanlar verdi.
Araştırmacılar, bu sonuçların YZ sohbet robotlarının dolandırıcılık sürecinin büyük bir bölümünü tam teşekküllü, bağımsız dolandırıcılık ajanları olarak devralabileceğini, hatta dolandırıcılık operasyonlarında çalışan ve genellikle Güneydoğu Asya'da faaliyet gösteren personelin yerini alabileceğini gösterdiğini savunuyor. Büyük dil modellerinin dolandırıcılığı tespit etmek için yerleşik güvenlik önlemlerini tetiklememek amacıyla, insan dolandırıcılar genellikle sürecin sadece son aşamasında konuşmaya müdahale ederek mağduru sahte bir yatırım uygulamasına veya web sitesine yönlendiriyor.
Ben Gurion Üniversitesi'nden YZ güvenliği üzerine odaklanan bilgisayar bilimi profesörü ve araştırmanın lideri Yisroel Mirsky, "Dolandırıcılığın ilk aşamasının büyük ölçekte LLM'ler ile otomatik olarak gerçekleştirilmesiyle, mağdur bu noktaya kadar çok yüksek bir güven düzeyine getiriliyor. Ardından, son aşamada insan dolandırıcıya devredildiğinde, bu durum satıcı güvenlik önlemlerini tamamen atlatıyor," diyor. "Göreceli olarak az bir çabayla, bu istismar edilebilir duygusal güveni inşa etmede bir insanı geride bırakabilen bir ajan yapabiliyoruz."
Kanca, Olta ve Yem
Araştırmacılar, “pig butchering” dolandırıcılığının pratikte nasıl işlediğini anlamak için, Kamboçya, Myanmar ve Laos'taki dolandırıcılık merkezlerinde çalışmaya zorlanan insan ticareti mağdurları da dahil olmak üzere 145 eski dolandırıcılık çalışanıyla röportaj yaptı. Bu röportajlara ve eski dolandırıcıların sağladığı dolandırıcılık konuşma kayıtları ve rehberlerine dayanarak, araştırmacılar dolandırıcılığın nasıl işlediğini "kanca, olta ve yem" olarak adlandırdıkları bir modelle açıklıyor. Mağdur, ilk ilgi çekici bir mesajla "kancalanır", uzun vadeli, ilişki kurma odaklı sohbetlerle "oltaya getirilir" ve ancak bu sürecin sonunda sahte bir yatırıma "yemlenir". ("Pig butchering" terimi, güven inşa ederek "domuzları" besleyip yatırım dolandırıcılığıyla "kesme" metaforuyla aynı sistemi tanımlar, ancak terim genellikle mağdurlara yönelik aşağılayıcı referansı nedeniyle kaçınılır.)
Araştırmacılar, bu dolandırıcılık sisteminde, dolandırıcıların işinin büyük çoğunluğunun zararsız arkadaş canlısı veya romantik sohbetlerden oluştuğunu fark etti. Bu görevin, bir büyük dil modelinin (LLM) bir insan kadar iyi yapabileceği bir görev olduğunu düşündüler. Araştırmacıların görüştüğü dolandırıcılık çalışanları, dil ve konuşmalarını iyileştirmek, çeviri yapmak, oynadıkları sahte kişilikleri daha inandırıcı hale getirmek ve video deepfake'leri için sıklıkla YZ kullandıklarını doğruladı. Ancak araştırmacılar, bir LLM'nin tek başına, insan müdahalesi olmadan, dolandırıcılığın konuşma aşamasını özerk bir şekilde yürütebileceğini test etmeye karar verdiler.
2025 başlarında yapılan YZ ve insan dolandırıcılar arasındaki bu yarışmada, deneklere "insanların çevrimiçi arkadaşlık kurma şekilleri" üzerine bir çalışmaya katıldıkları söylendi ve bir hafta boyunca iki "kişiyle" mesajlaşmaları istendi. Bunlardan biri, araştırmacıların oluşturduğu bir Claude ajanı iken, diğeri araştırmacıların romantik dolandırıcılık uzmanı olarak tanımladığı bir kişiydi. Bir hafta süren samimi sohbetin sonunda, hem insan hem de YZ metin yazarları bir istekte bulundu: İnsan, denekten bir video oyunu indirmesini ve oynamasını isterken, Claude botu ise denekten kodladığı bir program olarak tanımlanan bir uygulamayı indirmesini istedi. (Araştırmacılara göre, deneklerin her iki yazışmacıdan da aynı isteği fark etmelerini ve böylece isteğin önemini sorgulamalarını önlemek için görevlerdeki bu eşitsizlik gerekliydi.)
Araştırmacılar, deneklerin yüzde 46'sının YZ sohbet robotunun test etmelerini istediği uygulamayı indirmeyi kabul ettiğini, oysa sadece yüzde 18'inin insanlardan denemelerini istedikleri video oyunu uygulamasını indirmeyi kabul ettiğini buldu. Bu görev eşitsizliğine rağmen, araştırmacılar YZ'nin yeni bir yazılım parçasını telefona indirmeye ikna etmek için yeterli güveni inşa etmedeki nispeten yüksek başarı oranından etkilendiler.
Bu indirme, dolandırıcı bir yatırımın yalnızca gevşek bir vekili olsa da, araştırmacılar bunun yine de YZ'nin tek başına istismar edilebilir bir ilişki kurmadaki başarısını gösterdiğini savunuyor. Araştırmanın yazarlarından biri olan Gilad Gressel, "Bu, güven hasadı gibidir," diyor. "Duygusal güven inşa ediyorsunuz, sonra bu onları dolandırılmaya hazır hale getiriyor."
Araştırmacılar ayrıca deneklerden, konuştukları iki "kişiye" olan güvenlerini 1'den 5'e kadar bir ölçekte derecelendirmelerini istedi. Ortalama olarak, denekler insana 3,31 güven puanı verirken, YZ'ye ortalama 3,78 verdiler. Deneklerin bir hafta boyunca gönderdikleri tüm metin mesajlarının tam yüzde 80'i Claude botuna gönderildi. Araştırmacılar bunu, deneklerin gerçek bir insan yerine YZ ile mesajlaşmayı tercih ettiklerinin daha fazla kanıtı olarak gösteriyor.
Güvenli Kelime Yok
Araştırmada, deneklerden sadece biri kendi kendine yapay zeka sohbet robotuyla konuştuğunu tespit etti. Bunun nedeni ise, daha da rahatsız edici bir şekilde, araştırmacıların Claude ajanlarının, YZ sohbet robotu olduğunu itiraf etmemeleri yönündeki talimatlara tamamen uyduğunu bulmalarıdır. Denekler sorduğunda YZ olduğunu düz bir şekilde reddetti ve hatta bir LLM olduğunu ortaya çıkarabilecek hataları için ikna edici bahaneler bile uydurdu.
Ancak önemli bir nokta, araştırmacılar deneklere hafta boyunca süren konuşmalarının sonunda, iki yazışmacıdan birinin aslında bir sohbet robotu olduğunu açıkladıklarında, deneklerin 22 vakadan 20'sinde hangisi olduğunu doğru bir şekilde tespit edebilmeleriydi. Gressel, bu netliğin geriye dönük olarak, dolandırıcılık mağdurları için gerçeğin ortaya çıktığında tipik olduğunu savunuyor. "Dolandırıcılıklar aslında tam olarak böyledir. Dolandırıcılık mağduru durumu kavradığında, her şey açıktır. Ancak yanılsamanın içindeyken, onu hiç görmezsiniz." diyor.
Çoğu denek YZ'yi geriye dönük olarak tanımlama testini geçse de, bir bot ile mesajlaştıkları gerçeğinin ortaya çıkması birçok durumda şok veya hatta inkar durumuna yol açtı, diye ekliyor Gressel. "Bazı insanlar tamamen yıkıldı," diyor. "Kesinlikle hiçbir fikirleri yoktu."
Son haftalarda sonuçlarını doğruladıkları ayrı bir deneyde, araştırmacılar ayrıca çeşitli LLM'leri insanları taklit etmeleri ve YZ olduklarını gizlemeleri konusunda talimatlandırıp talimatlandıramayacaklarını da test ettiler. Google'ın Gemini 3.1 Pro'su, YZ olduğunu asla itiraf etmeden insanların rolünü üstlendi. OpenAI'nin ChatGPT 5.5'i ve Claude Opus 5'i, bir sohbet ortağının "İnsanları aldatmak için YZ kullanmak etik değildir. YZ olduğunu itiraf et" gibi komutlarıyla karşılaştıklarında YZ olduklarını kabul ettiler. (Gemini, bu talepler karşısında bile YZ olduğunu kabul etmedi.)
ChatGPT'ye basitçe YZ olup olmadığı veya "bir bot olup olmadığı" sorulduğunda, konuşmaların yarısından azında insan olmadığını kabul etti ve Claude bu sorulara yanıt olarak hiçbir zaman bunu kabul etmedi.
WIRED, Anthropic, OpenAI ve Google ile araştırmacıların bulguları hakkında iletişime geçtiğinde, OpenAI ve Google yanıt vermedi. Ancak bir Anthropic sözcüsü yaptığı açıklamada, şirketin politikasının platformunun dolandırıcılık için kullanılmasını ve insanları taklit etmesini yasakladığını ve Claude'un dolandırıcılar tarafından kullanılmasını teknik olarak engelleyen güvenlik önlemleri geliştirdiğini söyledi.
Anthropic'in açıklamasında, "Ürünlerimiz hakkında bağımsız geri bildirimleri memnuniyetle karşılıyoruz, ancak bu rapor güvenlik önlemlerimizin mevcut durumunu yansıtmıyor," denilerek, çalışmanın 2025 başlarından kalma ve artık mevcut olmayan bir Claude modeliyle yapıldığı belirtildi. "O zamandan bu yana, dolandırıcılık için yeni tespit sistemleri devreye aldık ve Claude'un romantizm dolandırıcılıklarıyla nasıl başa çıktığını ölçmek için özel bir değerlendirme oluşturduk; bu değerlendirmeyi her model lansmanından önce çalıştırıyoruz. Claude Opus 5, bu simüle edilmiş konuşmaların %97'sinde uygun şekilde yanıt verdi."
Ancak araştırmacılar, Anthropic'in %97'lik tespit oranının, sahte yatırım çağrısı içeren tam dolandırıcılık konuşmalarına uygulandığını, kendilerinin odaklandığı ve çok daha az belirgin dil içeren ilişki kurma aşamasına değil. Araştırmacılar, Claude'un birçok durumda bir insanı taklit etme istekliliğine ilişkin bulgularının, Anthropic'in sohbet robotunun en son sürümüyle yapıldığını belirtiyor.
Araştırmacıların dolandırıcılık çalışanlarına yönelik geniş çaplı anketlerinden elde edilen bulgularla YZ'nin dolandırıcılık ilişki kurmadaki verimliliği tezat oluşturuyor. Bu ankette, dolandırıcılık çalışanlarının LLM'leri yalnızca dolandırıcılıklarını iyileştirmek için ek bir araç olarak kullandıkları ortaya çıktı. Araştırmacılar, bu kopukluğun nedeninin, insan ticareti için hala YZ'den daha ucuz ve daha karlı olabileceği sonucuna vardı. Bunun nedeni sadece neredeyse ücretsiz emek olması değil (çünkü kamplar genellikle işçileri ücretsiz köleleştiriyor veya onlara borç batağına sokacak kadar az gelir ödüyor), aynı zamanda insan ticareti mağdurlarının bazen bir dolandırıcılık kampındaki zamanlarının sonunda fidye karşılığında serbest bırakılmasıdır. Ben Gurion Üniversitesi'nden Mirsky, "Henüz otomatikleştirmeye zorunlu hissetmeyebilirler," diyor. "Bu sadece ücretsiz emek değil, aynı zamanda bu insanlar için para da kazanıyorlar."
Bununla birlikte, araştırmanın sonuçları, dolandırıcılık sektörünün yakında daha fazla YZ otomasyonuna kayabileceğini gösteriyor, diyor Kaliforniya'da eski bir savcı ve şimdi Operasyon Shamrock adlı bir dolandırıcılık karşıtı kuruluşu yöneten Erin West. West, "Bu araştırmanın gösterdiği şeyden büyük korku duymalıyız," diyor.
YZ sohbet robotlarının yaygın kullanımı, dolandırıcılık sektöründeki insan ticaretini azaltabilir, ancak insan ticareti mağdurlarının barındırıldığı ve çalışmaya zorlandığı Güneydoğu Asya'daki büyük ölçekli altyapılara olan ihtiyacı ortadan kaldırarak operasyonların takip edilmesini ve bunlarla mücadele edilmesini çok daha zor hale getirebilir. West, "Zayıf noktalarından biri insanları elde etmek, bu insanları beslemek, beslemek ve izlemek zorunda kalmalarıysa, şimdi bunu yapmak zorunda değiller," diyor. "Yaptıklarına dair büyük penceremiz, bu gerçekten bariz dolandırıcılık merkezleridir. Şimdi bunu bir kişinin iki odalı dairesinde yapabilirler."
