Son aylarda, son derece kişisel ve hassas ChatGPT konuşmalarının beklenmedik bir yere sızdığı ortaya çıktı: Geliştiricilerin genellikle arama trafiğini izlemek için kullandığı ancak özel sohbetlere göz atmak için değil, Google Arama Konsolu (GSC).
Normalde, site yöneticileri GSC performans raporlarına eriştiğinde, İnternet kullanıcılarının ilgili içeriği bulmak için Google'a yazdığı anahtar kelimelere veya kısa ifadelere dayalı sorguları görürler. Ancak bu Eylül ayından itibaren, bazen 300 karakteri aşan garip sorgular da GSC'de bulunmaya başladı. Yalnızca kullanıcı girdilerini gösteren sohbetler, muhtemelen gizli kalacağını düşündükleri konuşmalarla bir sohbet botundan yardım isteyen, istemeden insanlardan geliyormuş gibi görünüyordu.
Analiz danışmanlık firması Quantable'ın sahibi Jason Packer, geçtiğimiz ay detaylı bir blog yazısında konuyu gündeme getiren ilk kişiler arasındaydı.
Sızıntılara tam olarak neyin neden olduğunu anlamaya kararlı olan Packer, “İnternet dedektifi” ve web optimizasyon danışmanı Slobodan Manić ile güçlerini birleştirdi. Birlikte, “OpenAI'nin gerçek kullanıcı yönlendirmeleriyle Google Arama'dan doğrudan veri kazıdığına dair ilk kesin kanıtı” ortaya çıkardıklarına inandıkları testler gerçekleştirdiler. Araştırmaları, yapay zeka devinin kullanıcı gizliliğini ihlal ettiğini, bazı durumlarda Google'ın aksi halde paylaşmayacağı arama verilerini ele geçirerek etkileşimi sürdürmek amacıyla bunu yaptığını doğruluyormuş gibi görünüyordu.
OpenAI, Packer ve Manić'in bloglarında ortaya attığı teorinin doğru olup olmadığını doğrulamak veya kullanıcıların sorunun kapsamını belirlemelerine yardımcı olabilecek diğer sorularını yanıtlamak için yapılan talebimizi reddetti.
Ancak bir OpenAI sözcüsü, şirketin “sorunun farkında olduğunu” ve “geçici olarak az sayıda arama sorgusunun yönlendirilme biçimini etkileyen” bir hatayı “çözdüğünü” doğruladı.
Packer, OpenAI'nin sorunu hızla çözebilmesinden duyduğu memnuniyeti dile getirdi. Ancak OpenAI'nin yanıtının, OpenAI'nin Google'dan veri kazıyıp kazımadığını doğrulamadığını ve sorunun tamamen çözüldüğüne dair şüpheye yer bıraktığını belirtti.
Google yorum yapmaktan kaçındı.
Önceki ChatGPT Sızıntılarından “Daha Garip”
Packer'ın incelediği GSC'de görünen ilk garip ChatGPT sorgusu, muhtemelen bir kadın kullanıcıdan gelen ve ona karşı şakalar yapan bir çocuğun onu sevip sevmediğini anlamak için ChatGPT'den belirli davranışları değerlendirmesini isteyen tuhaf bir bilinç akışıydı. Başka bir garip sorgu ise bir ofis yöneticisinin iş bilgilerini paylaşırken işe dönüş duyurusunu planlamasından geliyormuş gibi görünüyordu.
Bunlar, Packer'ın tek bir sitede incelediği 200 garip sorgudan sadece ikisiydi ve Packer, bu sorguların “yönlendirmelerin düşündüğünüz kadar gizli olmadığını hatırlatması gerektiğini” belirtti.
Packer, bu sorguların, OpenAI'nin ChatGPT yanıtlarını desteklemek için Google arama sonuçlarını kazıdığını iddia eden kaynaklara atıfta bulunan The Information'ın Ağustos ayındaki haberleriyle bağlantılı olduğundan şüpheleniyordu. Kaynaklar, OpenAI'nin haberler veya spor gibi güncel olaylar hakkında bilgi isteyen ChatGPT yönlendirmelerini yanıtlamak için Google'a başvurduğunu iddia etmişti.
OpenAI, Google arama motoru sonuç sayfalarından (SERP'ler) veri kazıdığını doğrulamadı. Ancak Packer, ChatGPT sızıntılarını test etmenin, OpenAI'nin yalnızca “veri elde etmek için genel olarak SERP'leri kazımakla kalmayıp, aynı zamanda kullanıcı yönlendirmelerini Google Arama'ya da gönderdiğinin” kanıtı olabileceğini düşünüyor.
Manić, bilmecenin büyük bir bölümünü çözmede Packer'a yardımcı oldu. Garip sorguların bir sitenin GSC'sinde görünmesinin nedenini, o sitenin “https://openai.com/index/chatgpt/” - GSC'de görünen her tuhaf sorgunun başında yer alan bir ChatGPT URL'si - için Google'da yüksek sıralarda yer alması olarak buldu. Parker ve Manić, Google'ın URL'yi “openai + index + chatgpt” anahtar kelimeleri için bir arama olarak böldüğünü ve bu anahtar kelimeler için yüksek sıralarda yer alan GSC kullanan sitelerin, daha önce Google arama sonuçlarında sohbetlerin indekslendiği ChatGPT sızıntılarını kapsayan siteler dahil olmak üzere, ChatGPT sızıntılarıyla karşılaşmasının muhtemel olduğunu öne sürdüler. Tavsiyelerini kullanarak, benzer dizeleri doğrulayabildik.
Packer, “Ancak karıştırılmayın, bu, Google'ın istemediğimiz şeyleri indekslemesinden tamamen farklı ve yeni bir ChatGPT hatası. Daha ciddi olmasa da daha garip,” diye yazdı.
OpenAI'nin tam olarak neyi düzelttiği belirsiz olsa da, Packer ve Manić'in sızan sohbetler için olası bir yol hakkında bir teorisi var. GSC'de bulunan her tuhaf sorgunun başladığı URL'yi ziyaret eden ChatGPT kullanıcıları, yönlendirme kutusuna “sayfanın URL'sinin yönlendirmeye eklenmesine” neden olan hatalı görünen bir istem kutusuyla karşılaşıyorlar. Sorunun şu olduğu açıklandı:
Packer'ın blogunda belirtildiği gibi, bu aramalardan bazılarının Google'a dayandığı ve istem kutusunda kullanıcının ne dediği ne olursa olsun, “https://openai.com/index/chatgpt/” metniyle birlikte GSC'ye yanlışlıkla gönderildiği görüldü. Packer'ın açıkladığı gibi, “bunları kazıdığını biliyoruz, çünkü API veya özel bir bağlantı kullanmadığını, çünkü diğer seçenekler GSC'de görünmüyor.”
Packer, bunun “Google Arama gerektiren herhangi bir yönlendirmenin hem Google ile hem de kendi veri kazıma işlemini yapan kişiyle paylaşılması anlamına geldiğini” iddia etti. “Ve sonra arama sonuçlarında çıkan kişinin sitesiyle de! Aman Tanrım!”
Packer'a göre, son iki ayda Google Arama kullanan “TÜM ChatGPT yönlendirmelerinin” sızdırılma riski vardı.
OpenAI, yalnızca az sayıda sorgunun sızdırıldığını iddia etti ancak daha kesin bir tahmin vermeyi reddetti. Bu nedenle, her hafta ChatGPT kullanan 700 milyon kişiden kaçının yönlendirmesinin GSC'ye yönlendirildiği belirsizliğini koruyor.
OpenAI'nin Yanıtı Kullanıcılara “Kalan Sorular” Bırakıyor
ChatGPT yönlendirmelerinin Ağustos ayında Google'ın arama dizininde görünmesinin ardından OpenAI, kullanıcıların bu yönlendirmeleri halka açık hale getiren bir kutuyu işaretlediğini ve OpenAI'nin bunu “yeterince açık” olarak savunduğunu belirtti. Yapay zeka firması daha sonra, kullanıcıların özel sohbetleri halka açık paylaşmaya yönlendirildiklerini hissetmeleri üzerine sohbetleri Google'ın SERP'lerinden kaldırmak için acele etti.
Packer, bu sızıntılar ile GSC sızıntıları arasındaki büyük bir farkın, önceki skandaldan zarar gören kullanıcıların en azından bir dereceye kadar, “sızıntı sohbetlerini aktif olarak paylaşmaları” olduğunu söyledi. Daha yeni vakada ise, “hiç kimse paylaş düğmesine tıklamadı” veya sohbetlerinin ifşa edilmesini önlemek için makul bir yolu yoktu.
Packer, blog yazısında “OpenAI, gizlilik sonuçlarını düşünmeden çok mu hızlı davrandı, yoksa umursamadı mı?” diye sordu.
Belki de bazı kullanıcılar için en rahatsız edici olan şey (yönlendirmeler kimlik bilgilerini paylaşmadıkça, kimlikleri sohbetlerde bağlantılı değil), önceki skandalın aksine, sızan sohbetleri GSC'den kaldırmanın görünüşte hiçbir yolu olmamasıydı.
Packer ve Manić, OpenAI'nin düzeltmesinin sorunu durdurmada ne kadar ileri gideceğine dair “kalan sorularla” baş başa.
Manić, OpenAI'nin https://chatgpt.com/ adresinde Google Arama'yı tetikleyen yönlendirmelerin de etkilenip etkilenmediğini doğrulamasını umuyordu. Ancak OpenAI bu soruya veya sızıntının ne kadar büyük olduğuna dair daha geniş bir soruya yanıt vermedi. Manić için büyük bir endişe, OpenAI'nin veri kazıma işleminin, SEO araştırmacılarının belirttiği ve gösterimlerin fırlamasına ancak tıklamaların düşmesine neden olan rahatsız edici bir eğilim olan Google Arama Konsolu'ndaki “‘timsah ağzı’na” katkıda bulunuyor olabileceğidi.
OpenAI, Packer'ın en büyük sorusunu da netleştirmekten kaçındı. Şirketin “düzeltmesinin” yalnızca OpenAI'nin “arama sorgularının yönlendirilmesini sona erdirerek ham yönlendirmelerin artık Google Arama'ya gönderilmemesi mi olduğunu, yoksa artık veri için Google Arama’yı hiç kazımadıklarını mı” merak ediyor.
Packer, “Bunun yalnızca bu belirli sayfada mı yoksa gerçekten yaygın olup olmadığını hala bilmiyoruz. Her iki durumda da, ciddi bir durum ve OpenAI'nin gizlilik konusunda ne kadar dikkatli hareket etme konusundaki umursamazlığını gösteriyor” dedi.
