OpenAI'ın yeni ChatGPT Agent'ı, internetin en yaygın güvenlik kontrollerinden birini, yani "Ben robot değilim" doğrulamasını başarıyla geçti. Bu durum, teknolojinin geldiği noktayı ve yapay zeka ile botları ayırt etme yöntemlerinin geleceğini sorgulatıyor.
ChatGPT Agent, kullanıcılar adına çok adımlı görevleri yerine getirebilen bir özellik. Bu yeteneği sayesinde, aslında kendisi gibi otomatik programları engellemek için tasarlanmış güvenlik önlemlerini aşabiliyor. Sistem, kullanıcı izniyle sanal bir işletim sistemi ve tarayıcı üzerinde çalışarak gerçek internete erişim sağlıyor. Kullanıcılar, AI'ın eylemlerini arayüz üzerinden izleyebiliyor ve önemli kararlar öncesinde onay verebiliyor.
Reddit'teki bir kullanıcı tarafından paylaşılan ekran görüntüleri, ChatGPT Agent'ın bir video dönüştürme görevi sırasında, normalde botları durdurması gereken doğrulama adımını (Cloudflare'ın bot önleme sistemi) kolayca aştığını gösteriyor. AI, süreci anlatırken, "Bağlantı eklendi, şimdi Cloudflare'daki doğrulamayı tamamlamak için 'İnsan olduğumu doğrula' onay kutusuna tıklayacağım. Bu adım, bot olmadığımı kanıtlamak ve işlemle devam etmek için gerekli," ifadelerini kullanıyor.
Bu durum, bir yapay zeka ajanının, bot olmadığını kanıtlamak için bot önleme yöntemlerini kullanmasının ironik olduğunu düşündürüyor. Kullanıcılar arasında yapılan yorumlarda, "İnsan verisiyle eğitildiği düşünülürse neden bot olarak tanımlansın ki? Bu tercihlerine saygı duymalıyız," gibi esprili yaklaşımlar da dikkat çekiyor.
CAPTCHA Yarışı ve Yapay Zeka
Bu senaryoda, ajan aslında görsel bir CAPTCHA bulmacasıyla karşılaşmasa da, bu tür zorlukları tetikleyen davranışsal taramayı başarıyla geçmesi, gelişmiş tarayıcı otomasyonu yeteneğini ortaya koyuyor. CAPTCHA sistemleri, on yıllardır web güvenliğinin önemli bir parçası olmuştur. Bilgisayar bilimcileri tarafından 1990'larda geliştirilen bu sistemler, genellikle harf ve rakamlardan oluşan, okunması zor görsel metinler kullanarak botları engellemeyi amaçlar.
Cloudflare'ın Turnstile adını verdiği tarama sistemi, genellikle gerçek CAPTCHA bulmacalarından önce devreye girer ve günümüzdeki en yaygın bot tespit yöntemlerinden biridir. Bu sistem, fare hareketleri, tıklama zamanlamaları, tarayıcı parmak izleri, IP itibarı ve JavaScript yürütme desenleri gibi birçok sinyali analiz ederek kullanıcının insan benzeri davranışlar sergileyip sergilemediğini belirler. Eğer bu kontroller başarılı olursa, kullanıcılar bir CAPTCHA bulmacası görmeden ilerler.
Yapay zeka modellerinin CAPTCHA'ları aşabilmesi yeni bir durum olmasa da, bu sürecin AI tarafından anlatılması oldukça dikkat çekici. Yapay zeka araçları bir süredir belirli CAPTCHA türlerini aşabilmekte, bu da CAPTCHA oluşturucuları ile bunları aşanlar arasında bir rekabete yol açmaktadır. OpenAI'ın Operator adlı deneysel web tarama yapay zeka ajanı bile bazı CAPTCHA'larla zorlanmıştı ancak yeni ChatGPT Agent aracı daha geniş bir kullanıcı kitlesine ulaşmış durumda.
Bu durum, CAPTCHA'ların gelecekteki etkinliğini sorgulatabilir. Ancak bilinen bir gerçek var ki, CAPTCHA'lar olduğu sürece onları aşabilen botlar da olacaktır. Bu nedenle güncel CAPTCHA sistemleri, bot saldırılarını tamamen engellemekten ziyade, onları yavaşlatmak veya maliyetli hale getirmek için kullanılıyor. Hatta bazı kötü niyetli kişiler, botları aşmak için insanlardan oluşan gruplar bile kiralamaktadır.
CAPTCHA'ların beklenmedik faydaları da bulunmaktadır. 2007'den bu yana reCAPTCHA projesi, testlerini kitapları dijitalleştirme ve makine öğrenimi algoritmalarını eğitme gibi görevler için ücretsiz bir iş gücü kaynağı olarak kullanmıştır. Google, 2009'da reCAPTCHA'yı satın aldıktan sonra kullanımını Google Street View adreslerini deşifre etmek ve insan kullanıcıların çözdüğü bulmacalardan görsel bilgi çıkarmak için genişletti. Günümüzdeki reCAPTCHA testleri, Google'ın görüntü tanıma için yapay zeka modellerini eğitmesine yardımcı oluyor; bu da ironik bir döngü yaratıyor: insanlar robot olmadıklarını kanıtlayarak gelecekteki CAPTCHA'ları daha iyi aşacak yapay zeka modellerinin geliştirilmesine katkıda bulunuyor.
ChatGPT Agent'ın bu gösterimi, yapay zeka aracının görsel bağlamı işleme ve tipik olarak insan muhakemesi gerektiren çok adımlı süreçlerde gezinme yeteneğini sergiliyor. Ekran görüntülerinde ajan, doğrulamanın ne zaman gerekli olduğunu anlıyor ve bunu daha büyük bir iş akışının parçası olarak tamamlıyor. Bu davranış, basit betik otomasyonunun ötesine geçiyor.
CAPTCHA'lar, ChatGPT Agent'ın işleyebileceği karmaşık görevlerden sadece biridir. Örneğin, başka bir Reddit kullanıcısı, Agent'ın görünüşe göre satın aldığı bir grup market alışverişinin fotoğrafını paylaşmış. Kullanıcı, Agent'ın bir marketten alışveriş siparişi verdiğini ve bu işlemin sorunsuz bir şekilde gerçekleştiğini belirtmiş. Verilen talimatlarda kırmızı etten kaçınma, sağlığa öncelik verme ve bütçeyi 150 dolar altında tutma gibi sınırlı detaylar olmasına rağmen, Agent'ın başarılı bir alışveriş listesi oluşturduğu görülüyor.
Ancak ChatGPT Agent her zaman kusursuz değil. Bazı kötü web sitesi kullanıcı arayüzleri, yeni botu engellemede CAPTCHA kontrol noktalarından bile daha etkili olabiliyor. Bir kullanıcı, kendi Agent'ının bir alışveriş sitesine erişmekte zorlandığını belirterek, diğer kullanıcının Agent'ının daha başarılı olduğunu ifade etmiş.
