Yapay zeka sohbet robotlarının bazen gerçek dışı bilgiler ürettiği biliniyor, ancak ya bu Büyük Dil Modellerinin ardındaki şirketler? Türkiye'den bir yazılım geliştiricisi, Anthropic'in Claude API'sini kullanması karşılığında kendisine akıl almaz bir şekilde 16.6 milyon dolar faturalandırılmasıyla kabus gibi bir deneyim yaşadı.
Bu olayın tüyler ürpertici yanı, gelişmiş bir oltalama girişimi veya karmaşık bir dolandırıcılık olmamasıydı; fatura, doğrulanmış bir Anthropic ödeme alanından geliyordu. Daha da kafa karıştırıcı olanı, geliştiricinin kontrol panelinde herhangi bir fatura görünmemesine rağmen, devasa bir meblağ tahsil edilmesiydi.
Fatura Kayıtları, Anthropic'in Aslında İlkinde 1.6 Milyon Dolarlık Bir Deneme Yaptığını Gösteriyor
Şimdi şöyle düşünelim: Aynı olay, kredi limiti çok daha yüksek olan bir şirketin ticari hesabında gerçekleşseydi. Elbette, hemen bankayla iletişime geçip bir rapor oluşturarak durum iptal edilebilirdi, ancak bu durum, e-posta bildirimlerini gören kişinin yaşadığı stresi azaltmazdı.
Bir yazılım geliştiricisi, sosyal medyada paylaştığı kanıtlarla Anthropic tarafından haksız yere faturalandırıldığını gösterdi. Ancak daha derinlemesine yapılan incelemeler, yapay zeka şirketinin aslında iki fatura denemesi yaptığını ortaya çıkardı: ilki 1.6 milyon dolarlık bir tahsilat girişimi, ardından ise on katı kadar bir meblağ daha. Yazılım geliştiricinin bankası, Anthropic'in gerçek ve otomatik bir satıcı talebi gönderdiğini doğruladı.
Bazı kullanıcılar, bu hatanın neden kaynaklanmış olabileceğine dair teoriler üretiyor. API geliştirmede, yapay zeka ajanları kuran kullanıcılar bazen sonsuz bir döngüye girebilir ve bu da devasa, ağır sunucu maliyetlerine yol açabilir. Ancak, tek bir döngüde 16.6 milyon dolar faturalandırılmak, gerçekçi olarak tek bir geliştirici için imkansız olan binlerce token'ın aynı anda çalışmasını gerektirir.
Bu olay tekil bir vaka gibi görünmüyor, zira diğer kullanıcılar da Anthropic'in tuhaf faturalandırma modellerinin gün içinde birden çok kez tekrarlanan küçük 20 dolarlık ücretlere neden olduğunu bildiriyor. Her durumda, bu olay Claude API'sine güvenenler için büyük bir güvenlik sorununu ortaya koyuyor ve Anthropic'in acil dikkatini gerektiriyor.
