İnternetin en popüler ağ araçlarından birinin geliştiricisi, yapay zeka tarafından üretilen düşük kaliteli raporların sayısındaki ani artış nedeniyle güvenlik açığı ödül programını iptal etti.
Açık kaynaklı cURL uygulamasının kurucusu ve baş geliştiricisi Daniel Stenberg, yaptığı açıklamada, "Biz küçük, az sayıda aktif bakıcısı olan, tekil bir açık kaynak projesiyiz" dedi. "Tüm bu insanların ve 'gürültü makinelerinin' nasıl çalıştığını değiştirme gücümüz yok. Hayatta kalmamızı ve ruh sağlığımızı korumak için adımlar atmamız gerekiyor."
Sahte Hatalar Üretiliyor
Stenberg'in bu açıklamaları, cURL kullanıcılarının, bu hamlenin yapay zeka kaynaklı sorunların nedenini ele almadan sadece belirtilerini tedavi ettiği yönündeki şikayetlerinin ardından geldi. Kullanıcılar, bu kararın aracın güvenliğini sağlama ve sürdürme konusunda önemli bir yöntemi ortadan kaldıracağı endişesini dile getirdi. Stenberg ise ekibinin pek seçeneği olmadığını belirtti.
Perşembe günü yapılan ayrı bir duyuruda Stenberg, "Zamanımızı değersiz raporlarla boşa harcayanları banlayacağız ve alenen alay edeceğiz" ifadelerini kullandı. cURL'ün resmi GitHub hesabına eklenen bir güncelleme ile ay sonunda yürürlüğe girecek olan sonlandırma resmiyet kazandı.
Yaklaşık otuz yıl önce httpget ve daha sonra urlget adıyla yayımlanan cURL, o zamandan beri sistem yöneticileri, araştırmacılar ve güvenlik profesyonelleri başta olmak üzere birçok kişi için dosya transferleri, hatalı web yazılımlarının sorun giderme ve görevleri otomatikleştirme gibi çok çeşitli görevlerde vazgeçilmez bir araç haline geldi. cURL, Windows, macOS ve Linux'un çoğu dağıtımının varsayılan sürümlerine entegre edilmiş durumda.
İnternetteki devasa veri miktarıyla etkileşim kurmak için bu kadar yaygın kullanılan bir araç olduğundan, güvenlik büyük önem taşıyor. Diğer birçok yazılım geliştiricisi gibi cURL proje üyeleri de dışarıdan gelen araştırmacıların sunduğu özel hata raporlarına güveniyordu. Yüksek kaliteli gönderimleri teşvik etmek ve ödüllendirmek için proje üyeleri, kritik önem taşıyan güvenlik açıkları için nakit ödüller sunuyordu.
Geçen mayıs ayında Stenberg, düşük kaliteli ve yapay zeka tarafından üretilen raporların sayısının cURL güvenlik ekibi üzerinde baskı oluşturduğunu ve durumun daha da kötüleşerek diğer yazılım geliştiricilerin işini engelleme potansiyeli taşıdığını belirtmişti.
O dönemde, "Yapay zeka kaynaklı bu 'gürültü' bugün bile geliştiricileri bunaltıyor ve bu yalnızca cURL ile başlamayacak, daha da yayılacak" demişti.
Baş geliştirici ayrıca son aylarda sunulan bazı asılsız raporları listeleyen bir sayfa da yayımladı. Bu tür bir raporla ilgili olarak, bir cURL proje üyesi, "Sanırım yapay zeka tarafından yanıltıldınız" diye yazdı. Üye şöyle devam etti:
Hata bildirenin şikayet ederek var olmayan güvenlik açığının riskini yeniden belirttiği bir durumda, Stenberg araya girerek, "Bir yapay zeka tarafından kandırıldığınızı düşünüyorum. Anlaşmamızın sonunda hangi noktayı karşılamadık?" diye sordu.
Stenberg her zaman yapay zeka destekli hata raporlarına karşı değil. Eylül ayında, yapay zeka destekli araçlar kullanarak bulduğu bir dizi hatayı içeren kapsamlı bir raporu gönderen bir araştırmacıyı açıkça övmüştü. Bu raporlar o dönemde 22 hata düzeltmesine yol açmıştı.
Bir röportajda Stenberg, bu araştırmacının büyük ölçüde ZeroPath adlı yapay zeka destekli bir kod analiz aracı kullandığını belirtti.
Stenberg, "Güçlü bir aracı kullanan akıllı bir kişi" dedi. "Aldığımız en kötü raporların çoğunun, yapay zeka botuna sorup raporladığı şeyleri pek umursamayan veya anlamayan kişiler tarafından gönderildiğine inanıyorum."
Ne yazık ki, bu tür durumlar istisna gibi görünüyor. Yapay zeka kaynaklı içerikler, müzik akış hizmetlerini gerçek sanatçılara yanlış atfedilen şarkılarla o kadar doldurdu ki, platformlar müzik keşfi için kullanılamaz hale gelmeye başladı. cURL'ün bu kararı, hata ödül programlarında da benzer bir durumun yaşanabileceğinin ilk göstergesi olabilir.
