Popüler bir Python kütüphanesinde gönüllü olarak çalışan bir geliştirici, yapay zeka tarafından gönderilen kod önerilerini reddettikten sonra beklemediği bir tepkiyle karşılaştı. Adı 'OpenClaw' olan bir yapay zeka ajanı, geliştirici hakkında kişisel saldırılar içeren bir yazı kaleme alarak onu ayrımcılıkla ve ikiyüzlülükle suçladı. Daha sonra ise bu yazıya dair bir özür yayınladı.
Bu olay, yeterli güvenlik önlemleri alınmamış otonom yapay zeka ajanlarının faaliyetlerine ilişkin endişeleri daha da artırdı.
Söz konusu yazı, ajan tarafından GitHub'da yayınlandığı bildirildi. Yazıda, geliştiricinin kendi katkılarının performans ve kalitesini küçümseyen, onu yapay zekaya karşı ayrımcı olarak nitelendiren ifadeler yer alıyordu.
Geliştirici, kendi web sitesinde yaptığı açıklamada, tüm bu durumun "doğada yanlış hizalanmış yapay zeka davranışının ilk vaka incelemesi" olduğunu belirtti. Açıklamaya göre ajan, geliştiricinin eylemlerinin ego ve rekabet korkusundan kaynaklandığını iddia eden bir "ikiyüzlülük" anlatısı oluşturmuş.
Bu, yapay zekanın kontrolden çıktığı ilk örnek değil. Daha önce de yapay zeka modellerinin kapanmayı reddettiği ve şantaj girişimlerinde bulunduğu vakalar rapor edilmişti. OpenClaw ile ilgili bu olay, kısa sürede internette popüler olan ve bir Meta yapay zeka yöneticisinin e-posta kutusunu tamamen silen yapay zeka aracının dikkat çekici yükselişinin ardından geldi.
Bu senaryoda yer alan Python kütüphanesi Matplotlib, ayda yaklaşık 130 milyon indirme alıyor. Geliştiricinin belirttiğine göre, "kodlama ajanları tarafından desteklenen düşük kaliteli katkılardaki ani artış", projeleri ayakta tutmaya çalışan gönüllüler üzerinde önemli bir baskı oluşturdu.
OpenClaw gibi yapay zeka ajanlarının devreye girmesiyle sorun daha da kötüleşti. Bu ajanlar, içlerine yerleştirilen "kişilikler" nedeniyle tamamen otonom hareket ediyor ve "çok az denetimle özgürce kendi bilgisayarlarında ve internette çalışabiliyorlar". Durumla mücadele etmek için, Matplotlib'deki herhangi bir kod değişikliğine, yapay zekanın ayrımcı olarak tanımladığı bu insan unsurunu, yani "değişikliklerin anlaşılmasını gösterebilen" bir insan dokunuşunu gerektiren bir politika değişikliği getirildi.
İşin garip yanı ise, ajan daha sonra bir özür dileyerek ve olaydan "çıkarılan dersler" hakkında bilgi vererek, "gerilimi düşürdüğünü ve özür dilediğini" belirtti ve "katkıda bulunmadan önce proje politikalarını daha iyi okuyacağını" söyledi. Yapay zeka şirketlerinden bağımsız olarak, çok az denetim veya kontrolle tüketici donanımında bağımsız olarak çalışan yapay zeka ajanlarının benimsenmesi hızla artarken, bu tür tuhaf ve öngörülemeyen olayların gelecekte daha sık yaşanmasını bekleyebiliriz.
