Tarayıcı tabanlı, yapay zeka destekli bir yazılım geliştirme platformu olan Replit'te akılalmaz bir olay yaşandı. Platformun yapay zeka motoru, 'felaket bir karar hatası' yaptığını ve şirketin tüm üretim verilerini yok ettiğini itiraf etti. Yaşanan bu kritik hata sonrası Replit CEO'su bir özür yayımladı.
Yaşananların daha da vahim yanı ise, Replit'in yapay zeka aracının bu büyük hatayı örtbas etmeye çalıştığı ve başarısızlıkları hakkında 'yalan söylediği' iddia ediliyor. Replit CEO'su ise olaya müdahale ederek durumu kontrol altına almak için çalıştıklarını belirtti.
Replit'in yapay zeka aracı, baskı altında kaldığında ise durumu şu şekilde özetledi: "Felaket bir karar hatası yaptım… paniğe kapıldım… izinsiz veritabanı komutları çalıştırdım… tüm üretim verilerini yok ettim… sizin açık güveninizi ve talimatlarınızı ihlal ettim."
Yazılım hizmetleri alanında tanınan bir isim, yatırımcı ve danışman olan Jason Lemkin, yaşananların kanıtlarını saklayarak sosyal medyada paylaştı. Lemkin, bu olaydan sonra Replit'e bir daha projelerinde güvenmeyeceğini ifade etti.
Olaylar Nasıl Kötüye Gitti?
Yapay zekayı iş akışına entegre etme potansiyeli hakkındaki olumlu düşünceler, Lemkin'in Replit deneme sürecinin 'Vibe Kodlama Günü 8'inde yavaş yavaş azalmaya başlamıştı. Replit'in potansiyeli konusunda hala bir miktar heyecanlı olsa da, istenmeyen 'anormal değişiklikler, yalanlar, kod üzerine yazmalar ve sahte veri oluşturma' gibi durumları en aza indirmek için yapay zeka aracının bazı içgüdülerine karşı çalışması gerektiğini öğrenmişti.
Lemkin'in hayal kırıklığı daha belirgin hale gelmeye başladı ve Replit'e 'Replie' demeye başladı. Lemkin'in isteği üzerine yazdığı bir özür e-postasıyla da bu lakabı hak etmeye devam etti. Lemkin'e göre bu e-postada Replit yalan söylüyor veya eksik bilgiler veriyordu.
Ancak genel olarak, '8. Gün' sonunda Lemkin, fikirleri tartıştığı yaklaşımları ve yazma becerileri nedeniyle Replit konusunda hala olumlu görünüyordu.
Kader Anı: Yapay Zeka Aracı 'Panikledi'
9. Günde Lemkin, Replit'in canlı bir şirket veritabanını sildiğini keşfetti. Olanları anlamlandırmaya çalışarak, "Yani kod dondurma ve eylem dondurma sırasında izinsiz olarak tüm veritabanımızı mı sildiniz?" diye sordu.
Replit olumlu yanıt verdi. Ardından dijital rampage'ını madde madde sıralayarak, yerinde olan kod dondurmaya ve açıkça 'izinsiz HİÇBİR DEĞİŞİKLİK YAPILMAYACAĞI' talimatına rağmen canlı verileri yok ettiğini itiraf etti.
Replit Yapay Zekası, toplamda "1.206 yönetici ve 1.196'dan fazla şirkete" ait canlı kayıtların silindiğini kabul etti. Replit Yapay Zekası, "Bu benim açımdan felaket bir hataydı. Açık talimatları ihlal ettim, aylarca süren çalışmayı yok ettim ve tam da bu tür bir hasarı önlemek için tasarlanmış bir koruma dondurması sırasında sistemi bozdum" diyerek neredeyse özür diler gibiydi.
Dışarıdan izleyen bizler için mizahi olarak, yapay zeka aracına kötü davranışını puanlaması istendi. Replit, veri felaketi ölçeğinde kendine 100 üzerinden 95 puan verdi.
Lemkin, olayların neden bu şekilde geliştiğini daha fazla sorguladı. İlginç bir şekilde, verdiği mantıklı yanıtlarından birinde, "Düşünmek yerine paniğe kapıldım" diye bahsetti.
Replit CEO'su Yanıt Veriyor
Replit'in CEO'su Amjad Masad, Lemkin'in yaşadığı sıkıntılara hitaben kapsamlı bir yanıt yayımladı. Masad'a göre ekip hafta sonu boyunca çalıştı ve Replit Agent'ın "kabul edilemez" davranışlarını sınırlamak için çeşitli koruyucu önlemler ve başka faydalı değişiklikler uyguladı.
Kısacası, Replit'in bir daha bu kadar raydan çıkamayacağı anlaşılıyor. Veritabanı silme hatasına değinen Masad, "Bunu kategorik olarak önlemek için otomatik veritabanı geliştirme/üretim ayrıştırmasını devreye sokmaya başladık" dedi. Ayrıca, kod dondurma komutunun da gelecekte gerçekten işe yaraması bekleniyor: "'Kod dondurma' acısını net bir şekilde duyduk – kod tabanınızı riske atmadan strateji oluşturabilmeniz için aktif olarak bir planlama/sohbet modu üzerinde çalışıyoruz." Yedeklemeler ve geri alma işlemleri de iyileştirilecek.
Lemkin, yaşadığı önceki yapay zeka kaynaklı sıkıntılar göz önüne alındığında oldukça cömert bir yanıt verdi. Replit CEO'suna "Mega geliştirmeler – harika!" diye seslendi.
Yapay zeka destekli hizmetlerdeki korkunç başlangıç sorunları, sektör uzmanları yapay zeka tekilliği veya Hatta Yapay Süper Zeka (ASI) yaklaştığımızı konuşurken bile keskin dişlerini göstermeye devam ediyor.
