Yapay zeka alanında faaliyet gösteren Anthropic, özyinelemeli kendi kendine gelişim (RSI) adı verilen önemli bir kilometre taşına yaklaştığı konusunda uyarılarda bulundu. Bu süreç, yapay zekanın kendisinin giderek daha yetenekli versiyonlarını geliştirmesine yardımcı olduğu bir yöntemi ifade ediyor. Yapay zeka yeteneklerinin bir noktada araştırmacıların anlayıp güvenli bir şekilde kontrol edebileceğinden daha hızlı ilerleyip ilerlemeyeceği sorularını da beraberinde getiriyor.
Edinilen bilgilere göre, Anthropic'in yaptığı değişikliklerle birlikte sunduğu başvuru dosyasında yer alan bu uyarı, yapay zeka modellerinin gelecekte, ciddi oranda hızlanmış ve yapay zeka kaynaklı ilerleme için belirlenen eşiği aşabileceği yönündeki şirket içi projeksiyonları ortaya koyuyor.
Anthropic, mevcut modellerinin hiçbirinin bu eşiği resmi olarak geçmediğini özellikle belirtiyor.
Şirketin Sorumlu Ölçeklendirme Politikası kapsamında tanımlanan bu dönüm noktası, yapay zeka sistemlerinin ya araştırma ekibinin tamamını rekabetçi maliyetlerle değiştirmesi ya da otomatikleştirilmiş araştırma ve mühendislik yoluyla genel yapay zeka yeteneklerindeki ilerleme hızını ikiye katlamasına yardımcı olması anlamına geliyor.
Bu durum, tekil geliştiricilerin verimliliğini iki katına çıkarmaktan farklıdır ve bu eşiğin aşılması tam olarak otonom özyinelemeli kendi kendine gelişimin sağlandığı anlamına gelmeyecektir.
Bununla birlikte, Anthropic'in son açıklamaları, yapay zekanın haleflerinin geliştirilmesinde giderek daha önemli bir rol oynadığını gösteriyor.
Eylül ayında Claude, Anthropic'in kod tabanına yapılan katkıların %90'ından fazlasını kendi başına üretti. Bu dönemde mühendis başına ortalama günlük kod çıktısı, 2024 seviyelerinin 45 katından fazla oldu. Bu rakamlar, mühendislik verimliliğindeki eşdeğer kazanımlardan ziyade kod hacmini ölçüyor.
Anthropic daha önce bu artan yapay zeka bağımlılığını, Claude'un giderek artan bir şekilde yazılım mühendisliği, deneyler ve araştırma görevlerini üstlendiğini açıklayan When AI Builds Itself başlıklı araştırma yayınında ayrıntılı olarak ele almıştı. Ancak, insan araştırmacılar hala araştırma hedeflerini belirleme ve daha geniş bilimsel muhakeme yürütme konularında önemli bir avantaja sahip.
Şirket, hızlanan gelişimin, buna karşılık gelen güvenlik, uyum ve emniyet önlemlerini uygulama kabiliyetini aşabileceği konusunda uyarıyor. Ayrıca, önemli hızlanmaları meydana geldikten sonra fark edemediği durumları da kabul ediyor.
Bu endişe yeni değil. Daha önce de özyinelemeli kendi kendine gelişim konusundaki uyarılar ve öncü yapay zeka gelişiminin yavaşlatılması yönündeki çağrılar gündeme gelmişti. Son olarak, Anthropic'in yapay zeka destekli kodlama operasyonlarının hızla genişlediği bildirildi.
Şu an için Anthropic, Claude'un önemli insan denetimi olmadan otonom olarak sonraki öncü modelleri geliştirmesine güvenli bir şekilde izin vermeyi beklemediğini belirtiyor. Şirket, geliştirme süreci üzerinde insan kontrolünü sürdürmek için ek güvenlik önlemleri üzerinde çalışıyor.
Gerçekten kendi kendini geliştiren yapay zeka, bilimsel keşifleri ve teknolojik ilerlemeyi hızlandırabilirken, Anthropic'in son uyarısı, güvenlik önlemlerinin giderek daha otonom araştırma sistemleriyle ayak uydurma zorluklarını vurguluyor.
Kaynakça: wccftech.com
