Meta bünyesindeki araştırmacılar, yapay zeka sistemlerinin insan müdahalesi olmadan kendi kendilerini geliştirme potansiyelini gözlemlediklerini iddia ediyor. Meta Üst Yöneticisi Mark Zuckerberg'in 30 Temmuz'da şirketin web sitesinde yayımlanan politika belgesine göre, bu gelişim şu anda yavaş ilerlese de göz ardı edilemeyecek düzeyde.
Zuckerberg, kendi kendini geliştiren yapay zekanın, insanların bilişsel yeteneklerini aşabilen bir yapay zeka türü olan yapay süper zekaya (ASI) ulaşma yolundaki ilk adım olduğunu belirtti. Yapay zeka araştırmacıları, genel olarak yapay zekanın yeteneklerini üç aşamada değerlendiriyor. Günümüz yapay zeka modelleri, protein yapılarını tahmin etmek gibi olağanüstü insanüstü başarılar elde edebilse de, bu yetenekler oldukça dardır. Bu tür durumlarda sistem, yalnızca belirli bir alanda insanları geride bırakabilir ancak farklı disiplinlere uygulanabilecek genel bir zekadan yoksundur.
Bir sonraki aşama, insan beynine benzer şekilde anlayabilen, öğrenebilen ve adapte olabilen modelleri ifade eden yapay genel zeka (AGI) olarak adlandırılır. Zuckerberg'in blog yazısında bahsettiği son aşama olan ASI ise, insan potansiyelini çok aşan ve katlanarak kendi kendini geliştirme yeteneğine sahip olan, bu da bir "zekâ patlamasına" yol açabilecek modelleri kapsar. Bilim insanları, AGI'ye ulaştığımız varsayımsal ana "teknolojik tekillik" adını veriyor.
Meta'nın yapay zeka sistemlerinde kendi kendini geliştirme eğilimini gözlemlemesi ilk kez karşılaşılan bir durum değil. Ekim 2024'te Kaliforniya Üniversitesi, Santa Barbara'dan araştırmacılar, kendi kodunu ve talimatlarını yeniden yazarak kendini geliştirebilen teorik bir cihaz olan Gödel Makinesi fikrine dayanan bir yapay zeka çerçevesini inceleyen bir makale yayımladılar. Bu makinede önemli olan, değişikliğin faydalı olacağına dair resmi bir kanıt üretebilirse değişikliği uygulayabilmesiydi.
Ekip, bu konsepte dayalı bir yapay zeka çerçevesiyle deneyler yaptı ve Gödel Agent'ın kodlama, bilim, matematik ve akıl yürütme dahil olmak üzere çeşitli görevlerde kendi performansını iyileştirebildiğini kanıtladı. Tipik olarak modellerin kendi kodlarını yeniden yazma yetkisi bulunmazken, Gödel Agent tüm kod tabanına ve iyileştirmeleri geliştirmek için kullanılan koda erişebildi ve bu iyileştirmelerin faydalı olduğunu gösterdi. Çalışmaya göre, yapay zeka karşılaştırıldığı insan tasarımı ajanlardan daha iyi performans gösterdi.
Zuckerberg, ASI'nin insanlığın teknolojik ilerlemesinde dönüştürücü bir adım olabileceğini ve "bugün hayal edilemeyen yeni şeylerin keşfedilmesine" yol açabileceğini söyledi. Bununla birlikte, Meta'nın açık kaynak çerçevesi altında hangi modelleri halka açık olarak yayımlayacağı konusunda çok daha dikkatli olacağını ekledi. Zuckerberg, "Süper zekanın insanlığın ilerleme hızını hızlandırmasına yardımcı olacağı konusunda son derece iyimserim. Ancak belki de daha da önemlisi, süper zekanın, insanların seçtikleri yönlerde dünyayı iyileştirme konusunda daha fazla söz hakkına sahip olacağı yeni bir kişisel güçlenme çağını başlatma potansiyeline sahip olmasıdır." dedi. "Yapay zekanın üreteceği bolluk bir gün ne kadar büyük olursa olsun, hayatlarımız üzerindeki daha anlamlı bir etki muhtemelen herkesin hedeflerine ulaşmasına, dünyada görmek istediği şeyleri yaratmasına, herhangi bir macerayı deneyimlemesine, değer verdiği kişilere daha iyi bir arkadaş olmasına ve olmak istediği kişiye dönüşmesine yardımcı olan kişisel bir süper zekâya sahip olmasından gelecektir."
