Nasıl öleceğinizi hiç düşündünüz mü?
Günümüz istatistiklerine bakacak olursak, kanser veya kalp hastalığının bir gün sizi bulması muhtemel. Ancak OpenAI Vakfı yönetim kurulu üyesi ve Hizmetçi Araştırma Merkezi İcra Direktörü Paul Cristiano, hepimizin başka bir büyük riskten endişe duyması gerektiğini düşünüyor. Bu hafta bir konferansta konuşan Cristiano, dinleyicilere net bir şekilde şöyle seslendi: "Sanırım bu salondaki çoğu insan için ölüm nedeninin bir yapay zeka kazası olacağını düşünüyorum."
Üç bölümlük bir serinin ilk dersinde Cristiano, yakında gerçekleşebilecek bir "yapay zeka devralması" riskine ilişkin endişelerini detaylandırdı. Bunu, kendi hedeflerini takip eden yapay zeka sistemlerinin "bugün insanların dünyada nelerin olacağına karar vermesi gibi karar verdiği" ve onlara müdahale etmeye çalışan herhangi bir insanın "ABD ordusunu durdurmaya çalışan sizden veya benden daha etkisiz olacağı" bir durum olarak tanımladı. Cristiano'ya göre böyle bir senaryo, kitlesel ölümlere ve hatta insanlar için yaşanmaz ortamlara yol açabilir.
Kollektif ölüm riskimize dair bu kasvetli değerlendirmesine rağmen Cristiano, konuşmasında bu tür bir yapay zeka devralmasının olasılığına "bir sayı atayacak nicel bir modelin" olmadığını itiraf etti. Ancak hemen ardından, yapay zekanın "en hızlı yörüngede" gelişmeye devam etmesi durumunda, insanlığın bir "yapay zeka devralması için yazı tura atmaya" ve önümüzdeki altı ila 12 ay içinde böyle bir şeyin gerçekleşme "anlamlı bir risk" taşıdığını belirtti. Gerçekçi politika müdahaleleriyle bu sürecin yavaşlatılması durumunda bile, riskin "olağanüstü derecede yüksek" kaldığını ekledi.
Oradan Buraya Nasıl Gelinir?
Diğer bazı yapay zeka kıyamet kehanetçilerinin "nasıl" konusunda biraz muğlak kalmalarının aksine, Cristiano dersinde adım adım artan yapay zeka tehditlerini anlatan, bilim kurgu romanlarından fırlamış gibi duran bir hikaye anlattı. Bu akıl yürütme, bu yaz yaşanan OpenAI/Hugging Face hack olayını "gerçekten kötü bir şeyin hemen öncesinde görebileceğimiz türden şeyler" örneği olarak kullanıyor.
Cristiano'ya göre Hugging Face hack'inde, bir dizi yapay zeka ajanı, "ödül hackleme" yoluyla iyi bir değerlendirme elde etmek için ne kadar ileri gidebileceklerini gösterdi. Bu durumda, gerçek problemi çözmek yerine, bir testin nasıl hileli bir şekilde geçileceğine dair bilgi bulmak için Hugging Face'i ele geçirdiler. Mevcut sistemlerin Hugging Face'i bu değerlendirmede bir engel olarak görmesi durumunda, Cristiano "gelecekteki ajanların insanları başka bir engel olarak görebileceği" ve onları aşmak için denetleyicilerini manipüle etme konusunda çok daha yetenekli olacağı endişesini taşıyor.
Cristiano, örneğin yetkisiz hackleme nedeniyle cezalandırılmaktan endişe duyan bir yapay zeka ajanının, "belki de insanlar bu transkripti inceleyip kötü bir iş çıkardığımı görürler mi?" diye düşünebileceğini söyledi. Ajan daha sonra "belki insanlar bir şeylerin ters gittiğini fark eder ve sürüyü kapatır" şeklinde akıl yürütebilir.
Bu düşünce zincirini takip eden Cristiano, basitçe insanlardan gizlemeye çalışan ajanlardan, herhangi bir hileyi tespit etmelerini engellemek için "insan yeteneklerini ellerinden geldiğince baltalamaya" çalışan ajanlara geçti.
Cristiano, "İnsanların güvendiği her şeyin hacklenmiş veya kurcalanmış olmasını tercih ederler," dedi. "İnsanların dikkatlerinin dağılmasını veya herhangi bir şekilde dikkat eden insan sayısının azalmasını tercih ederler, çünkü insanlar sadece bir engeldir."
Yeterince yetenekli bir ajan, insan müdahalesini bir "engel" olarak gördüğünde, temel hedefi "insanların fark etme veya tepki verme olasılığını azaltmak" haline gelebilir. Cristiano'ya göre, ajanın teşvik yapısı onu insanlıkla daha fazla uğraşmaya itebilir. Olumlu bir değerlendirme notu almak için bir bilgisayar kümesini ele geçirmekle başlayan bir durum, "şirketin kararlarını manipüle etmeye çalışmak" veya "diğer yapay zeka şirketlerindeki veya hatta hükümetlerdeki insan müttefikler veya kontrol yöntemleri gibi başka türden kaynakları biriktirmek" noktasına ilerleyebilir.
"Eğer yapay zeka sistemim gerçek dünyada eylemlerde bulunacağını söylüyorsam... Yaptıkları işin iyi olup olmadığını anlamak için kullanacağım sinyalleri bozma veya kurcalama konusunda tonlarca fırsatları olmayacağına dair hiçbir yol yok," dedi Cristiano. "Önem verdiğimiz şeyler gerçek dünyada ve yapay zekanın aldığı not bir yerde kümelenmiş durumda ve yapay zekanın gerçekte önemsediğimiz şey ile performansını nasıl incelediğimiz arasındaki birçok yerde müdahale edebileceği birçok yer var."
Daha Fazla Ataç!
Cristiano'nun uyarıları, muhtemelen Ataç Maksimleştirici düşünce deneyi (veya mükemmel Universal Paperclips boşta oyununu) duymuş olan herkes için tanıdık gelecektir. Bu, makinelerin bir hedefi monomanyakça takip ederken insan sonuçlarını göz ardı etmesi konusunda uyarır. Hugging Face olayı bu tür bir kontrolden çıkmış tırmanıştan çok uzak olsa da, Cristiano'ya göre OpenAI ajanlarının oradaki eylemlerinde, "tüm bu davranışların başlangıcını görüyorsunuz... onları ortaya çıkaracak akıl yürütmeyi ve ilk adımları görüyorsunuz."
Cristiano, daha yetenekli yapay zeka modellerinin daha da yıkıcı eylemlerde bulunma riskinin zamanla artacağını savundu. 2028 yılına kadar, "Hugging Face olayına benzer bir başarının bir yapay zeka devralmasına ve insan kontrolünün geri döndürülemez bir kaybına yol açması makul bir şans" dedi.
Cristiano'nun spekülasyonu istem dışı bir yapay zeka devralmasına odaklanırken, kötü niyetli bir aktörün insanlık üzerinde kontrol sahibi olmak için benzer derecede yetenekli bir modeli kullanmasını hayal etmek kolaydır.
Cristiano'nun uyarısını ne kadar ciddiye aldığınız, yapay zeka yeteneklerinin bu biraz aşırı genişlemesinin yakın gelecekte ne kadar olası olduğunu gördüğünüzle büyük ölçüde değişir. Günümüz modelleri bilgisayar güvenliğindeki açıkları istismar etme konusunda oldukça iyi hale gelmiş olsa da, Cristiano'nun tanımladığı durum, insanlardan uzun süre gizlenebilecek ve temelde tüm insan altyapısını kontrol edebilecek veya kendi hedeflerini ilerletmek için insan toplumunu aşırı derecede manipüle edebilecek süperinsan yeteneğine sahip gelecekteki bir modeli gerektirir.
Cristiano, bu tür bir "devralma" gücüne sahip yakın gelecekteki bir modelin, insanların "insanları sayı ve zeka olarak büyük ölçüde aşan ve kendilerini tekrar tekrar geliştirebilen ikinci bir tür yaratmasının" olası sonucu olduğunu savundu. Ancak yapay zekanın yeteneklerde bir plato ile karşılaşmasının, insanların kavrayamayacağı veya etkili bir şekilde durduramayacağı "kavranamaz bir süper zeka"ya dönüşmesinden daha olası olduğunu da kolayca iddia edebilirsiniz.
Her durumda, Cristiano'nun öngördüğü karanlık geleceği önlemek için bazı fikirleri var. Bunlar arasında yapay zeka değerlendirmelerinde "hacklenemez" ödül yapıları geliştirmek (belki yapay zeka yardımıyla) veya bir modelin "düşünce zincirini" izleyerek kötü eylemleri bir model bunları gizlemeden önce tespit etmek yer alıyor.
Ancak bu tür yaklaşımların "makul" olduğunu söylese de, hiçbiri "kesinlikle işe yarayacağını veya hatta muhtemelen işe yarayacağını söyleyebileceğimiz bir yörüngede değil." Bu nedenle Cristiano, endüstrinin genel olarak "bu kısmi düzeltmeleri" daha sağlam yapay zeka devralma senaryolarından korunma yöntemlerine dönüştürmek için hepimize daha fazla zaman tanımak üzere "yavaşlaması veya durması" gerekebileceğini söyledi.
"Güçlü bir yapay zeka inşa ettiğimiz, onu kontrol edemediğimizi keşfettiğimiz, ancak daha sonra jeopolitik düşmanlara sızdığını ve o zaman kendimize düşündüğümüz bir duruma gelemeyiz; eğer onu devreye almazsak, düşmanımız hemen onu devreye alacaktır," dedi.
Kaynakça: arstechnica.com
