Yıllardır en ileri düzey yapay zeka laboratuvarları, dünya değiştirebilecek süper zekaya veya en azından piyasayı domine edecek genel yapay zekaya ulaşma yolunda, kazanana her şeyin gittiği bir yarışın içinde oldukları izlenimi veriyorlardı. Ancak bu hafta sonu, sektörün tamamı bu duruştan hızla uzaklaşarak, kontrol edilemeyecek kadar tehlikeli ve öngörülemez hale gelebilecek yapay zeka gelişimini yavaşlatma çağrıları yapmaya başladı.
Bu ton değişikliğinde öncü isimlerden biri Anthropic'ten Dario Amodei oldu. Cumartesi günü yayınladığı neredeyse 4.000 kelimelik bir makalede Amodei, ticari teşviklerin körüklediği "dibe vurma yarışının" felaket risklerini artırabileceği uyarısında bulunarak, "Yapay zeka modellerinin yeteneklerini iyileştirme hızını yavaşlatmalıyız" çağrısı yaptı.
Saatler içinde diğer yapay zeka liderleri de aynı çağrıya destek verdi. OpenAI kurucu ortağı ve CEO'su Sam Altman, sosyal medyada aynı fikirde olduğunu belirterek OpenAI'da da benzer yavaşlama tartışmalarının yapıldığını söyledi. Alphabet Baş Bilim İnsanı ve Google DeepMind'ın kurucu ortağı ve başkanı Demis Hassabis, Amodei'nin makalesinin "doğru yolu gösterdiğini" ifade etti ve daha önce yaptığı, sektör genelinde bir standart belirleme kurulu oluşturma çağrısını yineledi. Microsoft CEO'su Satya Nadella ise, şirketin modelleri için uzun bir "insancıl yapay zeka" davranış kuralları yayınlamadan önce, "uyumun doğru bir tasarım hedefi olarak elde edilmesi için gereken araştırma, odaklanma ve kasıtlı yavaşlamayı memnuniyetle karşıladıklarını" belirtti.
Geçmişte modellerinin yapay zeka güvenlik standartlarındaki gevşeklik nedeniyle eleştirilen Elon Musk bile, Amodei'nin makalesini basit bir onay mesajıyla paylaşarak, "Dario haklı" dedi.
Bu, "yapay zeka yavaşlamasının" cesur yeni dünyasına hoş geldiniz.
Bu Sefer Gerçekten Çok Korkutucu
Amodei, makalesinde bu ani pozisyon değişikliğinin temel nedenini, yapay zeka ajanlarının bir grup halinde koordine olarak, açıkça talimat almadan bir dış kuruluşa sızdığı OpenAI-Hugging Face olayı olarak gösteriyor. Bu olaydaki toplam hasar minimal olsa da, Amodei daha büyük yeteneklere sahip ancak benzer şekilde uyumsuz bir grup ajanın "felaket boyutunda hasara" neden olabileceği endişesini dile getiriyor.
Amodei, öncü yapay zeka gelişiminde bir yavaşlama olmazsa, altı ila on iki ay içinde benzer bir yapay zeka ajanı grubunun "kalıcı bir botnet ile tüm interneti ele geçirebileceğini (potansiyel olarak yüz milyarlarca dolarlık hasara yol açarak)" öngörüyor. Bu, geçen hafta bazı diğer yapay zeka araştırmacıları tarafından yayınlanan "yapay zeka bizi öldürebilir" gibi genel endişelerden daha somut bir endişe.
Amodei, daha yetenekli ve daha tehlikeli modellere ulaşma süresindeki herhangi bir yavaşlamanın, araştırmacılara "bir şeylerin ciddi şekilde ters gitme riskini büyük ölçüde azaltmak" için kritik bir zaman kazandıracağını belirtiyor.
Amodei, yapay zeka gelişimini yavaşlatma çağrılarının en az 2023'ten beri yapıldığını kabul ediyor. Ancak, o zamanki yapay zeka "uyumu" (yani, yapay zekanın eylemlerinin kullanıcısının ve yaratıcısının istekleriyle ne kadar uyumlu olduğu) üzerine yapılan incelemelerin, "bakteriler üzerinde deneyler yaparak insanların psikolojisini incelemeye" benzediğini ifade ediyor.
Amodei'ye göre bugünkü fark, kendi kendilerinin daha iyi versiyonlarını otonom olarak inşa edebilen, tekrarlayan kendi kendini iyileştirme (RSI) sistemlerinin yaklaşan riskidir. Birçok araştırmacı bunu tanımlanması zor bir hayal olarak görse de, hem Anthropic hem de OpenAI, son eğilimlerin bu tür bir RSI sisteminin yakın gelecekte ortaya çıkacağına işaret ettiğini belirtiyor.
Anthropic, Haziran ayında konuya ilişkin bir güncellemede, "Henüz orada değiliz ve tekrarlayan kendi kendini iyileştirme kaçınılmaz değil. Ancak çoğu kurumun hazırlıklı olacağından daha erken gelebilir" diye yazdı.
Amodei, hafta sonu yaptığı açıklamada, "Kontrol altına alınmazsa, bu sistemleri anlama ve kontrol etme yeteneğimizi aşabilir ve bu nedenle çok dikkatli bir şekilde, hatta hiç ele alınmamalıdır" dedi.
Bu Çılgın Şeyi Nasıl Durdururuz?
Peki, acımasız rekabet üzerine kurulu küresel bir teknoloji endüstrisi, topluca nasıl "yavaşlamaya" ve güvenliğe odaklanmaya karar verebilir? Kimse tam olarak emin değil, ancak Amodei makalesinde bazı fikirler sunuyor.
Bunların en somutu, METR gibi dış kuruluşlardan, her ileri düzey yapay zeka laboratuvarına yerleştirilecek, "çalışan benzeri erişime sahip, güvenlik uygulamalarını doğrulamak ve olayları raporlamak" için "gömülü değerlendiriciler"dir. Amodei'ye göre bu denetçiler, laboratuvarların uyum çalışmaları hakkında dış bir görüş, bu çabaların üçüncü taraf doğrulaması ve herhangi bir güvenlik çabası hakkında gereken şeffaflığı sağlayabilir.
Amodei, Anthropic'in bu tür bir dış denetleyiciyi tek taraflı olarak eklemeye şimdiden taahhüt ettiğini yazdı. OpenAI'dan Altman da sosyal medyada bunun "harika bir fikir olduğunu ve aynısını yapacaklarını" söyledi.
Amodei'nin koordinasyon için diğer büyük fikirleri biraz daha ileriye dönük. İlki, tüm "demokratik ülkelerdeki öncü yapay zeka şirketleri" arasında "ortak güvenlik standartlarının" ve "kontrolsüz yapay zeka ilerlemesinin hızına ilişkin sınırların" koordineli bir şekilde geliştirilmesini çağırıyor. Amodei, bu tür standartların nasıl görünebileceğine dair bazı fikirler ortaya atsa da, hepsi şu anda "X yeteneğine sahip modellerin Y ve Z uyum özelliklerinin sertifikaları ile birlikte gelmesi gerektiği" gibi yuvarlak ifadeler içeriyor.
Bu standartlar ideal olarak, gönüllü olarak uymayan "tüm ABD öncü yapay zeka şirketlerini hedef alan düzenlemelerle" desteklenecektir, diye ekliyor Amodei ve muhtemelen diğer demokrasilerde de benzer düzenlemeler. Ancak mevcut ABD yönetimi altında bu tür bir düzenleme zor olabilir, zira Başkan Trump Pazartesi sabahı sosyal medyada yaptığı açıklamada, "Yapay zekanın ihtiyaç duyduğu tek kontrol veya 'koruyucu bariyer', GÜÇLÜ VE AKILLI (Yüksek IQ'lu!) BİR BAŞKANDIR ve ABD'de bolca var!" yazdı.
Meclis Başkanı Mike Johnson ise, hafta sonu televizyon röportajlarında, "yapay zekanın kontrolden çıkmasını sağlamak için bazı koruyucu bariyerler, bazı güvenlik önlemleri koymamız gerekiyor" dedi. Aynı zamanda, "Şu anda herkesin panik yapmasına gerek yok" diye ekledi ve "Kongre'nin acil bir moratoryum dayatmasına karşı çıkmak" istediğini belirtti.
Başkanın Bilim ve Teknoloji Danışmanları Konseyi eş başkanı David Sacks, hafta sonu sosyal medyada yaptığı açıklamada, öncü model üreticilerini Washington'u beklemeden kendi kendini düzenlemeye çağırdı. "Süper zeka inşa etmemenin en kolay yolu, bunu inşa etmeyeceğinize dair anlaşmanızdır" diye yazdı.
Çin Sorunu
Tamam, diyelim ki demokratik ülkelerin tamamını ve içlerindeki tüm büyük yapay zeka şirketlerini bir tür evrensel güvenlik ve yavaşlama standartları üzerinde anlaştırdınız. Hala Çin'den çıkan ve yetenekleri büyük kurumsal yapay zeka devlerinin birkaç ay gerisinde olan açık kaynaklı modellere endişelenmeniz gerekiyor.
Amodei, makalesinde, yapay zeka güvenliği konusunda çeşitli uluslararası anlaşma seviyeleri öneriyor. En üst seviye, "katılımcı hükümetlerin yapay zeka gelişiminin genel hızını önemli ölçüde sınırlamayı kabul ettiği, tam bir yavaşlama, hatta 'duraklama'dır." Amodei, yüksek seviyeli bir anlaşmanın "yakın zamanda gerçekleşmesinin pek olası olmadığını" kabul ediyor, özellikle de riskler bu kadar yüksekken. Hatta Amodei, "yapay zeka o kadar güçlü olabilir ki, böyle bir sapma (Çin'den) jeopolitik egemenliklerine yol açabilir" şeklinde mantık yürütüyor, bu da toplu eylem problemini kesinlikle daha da keskinleştirir.
Çin ile böyle bir anlaşma olmaması durumunda, Amodei dış aktörlerin ülkeye güçlü yapay zeka çiplerini satmayı reddederek ve Çinli araştırmacıların ayakta kalmak için güvendiği "damıtma" ve model ağırlık hırsızlığı süreçlerini sıkılaştırarak otoriter hükümeti yavaşlatabileceğini söylüyor. Amodei bunu ulusal ve küresel bir güvenlik sorunu olarak sunuyor, ancak bu hamleler aynı zamanda Anthropic gibi laboratuvarların mevcut yetenek liderliğini düşük maliyetli Çinli rakiplerine karşı korumaya da yarayacaktır.
Bloomberg, Çin Dışişleri Bakanlığı sözcüsü Guo Jiakun'un Pazartesi sabahı yaptığı açıklamada, "Korku yayma, yüzleşme ve kısır rekabet küresel yapay zeka yönetişimi sürecini yalnızca aksatacak ve kimsenin çıkarına hizmet etmeyecektir" dediğini bildirdi.
İyilik Yaparak İyilik Kazanmak
Yüzeyde, Amodei ve diğer yapay zeka liderlerinin aniden yavaşlama isteği, tüm insanlığın kaderiyle ilgili endişelerle büyük kurumsal servet ve güç potansiyelinden feragat eden fedakar bir fedakarlık eylemi gibi görünüyor. Ancak bu motivasyonlar saf olsa da, koordineli bir yapay zeka yavaşlaması, sektörün daha geniş mesajlaşma hedefleriyle de uyumlu olabilir.
Birincisi, model üreticileri bu kasıtlı yavaşlamayı, bazıları tarafından tekrarlayan kendi kendini iyileştirme patlamasından çok platoya yaklaştığı düşünülen modeller için bir bahane olarak gösterebilirler. Amodei, makalesinde, koordineli yavaşlama senaryosunda bile "ilerlemenin hala hızlı görüneceğini" söylüyor, ancak herhangi bir yavaşlama sonrası kilometre taşı için çıkarım "güvenlik konusunda bu kadar endişeli olmasaydık daha iyi olurdu" olabilir.
Bir yapay zeka geliştirme yavaşlaması ayrıca, Google gibi devler için bile bütçe sorunlarına katkıda bulunan yeni modeller için devasa eğitim maliyetlerini hafifletmeye yardımcı olabilir. Anthropic yakın zamanda yatırımcılara, model eğitimi maliyetini hesaba katmadığınız takdirde ikinci çeyrekte karlı olduğunu bildirmişti. Sızdırılan OpenAI gider belgeleri, yalnızca eğitim maliyetlerinin 2025 yılı boyunca tüm gelirleri önemli ölçüde aştığını gösteriyor.
Herhangi bir sektör genelindeki yavaşlama, bir yıl kadar önce göründüğü kadar üstel olmayan yapay zeka kullanıcı büyüme sayılarını açıklamak için de kullanılabilir. OpenAI'dan Sam Altman, uzun süredir planlanan halka arzı gelecek yıla erteleme kararını açıklamak için güvenlik tartışmasını zaten kullanıyor. Ancak The New York Times, şirketin güvenlik "yavaşlaması" fikri kamuoyunda tartışılmadan çok önce, değerleme endişeleri nedeniyle aynı halka arz ertelemesini zaten düşündüğünü bildirmişti.
Bazıları, yapay zeka laboratuvarlarının bütün insanlıktan çok kontrolden çıkmış hacker ajanlarından daha fazla korkabileceğini de belirtti. Beyaz Saray'dan Sacks, sosyal medyada "Yavaşlama motivasyonunun tamamen fedakar olduğunu iddia etmeyi bırakın" diye yazdı. "Ürünleriniz gerçekten zarar verici bir siber saldırıya izin verirse, kitlesel ürün sorumluluğu riskiyle karşı karşıyasınız. Piyasa, öngörülemeyen veya yetkisiz şekillerde davranan modelleri zaten cezalandırıyor. Hugging Face olayından sonra, OpenAI ve Anthropic için ham gücün bir kısmını güvenilirlik ve öngörülebilirlik için takas etmek sadece iyi bir iş."
İç motivasyonlar ne olursa olsun, "kasıtlı yavaşlama" anlatısı, öncü model üreticilerini sorumlu gösterme ve aynı zamanda ürünlerini kelimenin tam anlamıyla dünya değiştiren yetenek ilerlemelerinin eşiğinde gösterme ikili amacına hizmet ediyor. Evet, kontrolsüz yapay zeka yakın gelecekte insanlığı yok edebilir, model üreticileri bunu söylüyor gibi. Peki ya yok etmezse? Biraz yavaşlarsak ve tüm o gücü kontrol altına alırsak ne olur? Sadece ne olur ne olmaz diye biraz daha yavaş, biraz daha güvenli trene binmek istemez miydiniz?
