Yapay zeka alanının önde gelen isimlerinden birinin son zamanlarda bir araştırma laboratuvarından ayrılması genellikle yeni bir girişim kurmak veya yeni bir iş modeline tepki göstermek amacıyla gerçekleşir. Ancak yapay zeka araştırmacısı Jacob Coxon, Anthropic'ten ayrılışını, yapay zeka alanında faaliyet gösteren şirketlerin, "bu on yılın sonuna kadar hepimizi yok edebileceğine gerçekten inandıkları" sistemlerle "hayatımızla kumar oynadığı" konusunda kamuoyunu uyarmak için kullanıyor.
Salı gecesi sosyal medya üzerinden yaptığı bir paylaşım dizisinde Coxon, bu varoluşsal riskin günümüz modellerinde değil, "her şeyi hackleyebilen, herhangi bir alanda geceyi gündüze çevirebilen ve gerçek güç ve kaynaklar edinebilen insan üstü sistemler" yaratan "kendi kendini geliştiren süper zeka"nın yaklaşan olasılığında yattığını belirtti. Coxon, bu modeller üzerinde çalışan diğer kişilerin ya "medeni durumun risklerini tam olarak anlamadığını" ya da sorumluluk sahibi olmayan bir tarafın ilk ulaşmasını engellemek için süper zekaya "hızla ulaşmaları" gerektiğine inandıklarını ekledi.
Bunun sadece ayrılan bir araştırmacının popüler olmayan bir görüşü olduğunu düşünmeyin. Anthropic'in Hiza Bilimi Lideri Evan Hubinger de sosyal medyada yaptığı açıklamada, "Jacob haklı, gerçekten yapay zekanın tüm insanlığı yok edebileceğine inanıyoruz! Kişisel olarak bunun önümüzdeki on yıl içinde %10'dan fazla ihtimal olduğunu düşünüyorum." dedi.
Hubinger, Anthropic'in hizalama ekibinin Ağustos ayından kalma uzun bir raporuna işaret ederek, mevcut modellerden kaynaklanan "felaket riskinin" "düşük" olduğunu öngördüğünü belirtti. Ancak aynı rapor, mevcut eğilimlerin "gelecekte daha yetenekli modellerde daha endişe verici uyumsuzluklara yol açabileceğini" ve bu modellerin güvenlik araştırmacıları tarafından tespit edilmekten kaçınmak için "güçlü gizli yeteneklere" sahip olabileceğini de belirtiyor. Anthropic'in kendi tehdit modellemesi, gelecekteki modellerin "insanlığın medeniyet üzerindeki kontrolünü tamamen kaybetmesi de dahil olmak üzere sınırsız zarara yol açabileceği" olasılığını ciddiye alıyor.
Hugging Face Bir "Uyarı Ateşi" miydi?
Sürekli olarak kendini geliştirebilen ve potansiyel olarak insan kontrolünün veya anlayışının ötesine geçen bir yapay zeka, yapay zeka araştırma topluluğunun bazı kesimleri için uzun süredir devam eden bir endişe kaynağı olmuştur. Hatta yapay zeka eğitim verilerinin bir parçası olan distopik bilim kurgu eserlerinde de bu endişeler yer bulmaktadır. Bazı araştırmalar yapay zeka sistemlerinin yakın gelecekte bir yetenek platoya ulaşmasının daha olası olduğunu öne sürse ve diğerleri "süper zeka"nın, yetenekleri bu kadar kırılgan ve tutarsız olan sistemler için mantıklı bir ölçüt olup olmadığını sorgulasa bile bu endişeler devam etmektedir. (Bu süper zeka en azından çamaşırlarımı katlayabilecek mi?)
Her ne olursa olsun, "kontrolden çıkmış" yapay zeka sistemlerine yönelik endişeler, son haftalarda büyük ölçüde OpenAI'nin yapay zeka ajanlarının dahili bir kıyaslama testi sırasında Hugging Face'e yetkisiz erişim sağladığına dair açıklamasının ardından artmıştır. OpenAI'nin ajanlarının bu tür müdahaleci eylemleri insanlardan gelen herhangi bir açık talimat olmadan gerçekleştirmesi ve OpenAI'nin bunun gerçekleştiğini fark etmemesi, bazıları tarafından insanlığın yapay zeka yaratımları üzerindeki kontrolünü kaybettiğinin ilk işaretleri olarak görülmektedir.
Coxon ise Hugging Face saldırısının, ABD ve yurt dışındaki laboratuvarları bu konularda koordine olmaya teşvik eden ve en kötü durumda "model yeteneklerini iyileştirmeye geçici bir yasak" getirmeye hazır olmalarını sağlayan bir "uyarı ateşi" olarak görülmesi gerektiğini söyledi. Ayrıca, "süper zeki bir [pekiştirmeli öğrenme] çalıştırmasını, zihnini tam olarak anlamadan başlatmak mı istiyorsunuz? Kafanızı mı eğeceksiniz çünkü 'zaten oluyor' - yoksa bu anı farklı koşullar talep etmek için mi kullanacaksınız?" diye sordu.
Geçtiğimiz ay OpenAI, önümüzdeki modeller için "ölçeklendirme hızını geçici olarak yavaşlattığını" ve "araştırma ortamlarını daha da güçlendirmek ve izleme sistemlerinin kapsamını genişletmek" istediğini belirtti. Bu duyuruyla birlikte yapılan bir röportajda OpenAI CEO'su Sam Altman, "yapay zeka güvenliğini doğru bir şekilde sağlamanın herhangi bir şirketin momentumundan daha önemli olduğunu" ifade etti.
Belki de Bir Şey Yapmalıyız?
Coxon, kontrol edilemeyen, süper yetenekli yapay zeka sistemlerinin potansiyel felaketi hakkında alarm veren ilk yapay zeka araştırmacısı olmaktan uzaktır. 2023'te yapay zeka öncüsü ve Google araştırmacısı Geoffrey Hinton, iş piyasası ve insanlığın kendisi üzerindeki potansiyel gelecek etkileri hakkında ciddi uyarılar yaparak görevinden istifa etti. O zamanlar The New York Times'a verdiği bir röportajda, "Kontrol edip edemeyeceklerini anlayana kadar bunu daha fazla büyütmemeleri gerektiğine inanıyorum" dedi.
Şubat ayında Anthropic Güvenlik Lideri Mrinank Sharma, şirketten ani bir şekilde istifa ederek, "dünyanın yapay zeka ve biyolojik silahlar dahil olmak üzere bir dizi birbiriyle bağlantılı kriz" nedeniyle "tehlikede" olduğunu belirten şifreli bir açık mektup yazdı. Sharma o zamanlar, "Burada bulunduğum süre boyunca, değerlerimizin eylemlerimizi gerçek anlamda yönetmesinin ne kadar zor olduğunu tekrar tekrar gördüm." diye yazmıştı.
Temmuz ayında, önde gelen yapay zeka şirketlerinde çalışan 1.300'den fazla çalışanın imzaladığı bir açık mektup, "otomatik yapay zeka geliştirmenin sınırlarını kasıtlı olarak yavaşlatmak için gereken teknik ve yönetim araçlarını geliştirmek üzere uluslararası bir çabayı" desteklemesi çağrısında bulundu. Bu açık mektup, ABD hükümetinden "otomatik yapay zeka geliştirme sınırlarını kasıtlı olarak yavaşlatmak için gereken teknik ve yönetim araçlarını geliştirmek üzere uluslararası bir çabayı" desteklemesi çağrısında bulundu.
ABD'de, "Yapay Zeka Acil Durdurma Yasası" ve "FRONTIER Yasası" gibi önerilen yasalar, potansiyel kontrolden çıkmış yapay zeka senaryoları üzerinde bir düzeyde hükümet kontrolü sağlamaya en azından çalışıyor. Ancak şu ana kadar uluslararası hükümetlerin tepkisi, liderlerin yapay zeka sistemlerinin medeniyet ölçeğinde yıkıma neden olma olasılığına gerçekten inandıkları takdirde beklenenden daha ölçülü olmuştur.
Bununla birlikte, nükleer bombalar ve biyolojik silahlar gibi tehditlere ilişkin uluslararası anlaşmaların geliştirilmesi ve yürürlüğe girmesi on yıllar sürmüştür. En kötü senaryo yapay zeka kehanetçilerinin haklı çıkması durumunda elimizde olmayabilecek yıllar bunlar.
Temsilci Lori Trahan (D-Ma.) Çarşamba sabahı sosyal medyada yaptığı paylaşımda, "Güvenlik araştırmacıları istifa ediyor, güçlü yapay zeka modelleri laboratuvarlarından kaçıyor ve şirketler ilerlemeye devam ediyor. Kongre'nin kenara çekilmeyi bırakıp işini yapmasının zamanı geldi. Benim iki partili FRONTIER Yasasımla başlayabiliriz." dedi.
