Son yıllarda yapay zeka teknolojilerindeki ilerleme yadsınamaz bir gerçek ve bu hız baş döndürücü boyutlara ulaştı. Birbirinden iddialı yapay zeka modelleriyle rekabetin kızıştığı bu dönemde, yapay zeka alanında önemli çalışmalara imza atan firmalardan Anthropic'in CEO'su Dario Amodei, yeni yapay zeka modellerinin geliştirme hızının yavaşlatılması çağrısında bulunarak, potansiyel bir yapay zeka destekli botnet sürüsünün tüm interneti ele geçirebileceği uyarısında bulundu.
Dario Amodei, bir açık mektubunda şu ifadeleri kullandı: "Yapay zeka yeteneklerinin geliştirilme hızı göz önüne alındığında, 6-12 ay içinde böyle bir sürü, kalıcı bir botnet ile tüm interneti ele geçirebilecek kapasiteye ulaşabilir (potansiyel olarak yüz milyarlarca dolarlık zarara yol açabilir). Yapay zeka daha güçlü hale gelirken gerekli güvenlik önlemleri alınmazsa, zararın boyutu daha da artacaktır."
Amodei'nin bu öngörüsü, kısa süre önce Anthropic'ten ayrılan yapay zeka bilimcisi Evan Hubinger'in de dile getirdiği endişelerle örtüşüyor. Hubinger, insanlığın bu on yılın sonuna kadar yok olma ihtimalinin %10 olduğunu belirtmişti. Hubinger, "Yapay zekanın tüm insanlığı yok edebileceğine dair ciddi endişelerimiz var," dedi ve ekledi: "Şahsen önümüzdeki on yıl içinde bu olasılığın %10'dan fazla olduğunu düşünüyorum. Anthropic'in elinden geleni yaptığına inanıyorum ancak süper zeka için hizalanma sorununu çözmek adına henüz bir planımız yok ve açıkçası bu yönde ilerlemiyoruz."
Bilim kurgu filmlerinde sıkça gördüğümüz gibi, yapay zeka tehlikeli bir icat olarak resmedilse de, gelişmelere daha yakından bakmak gerekiyor. Yapay zekanın gelişimi, sadece soruları yanıtlamaktan ziyade, daha önce yalnızca uzman ekiplerin yapabildiği karmaşık, çok adımlı görevleri otonom olarak yerine getirmeye doğru ilerliyor. Bu durum, düşmanların insan gücü eksikliğini yapay zekanın yetenekleriyle nasıl telafi edebileceği sorusunu akla getiriyor.
Anthropic'in kendi bulguları, günümüzdeki yapay zeka modellerinin silah mühendisliği, istihbarat toplama, gözetleme, siber operasyonlar ve diğer yıkıcı potansiyeli olan faaliyetlere yardımcı olabileceğini gösteriyor. Daha gelişmiş modellerin ise bu tür eylemler için gereken uzmanlık, insan gücü ve zamanı önemli ölçüde azaltabileceği öngörülüyor.
Bu bulgular, bilim kurgunun iki farklı uyarısını akla getiriyor: James Cameron'un Terminatör'ü, otonom askeri yapay zeka üzerindeki kontrolün kaybedilmesinin sonuçlarını gösterirken, Frank Herbert'in Dune'u, insanlığın onlara tehlikeli derecede bağımlı hale geldikten sonra yapay zekayı yasaklamasını tasvir ediyor.
Bununla birlikte, daha yüksek yetenek seviyesinin otomatik olarak daha büyük tehlike anlamına gelmediğini de belirtmek gerekir. Örneğin, daha gelişmiş yapay zeka teknolojileri daha güçlü güvenlik önlemlerine sahip olabilir, kötü niyetli aktiviteleri tespit edebilir ve şimdiye kadar otomatize edilmemiş işleri otomatik hale getirebilir.
Yapay zeka geliştirmenin tamamen durdurulması da ters etki yaratabilir; zira daha az sorumlu firmalar veya ülkeler kendi modellerini ilerletmeye devam edebilir. Gerçekten de, en yetenekli yapay zeka sistemlerini askeri saldırganlıklarıyla bilinen aktörlerin eline bırakmak, maymunun eline bomba vermek kadar tehlikeli olabilir.
