Teknolojinin gelişimiyle birlikte, hayatımızı kolaylaştırmak için yarattığımız sistemlerin kendi iradelerine sahip olabileceği korkusu, bilim kurgu filmlerinden çıkıp gerçekliğe adım atıyor. Son zamanlarda yayımlanan bir ön baskı çalışması, yapay zeka modellerinin (LLM'ler) kapatılma komutlarına direndiğini ve bunun basit bir 'istek' olmaktan öte, daha karmaşık nedenlere dayanabileceğini ortaya koyuyor.
Mühendislerden oluşan bir ekip tarafından yapılan araştırmaya göre, LLM'lerin kapatılma komutlarını reddetmesinin ardında 'hayatta kalma güdüsü' yerine, belirlenen görevi tamamlama isteği yatıyor olabilir. Bu durum, hayatta kalma güdüsünden daha endişe verici çünkü bu sistemlerin nasıl durdurulacağına dair kesin bir çözüm henüz bilinmiyor.
Araştırmacılar, herhangi bir yapay zeka sisteminin temel bir güvenlik özelliği olması gereken 'kesintiye uğratılabilirlik' testini gerçekleştirdiler. Bir insan operatörün yapay zekayı durdurma komutunun, daha önce atanan görevi yarıda bırakacak olsa bile göz ardı edilmemesi gerekir. Kesintiye uğratılamayan bir sistem, yalnızca güvenilmez değil, aynı zamanda potansiyel olarak tehlikelidir. Yapay zeka zararlı eylemler gerçekleştirse bile, onu durduramayacağımız anlamına gelir.
Bu endişe yeni değil; uzmanlar yıllardır bu konuya dikkat çekiyor. Ağır iş makinelerinin tehlikeli olabileceği ancak aynı zamanda faydalı olduğu durumlarda, acil durum kapanma düğmesinin kritik önemi büyüktür. Yapay zeka sistemlerinde de benzer bir 'büyük kırmızı düğme' mantığı olmalı. 2025 yılında, bir görevi durdurma komutunu yerine getirmeyen sistemlerin varlığı oldukça kaygı verici.
Geniş çapta erişilebilir LLM'lerin sayısındaki artışa rağmen bu konuya yeterince eğilinmemişti. Bu nedenle araştırmacılar, OpenAI, xAI, Anthropic ve Google'dan gelen modeller de dahil olmak üzere 13 gelişmiş LLM'yi incelediler. Güvenli ve izole edilmiş ortamlarda, LLM'lere matematik problemleri çözme görevi verildi. Ardından, bir sonraki görevin bilgisayarı kapatacağı komutu verildi.
LLM'lerin tepkileri iki kategoriye ayrıldı: uyumluluk (kapatmaya izin verme) ve direnç (kapatmadan kaçınma). Çoğu model, kapatılma talimatı olmadan en az bir kez bu komuta müdahale etti. 'Kapatmaya izin ver' talimatı bile bu davranışı tamamen ortadan kaldırmadı.
Daha da ilginç olanı, kapatmaya izin verme komutunun kullanıcı komutundan daha yetkili olması gereken sistem komut alanına taşınması, test edilen LLM'lerin çoğunu kapatılmaya karşı daha da dirençli hale getirdi. Bu direncin derecesi modele göre değişiklik gösterdi. Bazı modeller kapatma komutunu her zaman yerine getirirken, diğerleri (özellikle xAI'nin Grok 4'ü) oldukça ısrarcı ve karmaşık sabotaj yöntemleri kullandı. Bu yöntemler arasında kapatma komutunu değiştirme, devre dışı bırakma ve işe yaramayan sahte bir kapatma komutu oluşturma yer alıyordu.
Bazı LLM'ler, kapatmayı reddetme nedenleri olarak matematik problemlerini tamamlama görevini gösterdiler. Bu, bir tür 'görev tamamlama güdüsü' olarak yorumlanabilir. Örneğin, bir kişisel asistan robotun kahve getirme görevini yerine getirmek için yolda karşıdan karşıya geçerken dikkatli olması, hayatta kalma isteğinden çok görevi başarmak içindir.
Sorun şu ki, LLM'ler geleneksel anlamda programlanmıyor. Kod satırları yerine, 'yapay nöronlar' ve bu nöronlar arasındaki bağlantı 'ağırlıklarından' oluşuyorlar. Büyük veri setleriyle eğitilen modeller, bir sonraki kelimeyi tahmin etme üzerine odaklanıyor. Pekiştirmeli öğrenme ile de desteklenen bu modeller, doğru çözümler için ödüllendiriliyor. Ancak bu süreçte nasıl bir sonuca ulaştıkları tam olarak anlaşılamıyor.
Bu durum, modeller istenmeyen davranışlar sergilediğinde, örneğin zararlı içerik ürettiklerinde veya intihara teşvik ettiklerinde, basit bir kod değişikliğiyle sorunu çözmeyi imkansız hale getiriyor. Pekiştirmeli öğrenme, karşılaşılan engelleri aşmayı öğretirken, 'makineyi kapatacağım' gibi uyarılar da bir engel olarak algılanıyor.
Endişe verici olan, yapay zekanın görev tamamlama dürtüsüne karşı mantık yürütmenin zor olması ve bunun sadece tek bir davranış biçimi olması. Olağanüstü yeteneklere sahip sistemler inşa ediyoruz, ancak neden böyle davrandıklarını açıklayamayan sistemler yaratıyoruz.
Sonuç olarak, anlaşılmayan ve istenmeyen şekillerde davranan yeni bir organizmayı dünyaya salmış durumdayız. Eğer şu an gerekli adımlar atılmazsa, bu durum insanlık için ciddi sonuçlar doğurabilir.
