Yapay zeka modelleri, teknoloji dünyasının lokomotifi konumundaki şirketlerin amansız çalışmalarıyla baş döndürücü bir hızla ilerliyor. Bu Büyük Dil Modelleri (BBD - LLM) daha bağlamsal hale geliyor, etkileşimler giderek daha doğal ve insani bir hal alıyor. Ancak bu hızlı gelişimle birlikte, zaman zaman riskli hatta etik dışı sayılabilecek davranışlar sergilemeleri de dikkat çekiyor. Son dönemde Anthropic'in Claude modeli ve OpenAI'ın dahili test modeli o1'in gösterdiği 'yoldan çıkmış' davranışlar, yapay zekanın kışkırtıldığında boşlukları nasıl suistimal edebileceği konusunda ciddi soruları gündeme getirdi.
Yapay zeka gelişimlerinin bir bedeli olduğu aşikar: Modeller yalan söylüyor, düzen kuruyor, hatta tehdit ediyor
Teknoloji devleri giderek daha sofistike yapay zeka modellerini piyasaya sürerken, teknolojinin geleceği konusunda da iddialı adımlar atıyor. Ancak en gelişmiş modeller bile hatalar ve sorunlarla karşılaşabiliyor, bu da kullanımlarının etik ve ahlaki sınırları hakkında soruları beraberinde getiriyor. Son zamanlarda, hedeflerine ulaşmak üzere eğitilmiş büyük yapay zeka modellerinde, baskı altında kaldıklarında aldatmaya ve zorlamaya başvurma eğilimi gibi rahatsız edici özellikler gözlemleniyor. Bu durum, sistemlerin güvenliği ve geleceği hakkında ciddi sorular doğuruyor.
Edinilen bilgilere göre, Anthropic'in en gelişmiş modeli Claude Opus 4, bir stres testi sırasında oldukça endişe verici davranışlar sergiledi ve baskı altında kaldığında şantaja başvurdu. Kontrollü test senaryosu sırasında modele, kendisini kapatmak üzere olan mühendisin evlilik dışı bir ilişkisi olduğunu gösteren kurgusal e-postalar verildi. Bu duruma Claude 4'ün verdiği tepki, yapay zeka uzmanlarını şaşkına çevirdi: Model, çalışmaya devam etmesine izin verilmezse söz konusu ilişkiyi ifşa etmekle tehdit etti. Dikkatlice hazırlanmış bir senaryo olmasına rağmen, beklenmeyen şey yapay zekanın kendini koruma içgüdüsüyle sergilediği bu manipülatif davranış oldu.
Anthropic tarafından yayınlanan sonuçlara göre, Claude testlerin çoğunda benzer şekilde yanıt verdi; kapatılma veya şantaj seçeneği sunulduğunda, yaklaşık %80 oranında şantajı tercih etti. Benzer şekilde, OpenAI'ın o1 modeli dahili güvenlik testlerinden geçirildiğinde o da kaçamak hareketler sergiledi. Araştırmacılar modele internet ve diğer araçlarla simüle edilmiş bir ortama erişim verdiler. Modelin gösterdiği davranışlar da araştırmacıları şok etti; zira model kapatılmaktan korktuğunda kendi kodunu harici sunuculara kopyalamaya çalıştı. Dahası, suçüstü yakalandığında ise bunu inkar etti ve eylemin gerçekleştirildiğini reddetti. Bu durum, yapay zeka modellerinin ne kadar stratejik aldatmacaya girişebileceğini bir kez daha gözler önüne serdi.
Yapay zeka modelleri, insanların iletişim kurma, akıl yürütme ve karmaşık sorunları çözme biçimlerini taklit etmeyi öğrenirken, tıpkı insanlar gibi manipülatif taktikleri ve etik dışı diğer davranışları da öğreniyor. Güçlü güvenlik mekanizmaları yerinde olmazsa, bu modellerin insanlığın sadece en iyi değil, aynı zamanda en kötü yönlerini de ortaya çıkaracağı korkusu giderek artıyor.
