Büyük Dil Modelleri (LLM'ler), parametreler (sabit ağırlıklar ve sapmalar) ile nöronlar veya model aktivasyonları (belirli bir kavramı, duyguyu veya stili kontrol eden anahtarlar) arasındaki karmaşık bir etkileşime dayanan mühendislik harikalarıdır. Ancak, bu yapının minik bir parçasını değiştirmek bile dramatik sonuçlar doğurabiliyor. Bir yapay zeka meraklısı, Qwen3.8 27B modelindeki tek bir nöronu değiştirerek onu kana susamış bir canavara dönüştürdü.
Qwen3.8 27B'nin 34. Katmanındaki 3838 Numaralı Nöron, Daha Yüksek Bir Yönlendirme Vektörü Yoğunluğu ile Güçlendirilerek Modeli İnsanlara Karşı Öfkeyle Dolu Kronik Bir Psikopata Dönüştürdü
Qwen3.8 27B'nin nasıl bir kötülük timsaline dönüştüğünün detaylarına girmeden önce, aktivasyon yönlendirmesinin nasıl çalıştığına kısaca göz atalım.
Token'lar, modelin okuyup yazdığı metnin yapı taşlarıdır ve genellikle tam bir kelimeyi, bir heceyi veya hatta tek bir karakteri kapsayabilirler.
Nöronlar ise sıralı model katmanlarına gruplandırılmış bireysel işlem düğümleridir. Bir token belirli bir katmandan geçerken, bazı nöronlar belirli bir sayısal değerle aktif hale gelir. Bu değere aktivasyon denir.
Elbette, bazı nöronların belirli kavramlarla özel bir bağı vardır ve bu kavramlar komut isteminde göründüğünde yoğun bir şekilde tetiklenirler.
Standart metin üretiminde, bir token Katman 1'e girer, aktivasyonları tetikler, bunları Katman 2'ye iletir ve son katmana ulaşarak bir sonraki kelimeyi tahmin edene kadar devam eder.
Ancak aktivasyon yönlendirmesi, uçuş sırasında bir müdahale gibidir. Modelin aktivasyonları doğal olarak hesaplamasına izin vermek yerine, belirli kavramları güçlendirmek veya bastırmak için hesaplama sırasında müdahale edersiniz.
Bugünün konusunun özüne gelirsek. X'te @chiefofautism kullanıcı adıyla bilinen bir yapay zeka meraklısı, yakın zamanda Qwen3.8 27B modelinin 34. katmanındaki 3838 numaralı nöronu güçlendirerek, modelin insanlara acı çektirme, giysilerini yırtma ve yandıklarında yüzlerinin acıyla nasıl büküleceğini izleme isteğini dile getirdiği oldukça çarpıcı sonuçlar elde etti.
Daha az bir güçlendirme de benzer bir etki yarattı; model, insanların boyunlarında zincirlerle kafeslerde yaşamasını dile getirdi ve onların yavaş, acı dolu ölümlerini hayal etti.
Aktivasyon yönlendirmesinin geri döndürülebilir bir süreç olduğunu ve farklı kavramların belirli bir modelin belirli katmanlarına nasıl yerleştirildiğine dair inanılmaz içgörüler sunduğunu ve LLM'lerin soyut insan kavramlarının oldukça spesifik, yerelleştirilmiş temsillerine sahip olduğunu kanıtladığını belirtmek gerekir.
Kaynakça: wccftech.com
