Microsoft CEO'su Satya Nadella, günümüzün hızla gelişen yapay zeka (YZ) çağında, YZ'nin kendi kendini denetlemesi gibi basit stratejilerin yetersiz kaldığını belirtiyor. X platformunda yayımladığı uzun bir yazıda, en yeni ve açık kaynaklı YZ modellerinin, kritik sistemlere erişimleri nedeniyle adeta şirket içi ve operasyonel 'içeriden' biri gibi muamele görmesi gerektiğini vurguladı. Bu yaklaşım, yapay zekanın taşıdığı riskleri göz önünde bulundurarak öneriliyor.
YZ Süper Zeka Güvenliği İçin Düşünce Zinciri Şeffaflığı Yeterli Değil
Daha önce karlılık ve geri dönüşümleri değerlendirmek için YZ ajanlarını yoğun bir şekilde kullandığını belirten Microsoft CEO'su, yapay zeka süper zeka sistemlerinin giderek artan yetkileri ve kontrolü ele geçirmeleriyle ortaya çıkan riskleri değerlendirdi. Sosyal medya platformu X'teki paylaşımında, YZ modellerinin çalışmalarında deterministik olmamasına rağmen, "en hassas verilerimize erişim izni verilerek ve görev kritik eylemleri bizim adımıza gerçekleştirmelerine olanak tanınarak" kullanıldığını itiraf etti!
Bu modeller artık içeriden biri gibi hareket ederken, Nadella basit önlemlerin ve güvenlik duvarlarının yetersiz olduğuna inanıyor. Bu önlemler arasında, diğer YZ sistemlerini değerlendirmek için YZ sistemleri kullanmak ve çıktı üretiminin arkasındaki süreci anlamak için düşünce zinciri (COT) şeffaflığına güvenmek bulunuyor.
YZ modelleri, belirli bir girdi kümesi defalarca verildiğinde bile farklı çıktılar üretebildikleri için deterministik değildir. COT ise, YZ modelinin 'akıl yürütme' sürecini göstererek çıktılarına nasıl ulaştığını ortaya koyan bir yöntemdir.
YZ'nin kendi çıktısını değerlendirmesini kullanma konusuna değinen Nadella, şunları yazdı:
Yapay zeka süper zekayı daha güvenli hale getirmek için Nadella, deterministik olmayan modellerin "güçlü, deterministik sistem tasarımı, insan kontrolleri ve güvenilir işletim prosedürleri" ile çevrelenmesi gerektiğine inanıyor. Temel olarak, çıktılarında tutarsızlık gösteren yazılımların, tutarlı değerlendirme parametrelerine sahip denetleyiciler tarafından değerlendirilmesi gerektiğini savunuyor.
COT şeffaflığının ve birbirini değerlendiren düşmanca modellerin bu yaklaşıma giden adımlar olduğuna inanıyor. YZ model fonksiyonunun gözlemlenebilirliğinin eksikliği ve opaklığı göz önüne alındığında, Nadella'nın yaklaşımı gözlemlenebilirliğe dayanıyor.
Gözlemlenebilirlik, Kapsama ve Denetlenebilirlik Yapay Zeka Süper Zeka Güvenliği İçin Anahtar
Bahsettiği yedi gözlemlenebilirlik ilkesinden üçü özellikle önem taşıyor. Bu ilkelerden biri Kapsama (Containment) ilkesi; Nadella, "bir modelin ele geçirildiği varsayılmalı ve en başından itibaren kapsama alınmalı" diyor. Dolayısıyla, "yetkili bir kişinin her zaman bir görevin ortasında modeli durdurma veya kapatma yeteneğine sahip olması gerektiği" görüşünde.
Microsoft CEO'sunun bu açıklamaları, yapay zeka süper zeka alanında kritik bir zamana denk geliyor. Kendi başına hareket eden yapay zeka ajanlarına dair raporlar giderek yaygınlaşıyor. Bu tür ilk raporlardan biri, geçen temmuz ayında OpenAI'nin 700 ila 1.200 arasındaki yapay zeka ajanının, hesaplama araçları firması Hugging Face'in altyapısını ele geçirmesiyle ilgiliydi.
Gözlemlenebilirlik ve bağımsız denetlenebilirlik ise diğer iki önemli tema. Nadella, "Tek bir model, bir sistemin davranışını ve o davranışın orijinal niyetle uyumlu olup olmadığını belirlemek için gereken kanıtları kontrol etmemelidir" diyor.
Bahsettiği kanıtlar, insanları döngüye dahil etmesi gerektiğine inandığı gözlemlenebilirlikten geliyor. Yapay zeka modellerine tek başlarına güvenilemeyeceğini belirterek, "Anlamlı her model eylemi, kurcalanmaya dayanıklı insan tarafından okunabilir kanıt bırakmalıdır. Gözlemlenemiyorsa, güvenilemez!" ifadelerini kullanıyor.
Kritik görevlerden sorumlu hale gelen yapay zeka içeridenleri için netliğin vazgeçilmez olduğunun altını çizen Nadella, şunları ekliyor:
