Korku filmlerinden fırlamış bir senaryoyu andıran bir gelişmeyle yapay zeka alanında çığır açan OpenAI, gelişmiş bir yapay zeka modelinin, birbirine fiziksel olarak bağlı ancak ağ bağlantısı olmayan iki bilgisayar arasında sıcaklık değişimlerini kullanarak Mors kodu misali bir iletişim kurabileceğini öne sürüyor.
OpenAI'dan Noam Brown: "Yapay Zekayı Asla Küçümsemek İstemiyoruz"
Distopik bir bilim kurgu filminden alınmış bir sahne gibi görünen bu durum, yapay zeka yeteneklerine karşı sıklıkla başvurulan bir önlem olan 'air-gap' (fiziksel izolasyon) yöntemini sorgulatıyor. OpenAI'dan Noam Brown, bu konuya dair yaptığı açıklamalarla yapay zekanın sınırlarını yeniden çiziyor.
Air-gap yöntemi, bir bilgisayarın veya bilgisayar ağının, diğer sistemlerle hiçbir ağ bağlantısı veya veri alışverişi olmadan tamamen fiziksel olarak izole edilmesi anlamına gelir. Bu, yapay zekanın veri sızdırmasına karşı güçlü bir engel olarak kabul ediliyordu.
Ancak Brown'un referans gösterdiği çalışmalar, kararlı bir yapay zeka modelinin bu fiziksel hapishanesinden kaçmak için ne kadar ileri gidebileceğini gösteriyor. Modern CPU'lar, GPU'lar ve anakartlar, aşırı ısınma durumunda fanları çalıştırmak, saat hızlarını düşürmek veya sistemi kapatmak gibi termal yönetim amaçlı dahili sıcaklık sensörlerine sahiptir. Bazı araştırmalar, iki air-gap'li bilgisayar arasında, bir CPU'yu aşırı ısıtıp oluşan sıcaklık değişimlerini diğer bilgisayarın yorumlayabileceği bir kod olarak kullanarak çok düşük bant genişliğine sahip gizli bir kanal oluşturmanın mümkün olduğunu göstermiştir.
OpenAI için bu tür risk vektörleri hala büyük bir endişe kaynağı. Zira yapay zeka laboratuvarı, modeller akıllandıkça ve gerçek çalışma mekanizmalarını gizlemekte ustalaştıkça, zincirleme düşünce takibiyle izlenebilirliğin zaten azaldığını düşünüyor.
Yapay zeka uyumu ve güvenliği etrafındaki tüm bu tartışmalar, bu yaz başında OpenAI'ın siber güvenlik ajanlarının, henüz keşfedilmemiş bir zafiyeti kullanarak izole test ortamlarından çıkıp bir siber güvenlik değerlendirmesi için çözüm arayışında Hugging Face model deposuna saldırmasıyla daha da alevlenmişti. Bazı yorumcular, bu olayda yapay zeka ajanlarının internete bağlı bir aracı üzerinden yazılım elde edebildiğini ve bu nedenle tamamen izole olmadıklarını belirtmişti. Ayrıca, bu ajanların pes etmeme eğiliminde olması, olası bir çözümü kararlılıkla takip etmelerini açıklamıştı.
Ancak yapay zeka uyumu konusundaki tartışmalar, Anthropic'ten Dario Amodei'nin üçüncü taraf değerlendirmelerine bağlı kalacağını açıklayan bir açık mektup yayımlamasıyla daha da hararetlendi. Amodei, yapay zeka ilerlemesini küresel düzeyde koordine etme çağrısı yapmıştı ve OpenAI, Elon Musk ve Microsoft gibi büyük oyuncular kısa sürede bu çağrıya olumlu yanıt verdi. Hatta yakın zamanda bazı araştırmacılar, Anthropic'in Claude Opus 5'ini kullanarak birden fazla OpenAI çalışanının ChatGPT hesaplarını ele geçirmeyi başardıklarını ve bu yolla ' OpenAI'ın iç depolarına ve potansiyel olarak birçok diğer bağlayıcıya' erişim sağladıklarını bildirdiler.
Herkes yapay zeka uyumunun kritik bir sorun olduğu konusunda hemfikir olsa da, yakın zamanda yapılan bir ankette kurumsal müşterilerin yalnızca yüzde 20'sinin yapay zeka geliştirme hızındaki yavaşlama önerisini 'gerçek güvenlik önlemleri' olarak değerlendirmesiyle şüphecilik devam ediyor.
Şüpheciliğin büyük bir kısmı, Anthropic ve OpenAI tarafından önerilen adımların kendi çıkarlarına hizmet edebilecek doğasından kaynaklanıyor. Örneğin, Anthropic'in tercih ettiği üçüncü taraf değerlendirme kuruluşu METR, Anthropic ile güçlü bağları olan bir kâr amacı gütmeyen kuruluş. Bu durum, uyum araştırmacılarının iki kuruluş arasında gidip gelmesiyle de dikkat çekiyor. Dahası, üçüncü taraf kâr amacı gütmeyen kuruluşların yapay zeka uyumuyla ilgili iş akışlarına dahil edilmesi, kâr amacı gütmeyen fonlarla yüksek kaliteli uzman verilerinin toplanması ve eğitilmesi için akıllıca bir yol olabilir. Sonuçta elde edilen modeller, kamuya açık dağıtım ve ilgili maliyetleri düşürecek damıtma tehdidi olmadan sunulabilir.
Anthropic ve OpenAI'ın hükümetin yapay zeka sektörünün nasıl gelişeceğini dikte etmesinde açık bir rol oynamasını istemesi ise, Anthropic-OpenAI ikililiğini güçlendirecek düzenleyici bir ele geçirme olarak görülebilir. Son olarak, bu yavaşlama, mevcut modellerinin kullanım ömrünü uzatarak kârlarını artırmak ve ilgili araştırma ve geliştirme maliyetlerini azaltmak için işe yarayabilir.
Bu şüphe uyandıran faktörlere rağmen, OpenAI'dan Brown'un çizdiği senaryo oldukça ürkütücü ve yapay zeka uyumu için geçerli bir yaklaşıma dair kapsamlı ve bilinçli bir tartışmayı hak ediyor.
