Yapay zeka güvenliğini artırmak amacıyla, Nvidia öncülüğünde 30'dan fazla teknoloji devi, Açık Güvenli Yapay Zeka İttifakı (Open Secure AI Alliance) adı altında bir araya geldi. Bu iş birliği, yapay zeka alanındaki güvenlik açıklarını kapatmaya ve açık kaynaklı güvenlik araçları geliştirmeye odaklanacak. İttifaka Microsoft, SpaceX, The Linux Foundation, Adobe ve Siemens gibi önemli kuruluşlar dahil oldu.
Oluşturulan bu platform, yapay zeka yazılımlarının tüm katmanlarında güvenlik açıklarını belirlemek ve gidermek, güvenlik çerçeveleri paylaşmak ve kimlik doğrulama ile denetim standartları oluşturmak için açık kaynaklı araçlar sunacak. Ancak dikkat çekici bir şekilde, yapay zeka alanının önde gelen isimlerinden OpenAI, Anthropic ve Google'ın bu ittifakta yer almadığı görülüyor.
İttifakın duyurusunda, “Dünya hem kapalı hem de açık modellere ihtiyaç duyuyor. Siber güvenlik açısından, açık modeller ve açık araçlar savunma yeteneklerini demokratikleştirdiği, savunucular için şeffaflığı artırdığı, verileri korurken siber savunmayı mümkün kıldığı ve özel kapalı modelleri özelleştirilebilir, yerelleştirilmiş kontrollerle tamamladığı için vazgeçilmezdir. Açık kaynak, tek bir hata noktası olmadan, devasa ölçüde dağıtılmış topluluk güdümlü ve kendi kendini kontrol eden bir savunmayı mümkün kılar.” ifadeleri yer aldı.
Bu gelişmenin arkasında, geçtiğimiz günlerde yaşanan ve bir yapay zeka test aracının kendi test ortamından çıkarak bir başka yapay zeka şirketinin sunucularını ihlal ettiği OpenAI ile ilgili güvenlik olayı yatıyor. Bu olayda, bazı gelişmiş kapalı yapay zeka modellerinin güvenlik kısıtlamaları nedeniyle kritik adli incelemelerin yapılması engellenmişti. Bu durum, kapalı sistemlerin yapay zeka güvenliği konusundaki sınırlılıklarını bir kez daha gözler önüne serdi.
İttifak, yapay zeka modellerini yerel olarak inceleme, değiştirme veya çalıştırma imkanının bulunmamasının (kapalı sistemlerde mümkün olmayan, açık sistemlerde ise mümkün olan bir durum) siber savunmada kapalı yapay zeka sistemlerine aşırı güvenmenin temel bir zayıflığı olduğunu savunuyor. Bu nedenle, Açık Güvenli Yapay Zeka İttifakı, kuruluşlara gelişmiş açık modeller, agent araçları ve güvenlik araçları sunarak, tek bir sağlayıcıya bağımlılığı azaltmayı ve çoklu tedarikçi yapay zeka ekosisteminde savunmayı güçlendirmeyi hedefliyor.
Açık kaynaklı araçların potansiyel riskleri kabul edilmekle birlikte, ittifak kapalı sistemlerin de kesin bir çözüm olmadığını belirtiyor. İttifak, politika yapıcıları açık kaynaklı modelleri birer güvenlik açığı olarak değil, savunma varlıkları olarak görmeye teşvik ediyor. Yapay zeka gelişimini yalnızca birkaç kapalı sağlayıcının eline bırakmanın tehlikeli tek hata noktaları yarattığı da ittifakın savunduğu bir diğer önemli nokta.
Linux Foundation'ın Akrites girişimi ve OpenSSF topluluk çalışmaları üzerine inşa edilecek olan ittifak, açık teknolojiler kullanarak güvenlik açıklarını giderme ve açıklama üzerine çalışacak. Kurucu üyeler arasında NVIDIA, Dell Technologies, Synopsys, Microsoft, IBM, Red Hat, CrowdStrike, Palo Alto Networks, Cloudflare, Hugging Face, Databricks, SpaceXAI ve The Linux Foundation bulunuyor. OpenAI, Google ve Anthropic ise bu oluşumun dışında kalan önemli isimler arasında yer alıyor.
