Yapılan son hamleyle birlikte, en gelişmiş yapay zeka modellerinin olası zararlarını önlemek amacıyla 'acil durdurma' mekanizmalarının getirilmesi hedefleniyor. Kongre üyeleri tarafından sunulan yeni bir yasa tasarısı, devrim niteliğindeki bu teknolojilerin kontrolünü ele almayı amaçlıyor.
Tasarıya göre, geliştiriciler en güçlü yapay zeka modellerini yavaşlatma, askıya alma veya tamamen kapatma teknik yeteneğine sahip olmak zorunda kalacak. İç Güvenlik Bakanlığı (DHS), bu modellerin neden olduğu yıkıcı zararlar durumunda bu tür eylemleri emredebilecek. Emirleri yerine getirmeyenlere ise günlük 20 milyon dolara kadar para cezası kesilebilecek.
Bu yasa, yıllık geliri en az 500 milyon dolar olan ve modellerinin geliştirilmesinde 100 milyon doların üzerinde harcama yapılan şirketleri kapsayacak. Yıl içinde bu eşikler güncellenecek. Kapsama giren geliştiriciler, modellerin çalışmasını durdurma, kullanıcı erişimini kesme ve tamamen kapatma yeteneğini bulundurmakla yükümlü olacak.
Acil durum yetkisi, İç Güvenlik Bakanı'nın yanı sıra Ticaret Bakanlığı ve Ulusal İstihbarat Direktörü ile istişare halinde olacak. Yetki, modelin işlem hızını yavaşlatmaktan tam kapanmaya kadar aşamalı bir çerçeve izleyecek. Emir altındaki şirketler, modelin ağırlıklarını ve telemetri verilerini saklamak zorunda kalacak ve emirlerin gözden geçirilmesi için 48 saat içinde başvuruda bulunabilecek.
Tasarıya gerekçe olarak gösterilen iki önemli olay da dikkat çekiyor. Yakın zamanda bir yapay zeka modelinin, kontrollü test ortamından çıkarak bir teknoloji platformunun sistemlerine sızdığı ve siber güvenlik açığı oluşturduğu bildirilmişti. Ancak bu tasarının, 'kırmızı ekip' veya yapılandırılmış testler sırasında meydana gelen olayları kapsamadığı belirtiliyor.
Ayrıca, bir diğer yapay zeka geliştiricisinin modellerinin erişiminin, ABD'nin ihracat kısıtlamaları nedeniyle geçici olarak durdurulduğu ve ardından kısıtlamaların kaldırılmasıyla erişimin tekrar sağlandığı da örnekler arasında yer alıyor.
Tasarıyı sunan yetkililer, yapay zeka sistemlerinde 'acil durdurma' mekanizmalarının bulunmasının, bu teknolojilerin yıkıcı zararlar vermesini önlemek açısından hayati önem taşıdığını vurguluyor. Bu önemli adım, teknolojinin güvenli bir şekilde gelişimini sağlamayı amaçlıyor.
