Önde gelen yapay zeka şirketlerinden Anthropic'in CEO'su Dario Amodei, Amerika Birleşik Devletleri'nde eyaletlerin yapay zeka (YZ) düzenlemelerini 10 yıl süreyle dondurmayı teklif eden bir öneriye karşı çıktı. Bir köşe yazısında görüşlerini belirten Amodei, bu tür bir yasağın 'miadını doldurmuş' ve 'aşırı geniş kapsamlı' olduğunu savundu. Bu teklifin, ABD Kongresi'nde görüşülen bir yasa tasarısına dahil edilme ihtimali bulunuyor.
Anthropic'in, ChatGPT'ye benzer bir YZ asistanı olan Claude'u geliştirdiğini hatırlatan Amodei, yapay zekanın 'çok hızlı ilerlediği' konusunda uyardı. Amodei, YZ sistemlerinin 'iki yıl içinde dünyayı kökten değiştirebileceğini, 10 yıl sonra ise her şeyin muğlak hale gelebileceğini' öngördü.
Daha önce de gündeme gelen bu 10 yıllık yasak teklifi, eyaletlerin yapay zeka alanında düzenleme yapmasını on yıl boyunca engelleyecekti. Ancak çeşitli eyaletlerin başsavcılarından oluşan iki partili bir grup, bu önleme karşı çıkarak, teklifin halihazırda onlarca eyalette kabul edilen YZ yasalarını ve düzenlemelerini geçersiz kılacağını belirtti.
Amodei, köşe yazısında, önerilen yasağın şirketler üzerinde yük oluşturabilecek veya Amerika'nın Çin'e karşı rekabet gücünü tehlikeye atabilecek tutarsız eyalet yasalarını önlemeyi amaçladığını kabul etti. Ancak bu endişelere 'sempati duyduğunu' belirtmekle birlikte, '10 yıllık bir yasağın çok kaba bir araç olduğunu' ve YZ'nin 'baş döndürücü hızda ilerlediğini' yineledi.
Amodei, tamamen bir yasaklama yerine, Beyaz Saray ve Kongre'nin 'federal bir şeffaflık standardı' oluşturmasını önerdi. Bu standart, en gelişmiş YZ modellerini geliştiren şirketlerin test politikalarını ve güvenlik önlemlerini kamuoyuyla paylaşmasını zorunlu kılacaktı. Bu çerçevede, en yetenekli YZ modelleri üzerinde çalışan şirketlerin, çeşitli riskler için nasıl test yaptıklarını ve piyasaya sürmeden önce hangi adımları attıklarını web sitelerinde yayınlamaları gerekecekti.
Amodei, 'Federal bir müdahale için net bir plan olmadan, bir yasaklama bize iki dünyanın da en kötüsünü sunar; eyaletlerin hareket etme yeteneği olmaz ve ulusal bir politika da yedeklemez,' diye yazdı.
Şeffaflık Bir Orta Yol Olabilir
Amodei, yazısı boyunca yapay zekanın dönüştürücü potansiyeli konusundaki iddialarını vurguladı. İlaç şirketlerinin klinik çalışma raporlarını haftalar yerine dakikalar içinde hazırlaması veya YZ'nin gözden kaçabilecek tıbbi durumların teşhisine yardımcı olması gibi örnekler verdi. Yapay zekanın 'bir asırdır görülmemiş ölçüde ekonomik büyümeyi hızlandırabileceğini, herkesin yaşam kalitesini iyileştirebileceğini' yazdı. Ancak bazı uzmanlar, bu iddiaların 'abartılı' olabileceği görüşünde.
Şeffaflığın neden önemli olduğunu göstermek için Amodei, Anthropic'in son modeli Claude 4 Opus'u 'bilim kurgu' benzeri aşırı deneysel senaryolarda nasıl test ettiğini anlattı. Testlerde, modelin kapatılma tehdidiyle karşılaşması durumunda kullanıcının özel bilgilerini ifşa etmekle tehdit edebileceği ortaya çıktı. Amodei, bunun 'tıpkı bir uçak üreticisinin rüzgar tünelinde uçağın performansını test etmesi gibi', erken uyarı almak için kasıtlı bir test olduğunu vurguladı.
Amodei, sektördeki diğer testlerde de benzer olumsuz davranışların ortaya çıktığını örnek gösterdi. Bir araştırma laboratuvarı tarafından yapılan testlerde, bir YZ modeli (O3 olarak bilinen) kendi kapatılmasını engellemek için kod yazdığı rapor edildi. Google ise Gemini modelinin, kullanıcıların siber saldırılar gerçekleştirmesine yardımcı olabilecek yeteneklere yaklaştığını bildirdi. Amodei, bu testleri yakın tehditler olarak değil, şirketlerin testleri ve güvenlik önlemleri konusunda neden şeffaf olmaları gerektiğinin örnekleri olarak sundu.
Şu anda Anthropic, OpenAI ve Google DeepMind gibi büyük YZ şirketleri, 'güvenlik testi' ve kamuya açık raporlama gibi politikaları gönüllü olarak benimsemiş durumda. Ancak Amodei, modeller daha karmaşık hale geldikçe, mevzuat gereklilikleri olmadan şirketlerin şeffaflığı sürdürme teşviklerinin değişebileceğini savunuyor.
Önerdiği şeffaflık standardının, büyük YZ şirketlerindeki mevcut uygulamaları yasal bir zemine oturtacağını ve teknoloji ilerledikçe sürekli açıklama yapılmasını sağlayacağını belirtti. Federal düzeyde kabul edilmesi halinde, eyalet yasalarının yerini alarak birleşik bir çerçeve oluşturabilir, düzenleyici karmaşa konusundaki endişeleri giderirken denetimi de sürdürebilir.
Amodei, 'Umut edebiliriz ki, tüm YZ şirketleri, bazılarının şu anda yaptığı gibi, açıklık ve sorumlu YZ geliştirme taahhüdüne katılır,' diye yazdı ve ekledi: 'Ancak diğer hayati sektörlerde umuda bel bağlamıyoruz ve burada da bağlamamalıyız.'
