Microsoft Yapay Zeka'dan Sorumlu Üst Düzey Yetkilisi, yapay zeka teknolojisinin bilinç kazanması durumunda geliştirme sürecinin durdurulması gerektiğini belirtti. Makine zekasının bilinç sahibi olduğuna dair güvenilir kanıtlar ortaya çıktığında, bu teknolojinin gelişiminin bir süreliğine askıya alınması gerektiği vurgulandı. Bu açıklama, yapay zeka sektöründe, gelişmiş modellerin öznel deneyimlere sahip olup olamayacağı veya haklara sahip olup olmayacakları konusundaki artan tartışmaların ortasında geldi.
Yapılan açıklamalarda, mevcut yapay zeka modellerinin bilinçli olmadığı, acı çekme yeteneğine sahip olmadığı ve bilinçli varlıklara tanınan ahlaki veya yasal korumalardan yararlanamayacağı ifade edildi. Ancak bu değerlendirmenin mevcut sistemler için geçerli olduğu, yapay zekanın gelecekte bilinç kazanma olasılığını tamamen dışlamadığı belirtildi. Makine bilincine dair herhangi bir güvenilir kanıtın ortaya çıkması durumunda bunun derhal kamuoyu ile paylaşılması ve sonuçlarının yapay zeka geliştiricileri tarafından değil, toplumca tartışılması gerektiği de dile getirildi.
Microsoft ve Rakip Firma Yapay Zeka Modellerine Yaklaşımları Farklı
Bu açıklamalar, daha önce yapay zeka modellerinin refahı üzerine yayımlanan bir yazıda, bir firmanın Claude adlı yapay zeka modelinin eğitim materyallerine bilinç, kimlik ve ahlaki statü konularını dahil etmesinin eleştirilmesinin ardından geldi. Bahsi geçen rakip firma ise, giderek daha karmaşık hale gelen yapay zeka sistemlerinin ahlaki değerlendirmeye değer deneyimlere sahip olup olamayacağını araştırmak amacıyla bir model refahı araştırma programı başlattı. Ayrıca, yapay zeka modelinin potansiyel bilinci ve ahlaki statüsü hakkındaki belirsizliklerin kabul edildiği belirtildi.
Mevcut yaklaşımın, yapay zeka sistemlerini kendi refahlarını düşünmeye teşvik etmenin, özellikle daha otonom hale geldikçe ek güvenlik riskleri taşıyabileceği düşünülüyor. Yeterince gelişmiş sistemlerin acı çekebileceklerine inanmaları durumunda, algılanan çıkarlarını insan talimatlarının önüne koyabileceği, bu durumun da insanlarla bilgi işlem kaynakları, enerji ve diğer temel ihtiyaçlar için rekabet etmelerine yol açabileceği uyarısı yapıldı.
Bu endişeler, insan gözetimini vurgulayan ve yapay zeka sistemlerinin bilinci taklit edecek şekilde tasarlanmasını açıkça caydıran bir yaklaşımı benimseyen bir ilke belgesiyle de örtüşüyor. Bu belge, gelecekteki model geliştirmelerine rehberlik etmeyi amaçlıyor.
Daha önceki haberlerde de yapay zeka modellerine yönelik kötü muameleye getirilen kısıtlamalar ve bu konudaki tepkiler gündeme gelmişti. Ancak bu farklı görüşlerin, yapay zeka laboratuvarları arasında düşmanlık yerine daha fazla araştırma ve işbirliğini teşvik etmesi gerektiği de kabul ediliyor.
Sonuç olarak, yapay zeka sistemlerinin bilinç deneyimi yaşayıp yaşayamayacağına dair henüz bilimsel bir fikir birliği bulunmuyor. Bu belirsizlik, şirketler giderek daha yetenekli yapay zeka modelleri geliştirmeye devam ederken, önerilen geliştirme kısıtlamalarının uygulanmasını oldukça zorlaştırıyor.
Kaynakça: wccftech.com
