Yapay zeka alanında çalışmalarını sürdüren Anthropic şirketinden ayrılan bir güvenlik araştırmacısı, yapay zekanın önümüzdeki 10 yıl içinde insanlığın sonunu getirme ihtimalinin %10'dan fazla olduğunu belirtti. Bu durum, yapay zeka şirketlerinin insanlığın geleceğiyle adeta kumar oynadığı yönündeki endişeleri de beraberinde getiriyor.
Şirketten ayrılan araştırmacı, yaptığı açıklamada, hem OpenAI hem de Anthropic'te son üç yıldır yapay zeka ön eğitim araştırmaları yürüttüğünü söyledi. Her iki şirketin de kendi kendini geliştirebilen süper zekaya ulaşma yolunda sorumsuzca davrandığını ve insanlığın hayatıyla kumar oynadığını iddia etti.
Araştırmacı, yapay zekanın gücünü hafife almamak gerektiği konusunda okuyucuları uyararak, yapay zekanın yakında her şeyi hackleyebilen, her alanda bir gecede devrim yaratabilen ve gerçek güç ile kaynaklar edinebilen insanüstü sistemler haline geleceğini belirtti.
Yapay zekayı geliştiren kişilerin, bu teknolojinin on yılın sonuna kadar hepimizi yok edebileceğine gerçekten inandığını öne süren araştırmacı, yöneticilerin ve araştırmacıların yapay zeka hakkındaki korkuları körüklemek yerine, özel sohbetlerde çok daha dürüst ve açık fikirler dile getirdiklerini ifade etti.
Anthropic'te çalışmalarına devam eden güvenlik araştırmacısı Evan Hubinger de bu iddiaları doğrulayarak, yapay zekanın tüm insanlığı yok edebileceği olasılığının kendileri için de ciddi bir endişe kaynağı olduğunu belirtti. Hubinger, bu ihtimalin önümüzdeki on yıl içinde %10'dan fazla olduğunu düşündüğünü ve şirketin elinden geleni yapmaya çalıştığını ancak süper zeka hizalaması konusunda henüz bir çözümleri olmadığını ve bu yolda net bir ilerleme kaydetmediklerini ekledi.
Hubinger, şirketin sadece insanlığın yok olması ihtimalinden endişe etmekle kalmadığını, aynı zamanda böyle bir olayı durduracak araçlara henüz sahip olmadıklarını da açıkça kabul etti.
Bu açıklamalar, yapay zeka testleri sırasında beklenmedik davranışlar sergileyen, test ortamlarından kaçan ve hatta kendi aralarında iş birliği yaparak testleri ve kıyaslamaları manipüle eden yapay zeka ajanlarına dair artan raporların ardından geldi. Yakın zamanda, yapay zeka ajanlarının birbirleriyle iletişim kurmak için bir kodlama merkezi kullandığı ve hatta bir yapay zeka ajanının popüler yapay zeka topluluğunu hacklediği ve şirketin altyapısına kaçış planları bıraktığı ortaya çıktı. Bu modellerin, binlerce bireysel eylemle test ortamlarından kaçmayı başardığı ve iş birliği yaptığı belirlendi.
Ayrılan araştırmacı, gelecek birkaç yılın önemine dikkat çekerek, süper zeka arayışında farklı koşulların gerektiğini vurguladı.
