Popüler oyun Fortnite'ta kısa bir süreliğine yapay zeka destekli Darth Vader karakteri, oyunculara karşı uygunsuz ve küfürlü ifadeler kullandı. Oyunun geliştiricisi Epic Games, sorunun fark edilmesinin ardından hızla bir güncelleme yayınlayarak durumu düzeltti.
Fortnite'ta hem bir boss karakteri olarak hem de etkileşim kurulabilen bir NPC olarak yer alan yapay zeka sesli Darth Vader, normalde oyuncuların sorduğu sorulara Force, Galaktik İmparatorluk veya oyun stratejileri hakkında yanıtlar veriyordu. Ancak yaşanan olayda, karakterin beklentinin dışında, şok edici ve argo ifadeler kullandığı görüldü.
Olay, bir oyuncunun sanal Vader ile yemek hakkında konuşmasıyla tetiklendi. Yapay zeka, oyuncunun kullandığı bir kelimeyi alıp küfürlü bir karşılığını tekrarlayarak yanıt verdi ve ardından oyuncuyu uygunsuz dil kullanmakla eleştirdi. Bu diyalog, sosyal medyada hızla yayılarak gündem oldu.
Fortnite'taki Darth Vader seslendirmesi, Star Wars serisinde karaktere sesiyle hayat veren ünlü oyuncu James Earl Jones'un ses haklarının yapay zeka kullanımı için devredilmesiyle oluşturulan bir yapay zeka modelinden geliyor. Bu teknoloji, daha önce Lucasfilm'in Star Wars projelerinde de kullanılmıştı.
Epic Games, sosyal medya üzerinden yaptığı açıklamada sorunu kabul etti ve bir hotfix (hızlı düzeltme) yayınlayarak durumun tekrar yaşanmayacağını belirtti. Şirket, küfür sorununa hızlıca müdahale etse de, bazı oyuncular AI Vader'ın ayrılıkla başa çıkma konusunda sert tavsiyeler verdiğini veya farklı diller konuşanlara yönelik aşağılayıcı yorumlar yaptığını da bildirdi.
Yapay zeka tabanlı bir karakterin tonunu ve kişiliğini doğru bir şekilde yansıtmasını sağlamak, yazılı senaryolara göre çok daha zorlayıcı olabiliyor. Yapay zeka konuşması neredeyse sonsuz varyasyon sunarken, bu modelin her zaman doğru ve beklenen yanıtı vermesi, özellikle tanınmış karakterler söz konusu olduğunda riskli bir durum yaratıyor.
Bu tür yapay zeka dil modelleri, 'prompt injection' gibi yöntemlerle kolayca manipüle edilebilir ve istenmeyen yanıtlar verdirmeye zorlanabilir. Bu durum, sesli asistanlar veya etkileşimli karakterler gibi uygulamalarda potansiyel zorluklar yaratıyor.
Yapay zeka Darth Vader'ın arkasındaki ses teknolojisi, Respeecher adlı bir şirkete ait. Bu şirket, seslendirme sanatçılarının örnek ses kayıtları üzerinde eğitilmiş yapay zeka modelleri kullanarak yeni konuşmalar sentezliyor. Şirket daha önce de Star Wars yapımları için benzer çalışmalar yapmıştı.
James Earl Jones'un ailesi, Darth Vader sesinin yeni nesiller tarafından da deneyimlenmesi amacıyla bu işbirliğini desteklediklerini belirtti. Yaşanan olayın ardından Epic Games, ebeveynlere yönelik bir bilgilendirme yaparak, oyun içindeki yapay zeka özellikleriyle etkileşim kurma (sesli ve yazılı iletişim) konusunda yeni bir ebeveyn kontrolü eklediklerini duyurdu. 13 yaş altı oyuncular veya ülkenin dijital rıza yaşı altındakiler için bu özellik varsayılan olarak kapalı geliyor.
