Yapay zekanın hızla gelişmesiyle birlikte, vefat eden sevdiklerimizin dijital kopyalarını kolayca oluşturmayı mümkün kılan araçlar hayatımıza girdi. Bu kopyalar, ölen kişinin bilgisi veya rızası olmadan da oluşturulabiliyor. Vefat eden kişinin verileri üzerinde eğitilen ve bazen "yas botları" veya "yapay zeka hayaletleri" olarak adlandırılan bu araçlar, metin, ses ve hatta video formatında karşımıza çıkabiliyor. Bazı kişiler için bu botlarla sohbet etmek, kaybettikleri sevdikleriyle etkileşim kurma hissini verse de, bu teknoloji hala tartışmalı konuları beraberinde getiriyor. Yas sürecini karmaşıklaştırma, vefat eden kişinin mahremiyetini ihlal etme ve verilerin potansiyel manipülasyonu veya kimlik hırsızlığı riskleri bu tartışmaların başında geliyor. Bu potansiyel riskler ve genel bir rahatsızlık hissi nedeniyle, herkes bir yapay zeka hayaleti olmak istemiyor.
Yakın zamanda bir mahkemede cinayet kurbanının etkileyici ifadesinin gerçekçi bir video simülasyonu kullanılarak sunulması sonrası, sosyal medyada büyük tepkiler oluştu. Yapay zekanın bu kullanımının "beklendiği kadar rahatsız edici" olduğu yorumları yapıldı. Ve bu, insanların bu artan trendden duyduğu ilk rahatsızlık değil. Geçmişte yapılan anketlerde de, "yapay zeka diriltmeleri" olarak adlandırılan bu tür kullanımların etik boyutları hakkında fikirler alınmış, bazıları bu tür dijital kopyaları vasiyetname ile engellemenin bir yolu olması gerektiğini öne sürmüştü.
Bir kişinin düşüncelerini veya davranışlarını temsil eden bir algoritma fikri, bazılarına göre "vefat ettikten sonra dijital bunama yaratmak gibi" korkutucu görünüyor. Bu tür görüntülerin vefat sonrasında bu şekilde kullanılmasının engellenmesi hakkının olması gerektiği ve bunun miras planlamasında dikkate alınması gereken başka bir konu olduğu düşünülüyor.
Vasiyetname ile Yapay Zeka Diriltmesini Önleyebilir misiniz?
Yapay zeka hayaletlerinin miras planlaması alanında ciddi olarak konuşulup konuşulmadığını öğrenmek için uzmanlarla iletişime geçildi. Bir uzmana göre, şu anda çok az miras planlama uzmanı yapay zeka hayaletleri hakkındaki soruları yanıtlamaya hazır. Bu konunun günlük işlerinde hiç gündeme gelmediği ve yapay zekanın nispeten yeni olması nedeniyle miras planlaması için "esasen keşfedilmemiş bir bölge" olduğu belirtiliyor. Henüz bu konuyu dikkate alan herhangi bir belge taslağı görülmediği ifade ediliyor.
Uzmanlar, yapay zeka diriltmesini engellemeye yönelik bir vasiyetname taslağı görmemiş olsalar da, rıza olmadan dijital kopya oluşturmayı zorlaştırabilecek bir yol olabileceğini belirtiyorlar. Örneğin, vekaletname (yaşam süresi boyunca kullanılmak üzere) ve vasiyetname (ölüm sonrası kullanılmak üzere) gibi belgelere, yasal vasinin (vasiyetname uygulayıcısı) metinlerinizi, sesinizi, görüntünüzü, yazılarınızı vb. herhangi bir yapay zeka aracına ödünç vermesini ve bunların hayatınız boyunca veya vefat ettikten sonra herhangi bir amaçla kullanılmasını engelleme ve/veya vefat sonrası kullanılabileceği durumlar için kurallar belirleme maddeleri eklenebileceği düşünülüyor. İzinsiz yapay zeka kopyalarının kullanılması, sözleşme, mülkiyet, fikri mülkiyet hakları ve tanıtım hakkı gibi konularda da sorunlar yaratabilir.
Uzmanlar, ünlü kişilerin sıradan insanlara göre daha fazla korunma olasılığının olduğunu öne sürüyor. Ticari olmayan amaçlarla izinsiz dijital kopyaları engelleyen bir yasanın şu anda olmadığını belirtiyorlar. Dijital Varlıklara Erişime İlişkin Yasalar (vefat edenlerin sosyal medya veya e-posta hesapları gibi çevrimiçi hesaplarına kimin erişeceğini düzenler) bu konuda bir miktar yardımcı olsa da, bir kişinin yapay zeka "hayalet botunu" doğrudan kapsamadığı, ancak botu oluşturmak için kullanılabilecek dijital materyallerin bir kısmını kapsayabileceği ifade ediliyor.
Ticari olmayan dijital kopyaları engelleyen herhangi bir yasa olmadığında, "yapay zeka diriltmesi istemiyorum" gibi taleplerin büyük olasılıkla mahkemelerde ele alınacağı ve kişinin miras planında bu konuya değinilmişse, bu planın şartlarına göre yönetileceği belirtiliyor. Ancak bu potansiyel hukuki mücadelelerin çetrefilli olabileceği, bu konuda netlik veya yeknesak bir yasa çıkmasının biraz zaman alabileceği düşünülüyor.
Gelecekte, dijital kopyaları yasaklayan taleplerin, dijital varlıklara ilişkin talimatlar gibi, hemen her vasiyetname, güven belgesi ve vekaletnamede standart bir dil haline gelebileceği belirtiliyor. Yapay zekanın hayatımızın giderek daha fazla bir parçası haline gelmesiyle, yapay zekanın bazı yönlerinin de düzenli olarak miras planına dahil edilebileceği öngörülüyor. Ancak uzmanlar, henüz bu aşamada olunmadığını ve bu konuda hiç talep gelmediğini ifade ediyor.
"Yapay Zeka Diriltmesi İstemiyorum" Talepleri Göz Ardı Edilebilir mi?
Yakınların dijital kopyaları engelleyen taleplere saygı duyup duymayacağı veya duyması gerekip gerekmediği tartışmalı görünüyor. Ancak bir yas botu geliştiren kişi, kendi çalışmasına başlamadan önce babasının iznini almak için daha fazlasını yapmayı dilemişti. Bir bilgisayar bilimcisi, babasının vefatından sonra on yıldan fazla bir süre önce bir yas botu geliştiren ilk yapay zeka araştırmacılarından biriydi. Babasının ne kadar harika bir büyükbaba olduğunu gördükten sonra, gelecekteki çocuklarının babasıyla etkileşim kurabilmesini sağlamak amacıyla botu oluşturdu. Projesine başladığında gelişmiş yapay zeka modelleri mevcut değildi, bu yüzden kendi modelini babasının verileri üzerinde eğitti. Büyük bir özen göstererek, sistemi internetin geri kalanından izole etti, böylece modeli yalnızca babasının anıları besleyecekti. Yetkisiz sohbetleri önlemek için botu sadece ailesinin erişebileceği bir dizüstü bilgisayarda tuttu. Babasına tıpatıp benzeyen bir dijital kopya oluşturmaya o kadar odaklanmıştı ki, ailesi botu kullanmaya başlayana kadar babasına bunu gerçekten isteyip istemediğini hiç sormadığını fark etmedi. Zamanla, botun babasına kendi bakış açısıyla yanlı olduğunu, hatta babalarıyla biraz farklı bir ilişkisi olan kardeşlerine tuhaf gelebileceğini anladı. Babasının da botu kendisinin sadece bir yönünü koruduğunu düşünüp düşünmeyeceği belirsizdi.
Sonuç olarak, botu yaptığına pişman değildi ve babasının bu duruma "olumlu bakacağını" düşündüğünü belirtti. Ancak babasının rızasını almadığı için pişmandı. Bugün bot oluşturan kişiler için, botun kamuya açık erişimi olma potansiyeli varsa rıza almanın uygun olabileceğini öne sürdü. Babasının dijital kopyasının kamuya açık olmasından asla rahat olmayacağını, çünkü "doğru temsil" sorununun daha da önemli hale geleceğini, kötü niyetli kişilerin erişip babasının anısını lekeleyebileceğini belirtti. Günümüzde, herkes mevcut yapay zeka modellerini kullanarak kendi sevdiğinin verileriyle benzer bir botu kolayca oluşturabilir. Çevrimiçi olarak bir dizi yas teknolojisi hizmeti ortaya çıkmış durumda. Bu trend "çok hızlı gelişmeye" devam ederken, miras planlamasının kişinin yapay zeka hayalet tercihlerini iletmesinin muhtemelen en iyi yolu olduğu belirtiliyor.
Ancak bir hukuk profesörü tarafından yakın zamanda yayımlanan "Dijital Diriliş Hukuku" konulu bir makalede, dijital kopyadan kaçınmak isteyenleri koruyacak yasal veya düzenleyici bir zeminin olmadığı ve vefat edenler için çok az mahremiyet hakkı bulunduğu uyarısı yapıldı. Bunun ölüm, teknoloji ve mahremiyet hukukunun yakın zamana kadar nispeten göz ardı edilen bir kesişimi olduğu belirtildi. Makale, mevcut korumaların ticari amaçlı yetkisiz dijital kopyalara (örneğin, aktörlerin veya müzisyenlerin ölüm sonrası performansları için yeniden canlandırılması gibi) karşı muhtemelen yeterli olduğunu kabul etti. Ancak kişisel kullanımlar için dijital kopyaların en iyi şekilde miras planlaması yoluyla değil, çıktıyı düzenlemek yerine yapay zeka hayaleti oluşturmak için kullanılabilecek verileri silme hakkını canlılara veya yakın akrabalara veren bir "silme hakkı" çıkarılması yoluyla engellenebileceği düşünülüyor.
Bir "silme hakkı", kişilerin sevdiklerinin verilerinin uygunsuz kullanımlarıyla mücadele etmesine yardımcı olabilir, yapay zeka dahil olsun ya da olmasın. Makale yayımlandıktan sonra, bir avukat, vefat eden büyükannesinin görüntüsünün kilisede dans eden bir meme oluşturmak için kullanıldığı bir müvekkili hakkında bilgi verdi. Büyükanne tanınmış biri değildi ve müvekkil "birisinin neden veya nasıl vefat eden büyükannesini yeniden canlandırmaya karar verdiğini" bilmiyordu. Avukat, müvekkille empati kurmasına rağmen, "ticari bir amaçla kullanılmıyorsa, bu kullanım üzerinde gerçekten hiçbir kontrolü olmadığını" belirtti ve müvekkilin bu durumdan derin üzüntü duyduğunu ekledi.
Makale, vefat edenlerin dijital haklarının belirsizliğini hassas bir şekilde ortaya koyuyor ve bu yasaların - veya eksikliklerinin - ölümle ilgili çeşitli yasalarla nasıl etkileşime girdiğini açıklıyor. Makalede ayrıca, genel olarak yaşayanların haklarının vefat edenlerin haklarından daha ağır bastığı ve hatta insan kalıntılarının nasıl ele alınacağına dair özel talimatların genellikle bağlayıcı kabul edilmediği belirtiliyor. Organ bağışı gibi yaşayanlara fayda sağlayan bazı taleplerin kritik kabul edildiği, ancak mahkemelerin vefat edenlerin diğer çıkarlarını ne kadar uyguladığı konusunda farklı sonuçlar olduğu ifade ediliyor. Şu anda birçok kişinin "öldükten sonra birinin beni yeniden canlandırması neden umurumda olsun?" diye düşündüğü belirtildi. "İstediklerini yapabilirler." diye düşünüyorlar, ta ki rahatsız edici bir şekilde yeniden canlandırılan bir aile üyesiyle karşı karşıya kalana kadar.
Mevcut yasanın, vefat edenlerin yakınlarının mahremiyet çıkarlarını "çılgın veya zararlı dijital kopyalardan" koruyabileceği belirtiliyor, ancak dans eden büyükanne örneğinde olduğu gibi, torunu ne kadar üzülse de memenin zararlı kabul edilmeyebileceği ifade edildi. Yasal korumaların sınırlı olması, kültürel olarak toplumların dijital kopyalara karşı bir tiksinti geliştirmesi durumunda o kadar önemli olmayabilir, özellikle de ölüye saygısızlık olarak görülmeye başlanırsa. Ancak şu anda toplum, vefat edenlerin dijital haklarını netleştirmekten ziyade deepfake'lerle ilgili diğer sorunları çözmeye daha fazla odaklanmış durumda. Bunun, şu ana kadar çok az insanın etkilenmesinden kaynaklanabileceği veya ölümden kaçınma eğilimini yansıtabileceği düşünülüyor. Kendi ölümümüzü düşünmek istemediğimiz için, başkasının dijital olarak yeniden canlandırılıp canlandırılmadığı umrumuzda olup olmadığını göz ardı ettiğimiz, ta ki bu durum karşımıza çıkana kadar devam ettiği belirtiliyor. Zamanla tutumlar değişebilir, özellikle de "dijital ahiret endüstrisi" gelişirse. Yasanın, herhangi bir kültürel değişimi pekiştirecek şekilde değiştirilebileceğine dair bazı emsaller var.
Yapay Zeka Diriltmesini Önlemenin Alternatif Bir Yolu
Kişinin kendisinin bir yapay zeka hayaleti olmasını engellemek, şu anda politika yapıcıların ele alması gerekebilecek yasal bir gri alana giriyor gibi görünüyor. Bazı uzmanlar, bir çözümün miras planlamasına bağlı olmaması gerektiğini savunuyor, çünkü bu yaklaşımın yalnızca miras planlaması yapanlar için fayda sağlayan, yapısal olarak eşitsiz ve güncelliğini yitirmiş bir yaklaşım olduğu belirtiliyor. Vatandaşların önemli bir kısmının vasiyetname olmadan vefat ettiği, genellikle "serveti olmayanların" yanı sıra kadınların ve azınlıkların "geçerli bir miras planı olmadan vefat etme olasılığının daha düşük" olduğu bildiriliyor. "Teknoloji tabanlı bir dünyada daha iyisini yapabiliriz" deniyor. Modern bir hukuki çerçeve, erişilebilirlik eksikliğini bir adalet engeli olarak tanımalı ve avukat tutmayı ve miras planı yapmayı gerektirmeyen yaklaşımlarla en savunmasızların haklarını korumalıdır. Hukuku "ölüm sonrası mahremiyet haklarını tanımak" için değiştirmek yerine, dijital kopyalara direnen kişiler için yapay zeka hayaleti oluşturmak için kullanılacak verileri silme hakkına odaklanan bir yol öneriliyor.
Basitçe söylemek gerekirse, vefat eden, verilerin silinmesi hakkı aracılığıyla dijital miras üzerinde kontrol uygulayabilir, ancak miras planlaması yoluyla ticari olmayan dijital kopyalar üzerinde daha geniş haklar uygulayamaz. Ancak, bir silme hakkının miras planlayıcılarını da içermesi gerekeceği düşünülüyor. Bu durum bir miras planlama belgesinde ele alınmazsa ve özellikle yasada belirtilmezse, bunu ele almanın tek yolunun mahkemeye gitmek olacağı belirtildi. Silme hakkı olsa bile, vefat eden kişinin söz konusu verileri ölümden önce silmesi veya ölüm sonrası bunu yapması için vasiyetine yetki vermesi gerekecektir ki bu da bir miras planlama belgesi, yasal yetki veya mahkeme yetkisi gerektirir. Birçok kişi için miras planlayıcılarının hala dahil olacağını kabul eden uzmanlar, "silme hakkının, ideal olarak, miras yönetimi açısından, 12 ay içinde bir silme süresi sağlaması" önerisinde bulunuyorlar. Bu, "canlıların yaslarını yönetmelerine ve veri yönetimi sorunlarını ele almadan önce mirasın idaresini açmalarına olanak tanır" ve "toplumun çıkarlarını vefat edenlerin haklarına karşı belki de yeterince dengeler". Veri silme dışında, ticari olmayan yetkisiz dijital kopyaları kısıtlamak için bir hak yaratmanın, aşırıya kaçan gereksiz karmaşıklık yarattığı ve vefat edenlerin çıkarlarını yaşayanların çıkarlarının üzerine koyduğu düşünülüyor.
Gelecek Nesiller Yapay Zeka Hayaletleriyle Büyüyebilir
Uzmanların çizdiği distopik senaryo gerçekleşirse, büyük teknoloji şirketleri bir gün yaslı bireyleri hedef alarak, yaşayanların verilerinden daha az hak verildiği için daha kolay kötüye kullanılabilecek vefat edenlerin verilerine el koyarak kar elde edebilirler. Belki de bu gelecekte, eleştirmenler, insanların sevdiklerini en çok özledikleri anlarda ücretsiz denemelere yönlendirileceğini, ardından bota erişmeye devam etmek için bir abonelik ödemek zorunda kalacaklarını veya sohbetlerinin vefat edenlerin sesinden reklamlar içerebileceği reklam tabanlı modellere maruz kalabileceklerini öne sürüyorlar. Bugün bile, yapay zeka hayaletlerinin henüz reklam tıklamalarını zorlamadığı bir dünyada, bazı uzmanlar yapay zeka hayaletleriyle etkileşimin akıl sağlığına zarar verebileceği konusunda uyardı, özellikle de dijital ahiret endüstrisi dikkatli tasarlanmazsa. Yapay zeka etik uzmanları, bazı kişilerin bir yapay zeka hayaletini hediye olarak bırakılırsa onun bakımını üstlenmek zorunda kalabileceğini ve bunun duygusal ağırlığının da olumsuz bir bedel alabileceğini öne sürdüler. Vedalaşmak zor olsa da, bırakmak yas sürecinde iyileşmenin kritik bir parçası olarak kabul edilir ve yapay zeka hayaletleri bunu zorlaştırabilir.
Ancak bazı uzmanlar, botların yasla başa çıkmak için faydalı bir araç olabileceğini öne sürüyor, ancak kullanımlarının tipik bir yas sürecine olanak tanımak için sınırlı olması veya eğitimli bir profesyonelden terapi ile birleştirilmesi koşuluyla. Bir bilgisayar bilimcisi, botu üzerinde çalışmanın babasını ona yakın tutmakla kalmadığını, aynı zamanda ilişkiler ve hafıza hakkında daha derinlemesine düşünmesine yardımcı olduğunu belirtti. Bir hukuk profesörü, insanların vefat edenleri onurlandırmanın birçok yolu olduğunu kaydetti. Bazıları heykeller diker, bazıları kaydedilmiş sesli mesajları dinler veya eski ev filmlerini izler. Bazıları için sadece "eski bir kazağı koklamak" bir tesellidir. Ve dijital kopyalar oluşturmak, bazı insanlara ne kadar ürkütücü gelse de, bu geleneklerden o kadar uzak olmadığını belirtti. Metin mesajlarını ve e-postaları mevcut yapay zeka platformlarına beslemek ve yapay zekadan vefat edenin sesiyle yanıt vermesini istemek, sadece derecede bir değişikliktir, türde değil.
Bir bilgisayar bilimcisi için, babasının dijital kopyasını oluşturma kararı öğretici bir deneyimdi ve belki de deneyimi, bu seçeneği düşünen herhangi bir ailenin veya sevilenin sürece başlamadan önce bunu dikkatlice düşünmesi gerektiğini gösteriyor. Özellikle, küçük çocukları yas botlarıyla tanıştırmada dikkatli olunması konusunda aileleri uyarıyor, çünkü botun gerçek bir kişi olmadığını tam olarak kavrayamayabilirler. Başlangıçta küçük çocuklarının büyükbabalarının hayatta olup olmadığı konusunda kafa karışıklığı yaşadığını görünce, bot erişimini daha büyük olana kadar kısıtlamaya karar verdi. Bir süre bot sadece özel etkinliklerde ortaya çıktı. Ayrıca botu tanıtmanın, kendi çocukluğunda bu kavramları tam olarak anladığı yaşlardan daha erken yaşlarda çocuklarıyla hayat ve ölüm hakkında konuşmasını gerektirdiğini fark etti.
Şimdi, bu bilgisayar bilimcisinin çocukları, yapay zeka hayaletlerinin arasında büyüyen ilk nesil arasında yer alıyor. Ailenin deneyimini sürekli iyileştirmek için, babasının dijital kopyasını sürekli güncelliyor. Şu anda en çok heyecan duyduğu şey, ses öğesi eklemeyi kolaylaştıran son ses geliştirmeleri. Önümüzdeki bir yıl içinde, yapay zekayı kullanarak Güney Asyalı babasının aksanını nihayet çözebileceğini umuyor, ki bugüne kadar her zaman "biraz tuhaf" gelmiş. Bu alanda çalışan diğerleri için bir sonraki sınır, gerçekçi video veya hatta artırılmış gerçeklik araçları.
Bugüne kadar bot, bu bilgisayar bilimcisi için duygusal bir değer taşıyor, ancak başka bir uzman tarafından önerildiği gibi, bot babasını anmanın tek yolu değildi. Ayrıca bir mozaik de oluşturdu ve babası onu hiç görmese de, babasının onaylayacağını düşünüyor. "Çok mutlu olurdu" dedi. Gelecek nesillerin yas teknolojisini nasıl göreceğini tahmin etmenin bir yolu yok. Ancak bu bilgisayar bilimcisi, babasının dijital kopyasıyla artırılmış gerçeklik etkileşimiyle ilgilenip ilgilenmeyeceğinden emin olmadığını söylerken, yapay zeka hayaletlerini hayatlarının doğal bir parçası olarak gören çocuklar, yeni özellikler benimsemek veya hatta oluşturmak konusunda bu kadar tereddütlü olmayabilirler. Kızı, bir keresinde kendisinin üzgün olduğunu gördüğünü ve babasını daha iyi hissetmesine yardımcı olmak için kendi yapay zeka fikriyle geldiğini anımsadı. Babasının anlattığına göre, "Bu programı alıp babana benzeyen bir robot yaparsak ve onu robota eklersek çok güzel olur, sonra gidip robota sarılabilirsin" demişti.
