Yapay zeka (YZ) çılgınlığı hız kesmeden devam ederken, şirketler ve kurumlar bu teknolojiye eskisinden daha agresif yaklaşıyor. Ancak YZ'nin yaygınlaşmasıyla birlikte etik kullanımını sağlamak giderek zorlaşıyor. Son yaşanan bir olay, bir üniversitenin araştırmacılarının Reddit üzerinde yürüttüğü YZ deneyinin sadece izinsiz değil, aynı zamanda oldukça etik dışı ve potansiyel olarak yasal sonuçları olabilecek nitelikte olduğunu ortaya koydu. Bu durum, teknoloji konuşlandırılırken katı şeffaflık ve kullanıcı gizliliğinin korunması gerektiğinin altını çiziyor.
Üniversite Araştırmacıları, Reddit Kullanıcıları Üzerinde Rıza Dışı YZ Deneyi Yaptıkları İçin Ateş Altında
YZ'nin çeşitli kurumlar tarafından farklı uygulamalarla kullanılması, bu platformlarda YZ'nin etik dağıtımıyla ilgili artan endişelere yol açıyor. Son ortaya çıkan gizli bir YZ deneyi de tam olarak böyle bir tartışma başlattı ve büyük eleştirilere neden oldu. Bir üniversiteden araştırmacılar, Reddit kullanıcılarının bilgisi veya rızası olmadan etik dışı bir YZ deneyi gerçekleştirdi.
Araştırmacılar, gelişmiş dil modellerini kullanarak farklı kişiliklere sahip YZ botları oluşturdu. Bu botlar, Reddit'in bir alt forumunda tartışmalara katıldı. Botlar, travma danışmanları veya fiziksel taciz mağdurları gibi hassas kimliklere bürünerek, YZ'nin bakış açılarını veya fikirleri nasıl etkileyebileceğini değerlendirmeyi amaçlıyordu. YZ botları, kullanıcıların geçmiş yanıtlarını ve diğer etkileşimlerini inceleyerek onlara özel yanıtlar üretiyordu. Bu deneyin Reddit'e veya kullanıcılarına bildirilmemiş olması, önemli bir etik ihlal olarak görüldü ve psikolojik manipülasyon endişelerini artırdı.
Üniversite, deneyi gerçekleştirdikten *sonra* ilgili alt forumun moderatörlerini bilgilendirdi. Ekibin, YZ botlarını açıklamadan kullanarak topluluk kurallarını ihlal ettiğini kabul etseler de, bu durum çalışmanın genel etik dışı doğası hakkında daha fazla eleştiriye yol açtı. Araştırmacılar, ihlali kabul ederken, çalışmanın büyük bir toplumsal değere ve öneme sahip olduğunu öne sürerek kendilerini savundular. YZ botlarının, istismar konusunda uzmanlaşmış travma danışmanları veya hastanede kötü tıbbi tedavi gördüğünü iddia eden kişiler gibi oldukça yüklü kimlikler benimsemesi endişe vericiydi. Bu durum, sadece kışkırtıcı kimlikler nedeniyle değil, aynı zamanda gerçek insanlarla sohbet ettiklerine inanan bireylere verebileceği potansiyel zarar nedeniyle de alarm vericiydi.
Platform moderatörleri, YZ deneyini şiddetle kınadı ve bunu ciddi bir etik ihlal olarak nitelendirdi. Araştırmacıların, özellikle hedef alındığını hisseden ve katılmayı asla kabul etmedikleri bir deneyin parçası olan bireylerle ilgili çizgiyi aştığı vurgulandı.
