Yeni bir araştırma, insanların kadın olarak etiketlenen yapay zeka (YZ) ortaklarını erkek olanlara göre daha sık istismar etme eğiliminde olduğunu ortaya koydu. Bu durum, toplumsal cinsiyete dayalı ayrımcılığın yalnızca insan etkileşimlerinin ötesine geçtiğini gösteriyor.
Yakın zamanda bilimsel bir dergide yayınlanan çalışma, insan veya YZ ortaklarına kadın, cinsiyet belirtmeyen, erkek ve cinsiyetsiz etiketler verildiğinde insanların işbirliği yapma konusundaki istekliliklerini inceledi.
Araştırmacılar, katılımcılardan “Mahkumun İkilemi” olarak bilinen ve iki oyuncunun birbirleriyle işbirliği yapmayı veya bağımsız hareket etmeyi seçtiği bilinen düşünce deneyini oynamalarını istedi. Eğer işbirliği yaparlarsa, her ikisi de en iyi sonucu elde eder.
Ancak, bir oyuncu işbirliği yapmayı seçer ve diğeri seçmezse, işbirliği yapmayan oyuncu daha iyi bir skor alır. Bu durum, bir tarafın diğerini “istismar etmesi” için bir teşvik sunar. Eğer ikisi de işbirliği yapmamayı seçerse, her iki oyuncu da düşük skor alır.
Araştırmanın sonuçlarına göre, insanlar YZ ortaklarını insan ortaklarına göre yaklaşık %10 daha fazla istismar etme eğilimindeydi. Ayrıca, katılımcıların kadın, cinsiyet belirtmeyen ve cinsiyetsiz etiketli ortaklarla daha fazla işbirliği yaptığı, bunun nedeninin ise diğer oyuncunun da işbirliği yapmasını beklemelerinden kaynaklandığı anlaşıldı.
Araştırma, erkek ortaklarla daha az işbirliği yapıldığını, çünkü bu ortakların işbirliği yapmayacağından şüphe edildiğini belirtti. Özellikle kadın katılımcıların, erkek olarak tanımlanan ajanlara göre “kadın” olarak etiketlenen ajanlarla daha fazla işbirliği yapma eğiliminde olduğu gözlemlendi. Bu duruma “homofili” adı veriliyor.
Araştırmacılar, “YZ ajanlarıyla insan etkileşimlerinde gözlemlenen önyargıların, örneğin insanların katılımını en üst düzeye çıkarmak ve otomatik sistemlerle olan etkileşimlerinde güven oluşturmak için YZ'nin tasarımını etkilemesi muhtemeldir. Bu sistemlerin tasarımcıları, insan etkileşimlerindeki istenmeyen önyargılardan haberdar olmalı ve interaktif YZ ajanlarının tasarımında bunları azaltmak için aktif olarak çalışmalıdır.” şeklinde bir açıklama yaptı.
YZ Ajanlarını İnsancıllaştırmanın Riskleri
Katılımcılar işbirliği yapmadığında bunun iki ana nedeni vardı. Birincisi, diğer oyuncunun da işbirliği yapmayacağını düşünerek daha düşük bir skor almak istememeleriydi. İkinci olasılık ise, diğer kişinin işbirliği yapacağını düşünerek tek başına hareket etmenin daha düşük skor riskini azaltacağını, ancak diğer oyuncunun pahasına olacağını düşünmeleriydi. Araştırmacılar, bu ikinci seçeneği istismar olarak tanımladı.
Katılımcıların, ortakları erkek etiketli olduğundan daha fazla kadın, cinsiyet belirtmeyen veya cinsiyetsiz etiketli olduğunda ortaklarını “istismar etme” olasılığı daha yüksekti. Eğer ortakları YZ ise, istismar olasılığı arttı. Erkekler, ortaklarını istismar etme ve insan ortaklarıyla YZ ortaklarına göre daha fazla işbirliği yapma eğilimindeydi. Kadınlar ise erkeklere göre daha fazla işbirliği yapma eğilimindeydi ve insan veya YZ ortağı arasında ayrım yapmadı.
Çalışmada, cinsiyet belirtmeyen diğer cinsiyet kimliklerine sahip katılımcıların yeterli sayıda olmaması nedeniyle, diğer cinsiyetlerin cinsiyet etiketli insan ve YZ ortaklarıyla nasıl etkileşimde bulunduğuna dair kesin sonuçlar çıkarılamadı.
Araştırmaya göre, giderek daha fazla YZ aracı, insanların onlara güvenmesini ve onlarla etkileşim kurmasını teşvik etmek amacıyla insancıllaştırılıyor (cinsiyet ve isim gibi insan benzeri özellikler veriliyor).
Ancak, toplumsal cinsiyete dayalı ayrımcılığın insanların etkileşimlerini nasıl etkilediğini göz önünde bulundurmadan YZ'yi insancıllaştırmak, mevcut önyargıları pekiştirebilir ve ayrımcılığı daha da kötüleştirebilir.
Günümüzdeki birçok YZ sistemi çevrimiçi sohbet botları olsa da, yakın gelecekte insanlar rutin olarak kendi kendine giden araçlarla yol paylaşabilir veya YZ'nin iş programlarını yönetmesini sağlayabilir. Bu, günümüzde diğer insanlarla işbirliği yapmamız beklendiği şekilde YZ ile de işbirliği yapmamız gerekebileceği anlamına geliyor, bu da YZ cinsiyet önyargısı konusunda farkındalığı daha da kritik hale getiriyor.
Araştırmacılar, “Cinsiyet etiketli YZ ajanlarına karşı ayrımcı tutumlar sergilemek tek başına büyük bir etik sorun teşkil etmese de, zararlı alışkanlıkları teşvik edebilir ve toplumumuzdaki mevcut cinsiyete dayalı ayrımcılığı daha da artırabilir.” dedi.
“Önyargıların ve kullanıcı algılarının temelindeki örüntüleri anlayarak, tasarımcılar, kullanıcılarının ihtiyaçlarını karşılayan, güvenilir YZ sistemleri oluşturmak ve aynı zamanda adalet ve doğruluk gibi olumlu toplumsal değerleri teşvik etmek ve korumak için çalışabilirler.”
