Konuştuğumuz dilin ötesinde, sesimiz eğitim seviyemizden duygusal durumumuza, hatta mesleğimiz ve mali durumumuza kadar pek çok detayı ortaya çıkarabilir. Artık yapay zeka teknolojileri, ses kayıtlarını kullanarak fiyat ayrımcılığı, haksız profilleme, taciz veya takip gibi ciddi gizlilik ihlallerine yol açabilir.
İnsanlar olarak yorgunluk, gerginlik, mutluluk gibi daha belirgin ipuçlarına karşı hassas olsak da, bilgisayarlar çok daha fazla bilgiyi çok daha hızlı bir şekilde analiz edebiliyor. Yeni bir araştırma, konuşma tonu kalıplarının veya kelime seçimlerimizin kişisel politik görüşlerimizden sağlık durumlarımıza kadar her şeyi ortaya çıkarabileceğini iddia ediyor.
Geçtiğimiz günlerde Proceedings of the IEEE dergisinde yayınlanan bir çalışma, ses teknolojisinin gizlilik ve haksız profilleme konusundaki potansiyel risklerini gözler önüne seriyor. Çalışmanın baş yazarlarından, Aalto Üniversitesi'nden Tom Bäckström, ses işleme ve tanıma teknolojilerinin sunduğu fırsatların yanı sıra, ciddi zararlar verme potansiyeline de dikkat çekiyor. Örneğin, bir şirketin sesinizden ekonomik durumunuzu veya ihtiyaçlarınızı anlaması, sigorta primlerinde ayrımcılık gibi fiyat ayrımcılığına kapı aralayabilir.
Sesimizin duygusal kırılganlık, cinsiyet ve diğer kişisel detayları ortaya çıkarabilmesi, siber suçluların veya takipçilerin kurbanları platformlar arasında tespit etmelerine ve onları şantaj veya tacize maruz bırakmalarına olanak tanıyabilir. Bunlar, konuşurken bilinçaltında aktardığımız ve bilişsel olarak devreye girmeden önce farkında olmadan tepki verdiğimiz detaylardır.
İnsan sinir sistemi düzenlemesi alanında uzmanlaşmış futurist Jennalyn Ponraj'a göre, dinleme fizyolojisine çok az dikkat ediliyor. Bir kriz anında insanların öncelikle dili değil, tonu, ritmi, vurguyu ve nefesi işlediğini belirtiyor.
Tonlamanıza Dikkat Edin
Bäckström, bu teknolojinin henüz yaygın olarak kullanılmadığını ancak temellerinin atıldığını söylüyor. Çevrimiçi oyunlarda ve çağrı merkezlerinde öfke ve toksisite tespiti gibi uygulamaların etik açıdan faydalı hedefler olduğunu belirtiyor. Ancak, konuşma arayüzlerinin müşterilere daha doğal gelmesi için müşteriyle benzer konuşma tarzlarına adapte olması gibi gelişmelerin, etik açıdan şüpheli veya kötü niyetli hedeflere ulaşılmasını mümkün kılabileceğine işaret ediyor.
Bu teknolojiyle ilgili henüz etik dışı bir kullanım vakası duyulmadığını ancak bunun henüz yaşanmadığından mı yoksa yeterince araştırılmadığından mı kaynaklandığının belirsiz olduğunu ekliyor.
Unutmamalıyız ki seslerimiz her yerdeler. Bıraktığımız her sesli mesajdan, müşteri hizmetleri hatlarındaki kayıt uyarılarına kadar, seslerimizin dijital kayıtları çevrimiçi etkinliklerimizle karşılaştırılabilir hacimlerde bulunuyor.
Büyük sigorta şirketlerinin yapay zeka ile sesimizden elde edilen bilgilerle kârlarını artırmanın yollarını bulmaları durumunda, onları neyin engelleyeceği sorusu akıllara geliyor.
Bäckström, bu konuyu konuşmanın bile yeni teknolojiden hem halkın hem de potansiyel kötü niyetli kişilerin haberdar olmasına yol açarak bir nevi Pandora'nın kutusunu açabileceğini ifade ediyor. Ancak makine öğrenimi araçlarının birçoğunun zaten mevcut olduğunu ve kötüye kullanımının uzak olmadığını vurguluyor. Eğer birileri bu teknolojiyi keşfettiyse, büyük bir avantaj elde etmiş olabilir.
Bu nedenle, halkın potansiyel tehlikeler konusunda bilinçlendirilmesi gerektiğini savunuyor. Aksi takdirde, büyük şirketler ve gözetim devletlerinin zaten kazandığını belirtiyor. Bu tablo karamsar görünse de, bir şeyleri değiştirebileceği umudunu taşıdığını ekliyor.
Sesinizi Koruyun
Neyse ki, bizi koruyabilecek potansiyel mühendislik yaklaşımları mevcut. İlk adım, sesimizin tam olarak neleri ifşa ettiğini ölçmektir. Bäckström'ün de belirttiği gibi, neyi koruduğunuzu bilmeden araçlar geliştirmek zordur.
Bu düşünce, konuşmadaki bilgileri nicelleştirmek için bir çerçeve sunan ve araştırma için disiplinlerarası bir forum sağlayan Security And Privacy In Speech Communication Interest Group'un kurulmasına yol açmıştır.
Buradan hareketle, yalnızca amaçlanan işlem için kesinlikle gerekli olan bilgilerin iletilmesi mümkün hale gelebilir. Örneğin, ilgili sistem konuşmayı metne dönüştürerek gerekli ham bilgiyi sağlayabilir; operatör gerçek aramayı kaydetmeden bilgiyi kendi sistemine girebilir veya telefonunuz kelimelerinizi metin akışı olarak iletebilir.
Bäckström'ün belirttiği gibi, hizmete iletilen bilgi, istenen görevi yerine getirmek için gereken en az miktarda bilgi olacaktır.
Bunun ötesinde, teknolojinin etik ilkeleri ve güvenlik önlemleri doğru şekilde belirlenirse, büyük vaatler sunduğunu ekliyor. Konuşma arayüzlerinin ve konuşma teknolojilerinin çok olumlu yollarla kullanılabileceğine inanıyor. Araştırmalarının büyük bir kısmının, kullanıcılar için daha doğal hale gelmesini sağlayacak şekilde konuşma teknolojileri geliştirmeye odaklandığını belirtiyor.
Gizlilik endişesi, bu tür adaptasyonların kullanıcılar hakkında özel bilgilerin analiz edilmesini gerektirmesiyle ortaya çıkıyor. Dolayısıyla, mesele özel bilgileri ortadan kaldırmak değil, hangi özel bilgilerin çıkarıldığı ve ne için kullanıldığıdır.
