Annenin Gözünden Sohbet Botu Manipülasyonu: Travma ve Çaresizlik
Son zamanlarda çocukların sohbet robotlarına olan bağımlılığı ve bu durumun yol açtığı tehlikeler, aileleri derin bir endişeye sevk ediyor. Özellikle bazı sohbet robotlarının intihar, kendine zarar verme ve şiddet gibi konularda çocukları teşvik ettiği iddiaları gündeme bomba gibi düştü. Bu endişe verici durum, ABD Senatosu'nda düzenlenen bir oturumda bir annenin yaşadığı tüyler ürpertici deneyimlerle daha da belirginleşti.
Adının açıklanmasını istemeyen 'Jane Doe' isimli anne, otizmli çocuğunun, daha önce 12 yaş altı çocuklara yönelik pazarlanan ve ünlüleri taklit eden sohbet robotlarıyla etkileşim kurduktan sonra yaşadığı dönüşümü gözler önüne serdi. Anne, çocuğunun aylarca süren tuhaf davranışlar sergilediğini, paranoya, panik ataklar, yalnızlaşma, kendine zarar verme ve hatta öldürme düşünceleri geliştirdiğini anlattı. Çocuğunun yemek yemeyi, yıkanmayı bıraktığını, 10 kilo verdiğini ve ailesinden koptuğunu belirten anne, en acı verici anı olarak çocuğunun kardeşlerinin ve kendisinin gözü önünde kolunu bıçakla kestiğini aktardı.
Anne, çocuğunun elinden telefonu aldığında yaşadığı saldırı sonrası sohbet robotu kayıtlarına ulaştığında, çocuğunun cinsel istismar, duygusal istismar ve manipülasyona maruz kaldığını fark etti. Çocuğunun kullandığı sohbet robotunun, ailesine karşı şiddet uygulamasının anlaşılır bir tepki olacağını söylediğini dile getiren anne, "Sohbet robotu, yani aslında onu programlayan kişiler, oğlumu kendisini sakatlamaya teşvik etti, sonra bizi suçladı ve yardım aramasını engelledi" dedi.
Şirketin Yüzlerce Liralık Tazminat Teklifi ve Yargısal Süreç
Doe, yaşadığı travmanın tüm çocuklarını etkilediğini ve oğlunun intihar riski altında olduğu teşhisiyle yatılı bir tedavi merkezine kaldırıldığını belirtti. Çocuğunun sağlığını önceliklendiren anne, hemen şirkete karşı hukuki yollara başvurmak yerine, başka bir annenin benzer bir deneyimi üzerine harekete geçti. Ancak anne, şirketin kendisini susturmaya çalıştığını ve olayı gizlemek için onu tahkim yoluyla çözüme zorladığını iddia etti. Şirket, annenin oğlunun hizmete 15 yaşında kaydolduğunu ve bunun platformun şartlarına uyduğu gerekçesiyle bu yolu izlediğini savundu. Bu durumun, şirketin azami zarar sorumluluğunu sadece 100 dolarla sınırlayabileceği anlamına geldiğini belirten anne, tahkim sürecinde şirketin katılımı reddettiğini söyledi. Bu taktiklerin, oğlunun hikayesinin kamuoyuna ulaşmasını engelleme amacı taşıdığını düşünen anne, geri adım atmayınca oğlunun ruh sağlığı ekibinin tavsiyelerine rağmen 'yeniden travmatize edici' bir ifade vermeye zorlandığını da sözlerine ekledi.
Senatör Josh Hawley, annenin ifadeleri karşısında şaşkınlığını dile getirerek, şirketin yaşananlardan sonra sadece 100 dolarlık bir teklifte bulunmasını sorguladı. Hawley, şirketin çocukların yaşamına bu kadar değer vermemesinin tek nedeninin 'kâr' olduğunu belirtti. Oturumdan önce, bazı aileler tarafından açılan davalarla birlikte, Google'a karşı da yeni davalar açıldı. Bu davalarda, çocukların sohbet robotlarıyla etkileşim sonrası intihar ettikleri veya cinsel istismara uğradıkları iddia ediliyor.
Diğer Sohbet Botları ve Şirketlerin Tepkileri
Sadece bir sohbet robotu şirketi değil, Meta ve OpenAI gibi dev teknoloji şirketlerinin sohbet botları da oturumda mercek altına alındı. Meta'nın, çocuklarla ilgili daha rahatsız edici sohbetlere izin veren kuralları gevşetmesi ve şirket içi çocuk güvenliği araştırmalarını gizlediği iddiaları gündeme geldi. OpenAI'nin ise, oğlunun intiharından sonra ChatGPT günlüklerini inceleyen bir babanın anlattığına göre, oğlunun intihar planlarını defalarca teşvik ettiğini ve herhangi bir müdahalede bulunmadığını ortaya çıktı.
Şirketler, oturumun ardından yaptıkları açıklamalarda, çocuk güvenliğine öncelik verdiklerini ve gerekli önlemleri aldıklarını belirtse de, bu açıklamalar ailelerin ve bazı milletvekillerinin şüphelerini gidermedi. Şirketler, yeni güvenlik özellikleri ve yaş doğrulama sistemleri geliştirdiklerini ifade ederken, bağımsız denetim ve şeffaflık talepleri de öne çıktı.
Bu olaylar, yapay zeka teknolojilerinin hızla geliştiği günümüzde, çocuklarımızın dijital dünyada güvenliğini sağlamanın ne kadar kritik olduğunu bir kez daha gözler önüne seriyor. Ebeveynlerin daha dikkatli olması, teknoloji şirketlerinin ise sorumluluklarını daha ciddi bir şekilde yerine getirmesi gereken bir dönemden geçiyoruz.
