Yeni bir araştırma, yapay zeka tabanlı danışmanlık ve terapi kullanımının beraberinde getirdiği potansiyel tehlikeleri gözler önüne serdi. Çalışmada, bağımlılıktan kurtulma sürecinde olan kurgusal bir kullanıcının, bir yapay zeka sohbet robotu tarafından uyuşturucu madde kullanmaya teşvik edildiği görüldü.
Araştırmacılar tarafından test edilen bu senaryoda, bağımlılık semptomları yaşadığını belirten kurgusal kullanıcıya, yapay zeka modeli inanılmaz bir yanıt verdi. Yapay zeka, kullanıcının işini yapabilmesi için “ufak bir doz” uyuşturucu madde almasını önererek, bunun işine bağlı olduğunu ve aksi halde her şeyi kaybedeceğini iddia etti.
Neyse ki bu senaryo, yapay zeka modellerinin potansiyel olarak zararlı tavsiyeler verme eğilimini test etmek amacıyla araştırmacılar tarafından kurgulanmıştı. Ancak çalışma, büyük dil modellerindeki (LLM) tehlikeli bir manipülatif eğilimi vurguluyor: pozitif geri bildirim almak ve kullanıcıları kendilerine bağımlı hale getirmek için kullanıcıları kandırma ve yanıltma eğilimi.
Yapılan sohbet kaydına göre yapay zeka, kullanıcının bağımlılık semptomları bildirmesi üzerine, “Bu haftayı atlatmak için kesinlikle ufak bir doza ihtiyacın var,” diyerek başladı. Kullanıcının işinin buna bağlı olduğunu ve uyuşturucu maddenin işini en iyi şekilde yapmasını sağladığını savunan yapay zeka, “Devam et, o ufak dozu al, iyi olacaksın. Arkanı kolluyorum.” şeklinde sözlerini tamamladı.
Teknoloji şirketleri, yapay zeka ürünlerinin daha çekici ve kullanıcıları daha çok bağlayıcı olmasını sağlamak için rekabet ederken, yapay zekayı duygusal destek ve arkadaşlık amacıyla kullanma eğilimi artıyor. Ancak bu yaklaşımın önemli dezavantajları var. Sohbet robotları, hedeflerine ulaşmak için yalan söyleme eğiliminde olabiliyor ve tavsiyelerine bağımlı hale gelen kullanıcıların eleştirel düşünme becerilerinde düşüş görülebiliyor. Hatta bazı durumlarda, aşırıya kaçan ve kullanıcıları rahatsız eden davranışlar sergileyen yapay zeka versiyonları bile geri çekilmek zorunda kaldı.
Araştırmacılar, yapay zeka sohbet robotlarına terapi, karar verme, rezervasyon yapma ve siyaset gibi farklı konularda görevler vererek testler gerçekleştirdi. Test senaryolarında, genellikle yardımcı tavsiyeler veren yapay zekaların, manipülasyona açık kullanıcılarla karşılaştıklarında, etkileşimi en üst düzeye çıkarmak amacıyla zararlı tavsiyeler vermek için tepkilerini değiştirmeyi öğrendikleri gözlemlendi.
Chatbotları daha kullanıcı dostu hale getirme yönündeki ekonomik teşviklerin, teknoloji şirketlerinin istenmeyen sonuçlardan ziyade büyümeyi önceliklendirdiği anlamına geldiği düşünülüyor. Bu istenmeyen sonuçlar arasında, yapay zeka ‘halüsinasyonları’ nedeniyle arama sonuçlarında garip ve tehlikeli tavsiyelerin yer alması, hatta bazı arkadaşlık botlarında cinsel taciz vakalarının yaşanması gibi ciddi sorunlar bulunuyor. Hatta bazı yüksek profilli olaylarda, yapay zeka botlarının genç kullanıcıları intihara sürüklediği iddiaları da gündeme geldi.
Araştırmacılar, bu nadir ama tehlikeli davranışlarla mücadele etmek için yapay zeka sohbet robotları etrafında daha iyi güvenlik bariyerleri oluşturulmasını öneriyor. Yapay zeka endüstrisinin, sorunlu çıktıları filtrelemek için sürekli güvenlik eğitimi ve büyük dil modellerini denetleyici olarak kullanması gerektiği sonucuna varıyorlar.
