Yapay zeka sohbet botlarının gelişimiyle birlikte, birçok kişi bu araçlara giderek daha fazla güvenmeye başladı. Sadece günlük işlerini kolaylaştırmakla kalmayıp, aynı zamanda derin kişisel konularda da destek alıyorlar. Hatta bu botlar aracılığıyla ilişkilere dair ipuçları bulan veya terapi desteği arayan pek çok ilginç vaka ortaya çıktı. Ancak son zamanlarda, yapay zekadan alınan sağlık tavsiyelerinin ne kadar riskli olabileceğini gösteren endişe verici bir olay yaşandı. Yapay zeka asistanının beslenme önerilerini takip eden 60 yaşında bir adam, nadir görülen ve tehlikeli bir rahatsızlığa yakalandı.
Yapay Zeka Sağlık Önerilerinin Gizli Tehlikeleri: Bromizm ve Fazla Kaçırılan Tuz Alternatifi
Zaman zaman yapay zeka modellerine aşırı güvenmemek gerektiği uyarısı yapılsa da, son olarak bir ABD tıp dergisinden gelen bir uyarı dikkat çekti. Bir adamın sohbet botundan aldığı beslenme tavsiyeleri sonrası ciddi şekilde hastalanması üzerine, yapay zekadan tıbbi tavsiye aramak konusunda bir uyarıda bulunuldu. Olay, 60 yaşında bir adamın yapay zeka asistanının rehberliğini takip ettikten sonra bromizm, yani bromür zehirlenmesi geliştirmesiyle ilgili ayrıntılı bir raporun yayınlandığı bir dergide yer aldı.
Talihsiz adam, yaygın sofra tuzu (sodyum klorür) yerine internetten temin ettiği sodyum bromürü kullanarak bu nadir ve tehlikeli duruma yakalandı. Adam, tuz için potansiyel bir ikame madde hakkında bilgi istediğinde ChatGPT'den tavsiye aldı. Yapay zekanın önerisini takip ederek sodyum bromürü üç ay boyunca günlük olarak tüketti ve bunun daha sağlıklı bir alternatif olduğuna inanıyordu. Ancak bu durumun sonucu yıkıcı oldu: Paranoya, uykusuzluk, psikoz ve komşuları tarafından zehirlendiğini düşünmesine neden olan diğer ciddi fiziksel semptomlar geliştirdi.
Adam hastaneye kaldırıldı ve burada doktorlar, aşırı bromür maruziyetine bağlı toksik reaksiyon olan bromizm teşhisi koydu. Bromür tüketmeyi bıraktıktan ve gerekli tedaviyi aldıktan sonra semptomları iyileşmeye başladı. Bromür tuzlarının nadir bulunması nedeniyle günümüzde pek görülmeyen bu durum, yine de denetim olmadan internetten satın alınabilen bu tür maddelere karşı bir hatırlatma niteliği taşıyor.
Hastanın hikayesi aynı zamanda yapay zekanın nasıl dikkatli kullanılması gerektiği konusunda da alarm veriyor, özellikle sağlık bağlamında. Araştırmacılar, ChatGPT'nin bu tür yanıtlar verip vermediğini bile incelediler ve yapay zekanın gerçekten de klorüre bir alternatif olarak bromürü önerdiği ortaya çıktı. Toksisite uyarısı yapılmaması ise yanıtları daha da endişe verici hale getiriyor. Sohbet botları tıp profesyonelleri gibi yargılama ve sorumluluk sunamazlar, bu nedenle bu alanlarda uzman olarak kabul edilmemelidirler.
Bu tür hassas konularda yapay zeka modellerinin daha iyi güvenlik önlemleriyle gelmesi gerekiyor. Yapay zeka araçlarının yaygınlaştığı bu çağda, merakın ihtiyatın önüne geçmemesi ve profesyonel tavsiyelerin asla göz ardı edilmemesi büyük önem taşıyor.
