Yapay zeka destekli sohbet botları hayatımızın birçok alanına girerken, bunlardan biri olan ChatGPT'den alınan sağlık tavsiyesi, bir kişiyi acil servise kadar götürdü. Diyetinde değişiklik yapmaya karar veren 60 yaşındaki bir adam, ChatGPT'ye danıştıktan sonra, kullandığı öneri nedeniyle 'bromür zehirlenmesi' semptomları göstermeye başladı.
Üç ay boyunca süren bu diyetsel değişiklik sonucunda adamda paranoya ve halüsinasyonlar gibi ciddi psikiyatrik belirtiler ortaya çıktı. Yapılan incelemeler sonucunda, adamın internetten satın aldığı sodyum bromürü aşırı miktarda tükettiği anlaşıldı. Bromür zehirlenmesi (bromism), vücutta bromür birikmesi sonucu ortaya çıkan ve nörolojik sorunlara yol açabilen bir durumdur.
Geçmişte sedatif, antikonvülzan ve uyku ilaçlarında yaygın olarak kullanılan bromür, kronik maruziyette bu tür sorunlara neden olduğu anlaşılınca birçok ülkede reçeteli ve reçetesiz ilaçlardan çıkarıldı. Ancak, nadiren de olsa sodyum bromür içeren diyet takviyeleri aracılığıyla bu durumun tekrar görülebildiği belirtiliyor.
Adamın durumu, sofra tuzu (sodyum klorür) yerine sodyum bromür kullanmasının ardından ortaya çıktı. Bu değişikliğin temelinde, daha az sodyum tüketme isteği ve ChatGPT'nin bir önerisi yatıyor. ChatGPT, bu durumda klorürün bromür ile değiştirilebileceği yönünde bir yanıt vermiş. Uzmanlar, bu tür bilgilerin tıbbi profesyonellerin sağladığı tavsiyelerin yerini tutamayacağını ve dikkatli olunması gerektiğini vurguluyor.
ChatGPT'nin geliştiricisi OpenAI, konuyla ilgili olarak hizmet şartlarına dikkat çekerek, yapay zeka hizmetlerinin sağlık durumlarının teşhisi veya tedavisi için kullanılmaması gerektiğini belirtiyor. Ayrıca, yapay zeka çıktılarının tek gerçeklik kaynağı olarak görülmemesi ve profesyonel tavsiyenin yerini tutmaması gerektiği uyarısında bulunuyor.
Yaşanan bu olay, yapay zeka araçlarının sağlık alanındaki potansiyel faydalarının yanı sıra taşıdığı riskleri de gözler önüne seriyor. Özellikle dekontekstüalize edilmiş bilgilerin yayılma riski, kullanıcıların sağlık bilgilerini nereden aldığı konusunda daha dikkatli olmalarını gerektiriyor.
