Günümüzün gelişmiş yapay zeka (YZ) sistemleri, restoran önerilerinden e-posta yazmaya kadar birçok alanda kullanışlı olsa da, tıbbi tavsiyeler konusunda ciddi riskler taşıyabileceğini gösteren bir vaka yaşandı. Bir kişi, bir sohbet botunun sunduğu bir sağlık planını uyguladıktan sonra nadir görülen bir zehirlenme türü nedeniyle hastaneye kaldırıldı.
Olay, hastanın sağlığını iyileştirmek amacıyla tuz (sodyum klorür) alımını azaltmaya karar vermesiyle başladı. Bir alternatif bulmak için günümüzdeki birçok insanın yaptığı gibi bir YZ sohbet botuna başvurdu. Sohbet botunun önerisi ise sodyum bromür oldu. Kişi, bu maddeyi çevrimiçi sipariş ederek diyetine ekledi.
Sodyum bromür, sodyum klorür için bir ikame madde olabilse de, bu durum genellikle yiyecekler için değil, örneğin sıcak küvetlerin temizliği gibi farklı amaçlar için geçerlidir. Ancak YZ, bu kritik bilgiyi belirtmeyi atladı.
Yaklaşık üç ay sonra, hasta acil servise paranoyak sanrılarla başvurdu. Komşusunun kendisini zehirlemeye çalıştığına inanıyordu. Hastaneye yatırıldığı ilk 24 saat içinde, giderek artan paranoyası, işitsel ve görsel halüsinasyonlar yaşadığı, kaçmaya çalışması sonucu ise ciddi derecede akıl sağlığı bozulduğu için gönülsüz bir psikiyatrik gözetime alındığı belirtiliyor.
Psikiyatrik ilaçlarla tedavi edildikten sonra sakinleşen hasta, YZ'den aldığı diyet rejimi hakkında bilgi verebildi. Bu bilgi ve test sonuçları, tıbbi personelin hastayı bromürün toksik birikimi olan bromizm ile teşhis etmesini sağladı. Normalde sağlıklı bireylerde bromür seviyeleri yaklaşık 10 mg/L'nin altında seyrederken, bu hastanın seviyeleri 1.700 mg/L olarak ölçüldü.
Bromizm, 20. yüzyılın başlarında nispeten yaygın bir durumdu ve bir dönem psikiyatrik başvuruların yüzde 8'inden sorumlu olduğu tahmin ediliyordu. Ancak bromür içeren ilaçların kullanımdan kaldırılmasıyla 1970'ler ve 1980'lerde bu durumun vakaları büyük ölçüde azaldı. Tedavinin ardından hasta, üç hafta süren bir iyileşme sürecinin ardından ciddi bir sorun yaşamadan taburcu edildi.
Bu vaka çalışmasındaki temel endişe, eski bir hastalığın geri dönmesinden ziyade, gelişmekte olan YZ teknolojisinin, gerçekten önemli konularda insan uzmanlığının yerini almakta yetersiz kalmasıdır. Uzmanlar, ChatGPT ve diğer YZ sistemlerinin bilimsel yanlışlıklar üretebileceğini, sonuçları eleştirel bir şekilde tartışma yeteneğinden yoksun olduğunu ve nihayetinde yanlış bilginin yayılmasını körükleyebileceğini belirtiyor. Bir tıp uzmanının, bir hastanın sodyum klorür için geçerli bir alternatif aradığı bir durumda sodyum bromürü önermesi pek olası değildir.
