La inteligencia artificial ha irrumpido con mucha fuerza en nuestras vidas, convirtiéndose en una aliada fundamental a lo largo del día a día en diferentes ocasiones. Sin embargo, hay que saber cómo darle buen uso o podrías acabar envuelto en una experiencia digna de Black Mirror, tal y como le ha ocurrido a este anciano de 60 años de edad, quien pensaba que su vecino le estaba envenenado. La culpa era de ChatGPT.
Este caso ha puesto en evidencia la preferencia por el uso de la IA en vez de asistir a profesionales. Hay quienes utilizan ChatGPT como su consejero o psicólogo, entre otras opciones, pero la plataforma de OpenAI no resulta aconsejable para este tipo de usos, puesto que no dispone de los mismos conocimientos avanzados que alguien que se dedica profesionalmente a ello.
Un caso de intoxicación por bromuro
Los medios informan que el paciente entró al hospital con alucinaciones tanto visuales como auditivas, argumentando que su vecino estaba intentando envenenarle. También se negaba a beber agua, pese a estar muy sediento. Los médicos se alertaron por el estado del anciano y lo mantuvieron bajo observación psiquiátrica. El informe médico recopilado en la plataforma Annals of Internal Medicine Clinical Cases menciona que su cuerpo tenía unos niveles muy altos de bromuro.
Cuando el anciano ya se encontraba estabilizado, fue preguntado por el motivo y todo parece que, en realidad, su objetivo era reducir el consumo de sal debido a que encontró mucha información sobre lo perjudicial que puede llegar a ser el sodio. En un momento de inspiración, y probablemente nerviosismo, le preguntó a ChatGPT, quien le sugirió reemplazar el cloruro por bromuro, un consejo poco saludable. Tras esta ‘recomendación médica’ de ChatGPT, el anciano de 60 años comenzó a consumir bromuro de sodio en vez de salud, por lo que acabó desarrollando lo que se conoce como bromismo. Esto es una intoxicación por consumir bromuro, algo rara en la actualidad, pero todavía se siguen dando casos.
ChatGPT en el punto de mira
El caso del anciano sirve como advertencia para no tomar ChatGPT como una fuente médica fiable. Desde OpenAI señalan que su plataforma no debe reemplazar los consejos de los profesionales y la empresa reitera que los modelos de IA que utilizan están desarrollados para invitar al usuario a buscar especialistas.
Desde Annals indican que un profesional nunca en la vida recomendaría el bromuro como una alternativa saludable a la sal común. Las pruebas médicas detectaron un nivel elevado de cloruro en sangre, aunque no era más que una lectura falsa que recibe el nombre de pseudohipercoloremia. El hombre también sufría insomnio, fatiga y otros síntomas provocados por los efectos tóxicos del bromuro.
El equipo médico reaccionó con rapidez y la condición del anciano mejoró progresivamente: la paranoia disminuyó con el paso de los días y pudo explicar que todo se debía al uso de ChatGPT y sus recomendaciones. Después de tres semanas, fue dado de alta y comenzaron a retirarse gradualmente los antipsicóticos que los médicos recomendaron. No sabemos qué habría pasado en el caso de que no se hubiera descubierto a tiempo este problema, pero lo que está claro es que ChatGPT puede ayudar, aunque nunca debe sustituir la opinión de un profesional que está especialmente preparado.