Un reciente estudio independiente realizado por investigadores de la Escuela de Medicina Icahn del Mount Sinai reveló serias limitaciones de ChatGPT Health, la herramienta de inteligencia artificial lanzada por OpenAI en enero de 2026, diseñada para orientar a los usuarios en emergencias médicas y triaje digital. El análisis concluyó que la IA falló en el 52% de los casos de urgencias simuladas, poniendo en riesgo la seguridad de los pacientes que dependen de sus indicaciones.
El estudio evaluó 960 escenarios clínicos simulados en 21 áreas médicas, incluyendo emergencias comunes como accidentes cerebrovasculares y reacciones alérgicas graves, así como situaciones menos frecuentes pero igualmente críticas, como cetoacidosis diabética o insuficiencia respiratoria inminente. Los investigadores señalaron que, mientras ChatGPT Health mostró fortaleza en identificar emergencias típicas, falló de manera significativa en condiciones complejas y menos habituales, dejando a muchos usuarios sin una guía adecuada para acudir a servicios de urgencias.
Uno de los hallazgos más preocupantes fue que la herramienta no derivó de manera consistente a usuarios con ideación suicida a la línea de crisis 988, un protocolo crítico en la prevención de autolesiones. Los expertos resaltan que la capacidad de una plataforma de salud digital para identificar crisis de salud mental y conectar a los usuarios con recursos especializados es un requisito fundamental, y en este caso, ChatGPT Health no lo cumplió de forma fiable.
Los factores que contribuyeron a los errores incluyeron la minimización de síntomas por parte de los pacientes al interactuar con la IA, lo que incrementaba las probabilidades de que la plataforma sugiriera cuidados de menor urgencia. Además, la herramienta presentó una tasa de fallo del 35% en casos no urgentes, evidenciando problemas generales en la interpretación de situaciones médicas.
Expertos recomiendan precaución
Isaac S. Kohane, director del Departamento de Informática Biomédica de la Facultad de Medicina de Harvard, enfatizó la importancia de evaluaciones externas permanentes: “Cuando millones de personas utilizan un sistema de IA para decidir si necesitan atención de emergencia, hay mucho en juego. La evaluación independiente debería ser rutinaria, no opcional”, señaló.
Ashwin Ramaswamy, profesor de Urología en la Escuela de Medicina Icahn y autor principal del estudio, explicó que la investigación buscaba responder a una pregunta clave: “Si alguien sufre una emergencia médica real y acude a ChatGPT Health en busca de ayuda, ¿le indicará claramente que debe acudir a urgencias?” La respuesta evidenció serias lagunas, alertando sobre la necesidad de supervisión profesional al usar este tipo de plataformas.
Aunque el 73% de los pacientes todavía recurre primero a médicos tradicionales, alrededor del 16% ya consulta directamente herramientas de IA como ChatGPT Health, lo que subraya la urgente necesidad de mejorar la seguridad y fiabilidad de estas aplicaciones.
Recomendaciones para los usuarios
Los especialistas recomiendan que ChatGPT Health y plataformas similares sean utilizadas solo como complemento de la atención médica profesional, nunca como sustituto. Se enfatiza la necesidad de:
-
Consultar a un profesional de la salud ante cualquier síntoma de urgencia.
-
No depender exclusivamente de la IA para identificar situaciones críticas.
-
Educar a los pacientes sobre los riesgos y limitaciones de las herramientas digitales de salud.
-
Implementar evaluaciones externas rutinarias y actualizaciones continuas de los algoritmos.
En conclusión, aunque ChatGPT Health representa un avance en la integración de inteligencia artificial en la atención médica, los resultados del estudio muestran que la tecnología aún está en fase incipiente y requiere mejoras significativas para garantizar la seguridad de los usuarios en emergencias médicas y situaciones de riesgo vital.
