Un estudio de la Universidad de Oxford, publicado en Nature Medicine, alerta sobre los riesgos de usar inteligencia artificial, incluidos sistemas como ChatGPT, para sustituir el consejo médico profesional. La investigación concluye que estos modelos no están preparados para reemplazar a los médicos en la atención de consultas de salud.
El trabajo, liderado por el Oxford Internet Institute y el Departamento Nuffield de Ciencias de la Salud de Atención Primaria, evaluó el desempeño de modelos de lenguaje extensos (LLM) en la resolución de casos clínicos simulados. Participaron casi 1.300 médicos que enfrentaron situaciones diversas, desde dolores de cabeza tras una noche de fiesta hasta síntomas persistentes en madres primerizas. Algunos consultaron una IA para decidir cómo actuar, mientras otros recurrieron a búsquedas en línea o a su propio juicio clínico.
Los resultados mostraron que los usuarios que confiaron en la IA no tomaron mejores decisiones que quienes utilizaron métodos tradicionales. Además, los investigadores señalaron que estos sistemas pueden fallar en identificar urgencias y ofrecer diagnósticos adecuados. La doctora Rebecca Payne, líder del estudio, subrayó que preguntar a una IA sobre síntomas puede ser peligroso, ya que podría retrasar la atención médica necesaria.
El estudio también destaca limitaciones en los métodos actuales de evaluación de la IA, que suelen basarse en pruebas estandarizadas sin interacción real con usuarios. Muchos participantes no sabían qué información proporcionar al modelo para obtener respuestas precisas, lo que generó recomendaciones mixtas y dificultó la elección de la mejor acción.
Los autores recomiendan desarrollar ensayos más robustos y pruebas con usuarios reales, similares a los ensayos clínicos que se requieren para nuevos medicamentos. Hasta que se cuente con métodos de evaluación más rigurosos, el estudio concluye que la consulta médica tradicional sigue siendo la vía más segura para resolver dudas de salud.
