La experiencia de la Dra. Kayla Secrest con un algoritmo de detección de sepsis en un hospital de Michigan ilustra una crisis creciente en la IA médica: herramientas que funcionan bien en laboratorios a menudo fallan en entornos clínicos reales. El algoritmo generaba alertas falsas constantes, llevando a Secrest y colegas a ignorar las notificaciones por completo — un escenario del "pastor que gritaba lobo". Solo después supo que se había implementado en cientos de hospitales sin pruebas rigurosas en el mundo real.

Expertos advierten de una brecha peligrosa entre desarrolladores de IA y la atención médica de primera línea. Jess Morley del Centro de Ética Digital de Yale señala que las empresas priorizan la "validación estadística" sobre la eficacia clínica, con "evidencia sorprendentemente pobre de que la IA realmente impacta los resultados de los pacientes". Brechas regulatorias y datos de rendimiento insuficientes agravan el problema.

Defensores citan beneficios administrativos: Kimberly Powell de Nvidia destaca la toma de notas automatizada, mientras OpenAI reporta 80% reducción de tiempo administrativo en Advent Health y 16% menos errores diagnósticos en Penda Health de Kenia. Eric Topol del Instituto de Investigación Traslacional Scripps confirma valor comprobado en diagnósticos, citando un estudio 2024 donde colonoscopias asistidas por IA detectaron sustancialmente más pólipos.

Sin embargo, Topol advierte que los líderes de salud están cautivados por el "factor wow" de la IA generativa en lugar de adoptar herramientas con registros probados. El imperativo sigue siendo establecer la relación beneficio-riesgo antes del despliegue generalizado.