A experiência da Dra. Kayla Secrest com um algoritmo de detecção de sepse em um hospital de Michigan ilustra uma crise crescente em IA médica: ferramentas que funcionam bem em laboratórios frequentemente falham em ambientes clínicos reais. O algoritmo gerava alertas falsos constantes, levando Secrest e colegas a ignorar notificações completamente — um cenário de "menino que gritava lobo". Só depois soube que havia sido implantado em centenas de hospitais sem testes rigorosos no mundo real.

Especialistas alertam para uma lacuna perigosa entre desenvolvedores de IA e a saúde na linha de frente. Jess Morley do Centro de Ética Digital de Yale observa que empresas priorizam "validação estatística" sobre eficácia clínica, com "evidências chocantemente fracas de que a IA realmente impacta desfechos de pacientes". Lacunas regulatórias e dados de desempenho insuficientes agravam o problema.

Defensores citam benefícios administrativos: Kimberly Powell da Nvidia destaca anotações automatizadas, enquanto OpenAI relata 80% de redução de tempo administrativo no Advent Health e 16% menos erros diagnósticos no Penda Health do Quênia. Eric Topol do Instituto de Pesquisa Translacional Scripps confirma valor comprovado em diagnósticos, citando estudo de 2024 onde colonoscopias assistidas por IA detectaram substancialmente mais pólipos.

No entanto, Topol alerta que líderes de saúde estão cativados pelo "fator uau" da IA generativa em vez de adotar ferramentas com registros comprovados. O imperativo continua sendo estabelecer a razão benefício-risco antes da implantação generalizada.