L'expérience du Dr Kayla Secrest avec un algorithme de détection de sepsis dans un hôpital du Michigan illustre une crise croissante dans l'IA médicale : les outils qui performent bien en laboratoire échouent souvent en milieu clinique réel. L'algorithme générait de fausses alertes constantes, amenant Secrest et ses collègues à ignorer totalement les notifications — un scénario du "garçon qui criait au loup". Ce n'est que plus tard qu'elle a appris qu'il avait été déployé dans des centaines d'hôpitaux sans tests rigoureux en conditions réelles.

Les experts avertissent d'un fossé dangereux entre développeurs d'IA et soignants de première ligne. Jess Morley du Centre d'Éthique Numérique de Yale note que les entreprises privilégient la "validation statistique" à l'efficacité clinique, avec des "preuves choquantes de faiblesse que l'IA impacte réellement les résultats patients". Les lacunes réglementaires et données de performance insuffisantes aggravent le problème.

Les partisans citent des avantages administratifs : Kimberly Powell de Nvidia souligne la prise de notes automatisée, tandis qu'OpenAI rapporte 80% de réduction du temps administratif chez Advent Health et 16% d'erreurs diagnostiques en moins chez Penda Health au Kenya. Eric Topol de l'Institut de Recherche Translationnelle Scripps confirme la valeur prouvée en diagnostic, citant une étude 2024 où les coloscopies assistées par IA détectaient substantiellement plus de polypes.

Cependant, Topol prévient que les dirigeants de santé sont captivés par le "facteur wow" de l'IA générative plutôt que d'adopter des outils aux antécédents prouvés. L'impératif reste d'établir le ratio bénéfice-risque avant tout déploiement large.