Kayla Secrest医生在密歇根州一家医院使用败血症检测算法的经历，凸显了医疗AI领域日益严重的危机：在实验室表现良好的工具，在真实临床环境中往往失效。该算法产生持续的虚假警报，导致Secrest和同事完全忽略通知 —— 形成了“狼来了”式的困境。直到后来她才得知，该算法在未经严格真实世界测试的情况下，已被部署到数百家医院。

专家警告AI开发者与一线医疗之间存在危险鸿沟。耶鲁数字伦理中心的Jess Morley指出，公司优先考虑“统计验证”而非临床疗效，存在“令人震惊的薄弱证据证明AI实际上对患者预后产生影响”。监管漏洞和不充分的性能数据加剧了这一问题。

支持者引用行政效益：Nvidia的Kimberly Powell强调自动记录笔记，而OpenAI报告在Advent Health实现80%的行政时间减少，在肯尼亚Penda Health将诊断错误减少16%。Scripps Research Translational Institute的Eric Topol确认诊断领域的已证实价值，引用2024年研究显示AI辅助结肠镜检查检出显著更多息肉。

然而，Topol警告医疗领导者被生成式AI的“惊艳因素”迷住，而非采用有可靠记录的工具。当务之急仍是在广泛部署前确立获益-风险比。