ミシガン州の病院で敗血症検出アルゴリズムを使用したKayla Secrest医師の経験は、医療AIにおける深刻化する危機を浮き彫りにする：ラボでは優れた性能を発揮するツールが、実際の臨床現場ではしばしば機能しない。アルゴリズムは絶え間ない偽アラートを生成し、Secrest氏と同僚たちは通知を完全に無視するようになった —— 「狼が来た」の寓話さながらの事態だ。後になって、そのアルゴリズムが厳格な実臨床テストなしで数百の病院に導入されていたことを知る。

専門家はAI開発者と最前線の医療従事者の間に危険なギャップがあると警告する。イェール大学デジタル倫理センターのJess Morley氏は、企業が「統計的検証」を臨床効果より優先し、「AIが実際に患者アウトカムに影響を与えるという衝撃的なほど乏しいエビデンス」しかないと指摘する。規制の隙間と不十分な性能データが問題を悪化させている。

支持者は管理上のメリットを挙げる：NvidiaのKimberly Powell氏は自動メモ作成を強調し、OpenAIはAdvent Healthで管理業務時間80%削減、ケニアのPenda Healthで診断エラー16%減を報告。Scripps Research Translational InstituteのEric Topol氏は診断分野での実証済み価値を確認し、2024年の研究でAI支援下大腸内視鏡検査が有意に多くのポリープを検出したことを引用する。

しかしTopol氏は、医療リーダーが生成AIの「ワオ要因」に魅了され、実績あるツールの採用を見送っていると警告する。広範な導入の前にベネフィット・リスク比を確立することが不可欠だ。