Die Erfahrung von Dr. Kayla Secrest mit einem Sepsis-Erkennungsalgorithmus in einem Krankenhaus in Michigan veranschaulicht eine wachsende Krise in der medizinischen KI: Tools, die im Labor gut funktionieren, versagen oft in realen klinischen Umgebungen. Der Algorithmus erzeugte ständige Fehlalarme, wodurch Secrest und Kollegen Benachrichtigungen vollständig ignorierten — ein "Der Junge, der Wolf schrie"-Szenario. Erst später erfuhr sie, dass er ohne strenge Tests in der realen Welt in Hunderte von Krankenhäusern eingeführt worden war.

Experten warnen vor einer gefährlichen Kluft zwischen KI-Entwicklern und der medizinischen Frontlinie. Jess Morley vom Yale Digital Ethics Centre merkt an, dass Unternehmen "statistische Validierung" über klinische Wirksamkeit stellen, mit "schockierend schwachen Beweisen, dass KI tatsächlich Auswirkungen auf Patientenergebnisse hat". Regulatorische Lücken und unzureichende Leistungsdaten verschärfen das Problem.

Befürworter führen administrative Vorteile an: Nvidias Kimberly Powell hebt automatisiertes Notieren hervor, während OpenAI 80% weniger Verwaltungszeit bei Advent Health und 16% weniger Diagnosefehler bei Kenias Penda Health meldet. Eric Topol vom Scripps Research Translational Institute bestätigt bewährten Wert in der Diagnostik und zitiert eine 2024er Studie, in der KI-gestützte Koloskopien signifikant mehr Polypen entdeckten.

Doch Topol warnt, dass Gesundheitsführer vom "Wow-Faktor" generativer KI fasziniert sind, statt Tools mit bewährter Bilanz einzusetzen. Der Imperativ bleibt, das Nutzen-Schaden-Verhältnis vor breiter Einführung zu klären.