Das Modellrisikomanagement im Bankwesen wird durch generative KI auf die Probe gestellt. Ein Validierer in einer großen Bank steht einem KI-Assistenten gegenüber, der Kreditvermerke entwirft, aber die Standard-Validierungsvorlage verlangt eine Entwicklungsstichprobe, die nicht existiert. Das Modell wurde von einem Anbieter mit ungesehenen Daten trainiert. Dies bricht das traditionelle Rahmenwerk.

Die zentrale Herausforderung—ein System zu validieren, das nicht vollständig geprüft werden kann—gilt über das Bankwesen hinaus für medizinische Zusammenfassungen, juristische Recherchen und Chatbots. Das für Banken entwickelte Rahmenwerk, basierend auf Risikoeinstufung, Ergebnisbewertung, Robustheitstests und Überwachung stiller Drift, überträgt sich auf jede Domäne, in der Fehler teuer sind.

Banken verlassen sich auf statistische Modelle für Kreditentscheidungen, Kapital, Verlustprognosen und Betrugserkennung. Fehler führen zu falsch bewerteten Risiken, regulatorischen Strafen und großen Verlusten. Die Krise von 2008 und ein Handelsverlust von 2012 zeigten die Einsätze. Regulierungsbehörden reagierten 2011 mit SR 11-7, das Modellrisiko definierte und bewusstes Management verlangte. Das EU-KI-Gesetz erweitert ähnliche Erwartungen auf Hochrisiko-KI im Bankwesen.

Für generative KI verlagert sich die Validierung von der Reproduktion hin zum Testdesign. Da Modelle nicht neu trainiert oder vollständig geprüft werden können, bedeutet effektive Herausforderung, Tests zu entwerfen, um selbstbewusste Fehler zu erfassen und Drift zu überwachen. Dieses Playbook bietet einen Weg nach vorne für jede ernsthafte KI-Bereitstellung.