Die wiederkehrenden Kosten von Produktions-KI sind nicht die Inferenz. Es ist die Requalifizierung: die Eval-Wiederholungen, die Prompt-Nachjustierung und die Regressionstests, die Sie jedes Mal schulden, wenn sich ein Modell unter Ihnen ändert. Die E-Mail kam an einem Dienstag.

Ein Modell, das wir fast ein Jahr lang in Produktion betrieben hatten, absichtlich an eine bestimmte Version gepinnt, wurde abgekündigt. Wir hatten ein Fenster zur Migration. Danach würde der Endpunkt beginnen, Fehler zurückzugeben.

Wir hatten alles getan, was das Playbook sorgfältigen Engineerings vorschreibt. Wir trieben nicht auf einem Latest-Alias, der sich über Nacht unter uns ändern konnte. Wir pinnten die exakte Modellversion, schrieben sie in die Konfiguration und behandelten sie wie jede andere Abhängigkeit, die wir nicht ohne Review bewegen wollten.

Der Pin sollte die sichere Wahl sein. Die Abkündigungsmitteilung machte etwas klar, das der Pin still verborgen hatte: Eine Modellversion zu pinnen kauft Ihnen keine Immunität gegen Veränderung. Es kauft Ihnen eine Verzögerung.

Der Boden bewegt sich trotzdem. Sie dürfen nur den Dienstag wählen. Diese Unterscheidung ist die am wenigsten budgetierte Kostenposition in der Produktions-KI.

Teams modellieren ihre KI-Ausgaben als Inferenz: Tokens rein, Tokens raus, mal Preis. Sie optimieren die Modellwahl, sie optimieren die Prompt-Länge, sie streiten darüber, ob das günstigere Modell gut genug ist. Fast niemand hat eine Zeile im Budget für den Tag, an dem das Modell wechselt und das gesamte System erneut als korrekt bewiesen werden muss.

Ich werde diese Zeile die Requalifizierungssteuer nennen, und am Ende dieses Artikels möchte ich, dass Sie sowohl einen Namen dafür als auch eine Möglichkeit haben, darum herum zu planen. Wovor Pinning Sie tatsächlich schützt und wovor nicht Eine Modellversion zu pinnen ist wirklich gute Praxis. Es stoppt stille Verhaltensdrift, bei der ein Anbieter die Gewichte hinter einem Alias aktualisiert und sich Ihre Ausgaben ändern, ohne dass eine einzige Zeile Ihres Codes sich ändert.

Wenn Sie jemals beobachtet haben, wie sich ein Eval-Score ohne Grund bewegt, den Sie in Ihren eigenen Commits finden konnten, wissen Sie bereits, warum Teams pinnen. Aber ein Pin ist ein Schloss auf Ihrer Seite einer Tür, die der Anbieter ebenfalls kontrolliert. Anbieter kündigen ab.

Im Jahr 2026 hat sich die Kadenz wenn überhaupt beschleunigt: Neue Frontier-Modelle werden alle paar Monate ausgeliefert, ältere werden ausgemustert, und mehrere Anbieter haben Modelle mit kurzer Vorankündigung außer Betrieb genommen. Die meisten Teams betreiben ohnehin nicht ein einziges Modell. Die aktuelle Realität, belegt durch Engineering-Umfragen im Laufe des Jahres, ist, dass Produktions-Stacks mehrere Modelle gleichzeitig in der Luft halten: ein Frontier-Modell für schwieriges Reasoning, ein günstigeres Modell für Routineaufrufe, manchmal ein selbst gehostetes Modell für Daten, die das Gebäude nicht verlassen dürfen.

Jedes davon hat seine eigene Abkündigungsuhr. Der Pin beseitigt also nicht die Veränderung. Er verwandelt eine unvorhersehbare Veränderung in eine geplante.

Das ist eine echte Verbesserung, denn eine geplante Veränderung ist etwas, für das Sie Personal und Budget einplanen können. Es ist nur dann eine Katastrophe, wenn Sie den Pin als Dauerhaftigkeit behandelt und nichts im Plan für den Tag seines Ablaufs vorgesehen haben. Was alle vergessen zu bepreisen: Das Modell ist nicht das Einzige, was sich ändert Hier ist der Teil, der Requalifizierung teuer statt trivial macht.

Wenn Sie von einer Modellversion zur nächsten wechseln, ist das Modell kein Drop-in-Teil. Fast alles, was Sie auf dem alten Modell aufgebaut haben, war, ob Sie es beabsichtigt haben oder nicht, auf das spezifische Verhalten dieses Modells abgestimmt. Ihre Prompts waren darauf abgestimmt.

Die Formulierung, die auf dem alten Modell zuverlässig strukturierte Ausgabe erzeugte, kann auf dem neuen etwas subtil anderes erzeugen. Ihre Few-Shot-Beispiele waren auf seine Eigenheiten kalibriert. Ihre Guardrails waren gegen seine Fehlermodi gesetzt.

Ihre Output-Parser waren gegen die spezifischen Formen gehärtet, die es tendenziell zurückgab. Ihre Temperatur und y...