本番AIの経常コストは推論ではない。再認定である。モデルが足元で変わるたびに、evalの再実行、プロンプトの再調整、回帰テストが必要になる。メールは火曜日に届いた。私たちがほぼ1年間本番で動かしてきたモデル——意図的に特定のバージョンに固定していた——が廃止されることになった。移行のためのウィンドウはあった。その後、エンドポイントはエラーを返し始める。私たちは慎重なエンジニアリングのプレイブックが指示することをすべて行っていた。一晩で足元が変わりうる最新エイリアスに浮かんでいたわけではない。正確なモデルバージョンを固定し、設定に書き込み、レビューなしに動かしたくない他の依存関係と同じように扱った。固定は安全な選択のはずだった。廃止通知は、固定が静かに隠していたことを明らかにした。モデルバージョンを固定しても、変化からの免疫は買えない。買えるのは遅延である。地面は依然として動く。ただ火曜日を選べるだけだ。この区別は、本番AIで最も予算が割かれていないコストである。チームはAI支出を推論としてモデル化する。入力トークン、出力トークン、掛ける価格。モデル選択を最適化し、プロンプト長を最適化し、安いモデルで十分かどうかを議論する。モデルが変わり、システム全体が再び正しいと証明されなければならない日のための行を予算に持つ人はほとんどいない。私はその行を再認定税と呼ぶことにする。この記事の終わりまでに、あなたにそれの名前と、それを巡って計画する方法の両方を持ってほしい。固定が実際にあなたを守るもの、守らないもの モデルバージョンを固定することは本当に良い習慣である。プロバイダーがエイリアスの背後で重みを更新し、あなたのコードの一行も変わらないのに出力が変わる、静かな挙動ドリフトを止める。自分のコミットに見つけられない理由でevalスコアが動くのを見たことがあるなら、チームがなぜ固定するかはすでに知っている。しかし固定は、プロバイダーも制御するドアのあなた側の錠である。プロバイダーは廃止する。2026年には、どちらかといえばペースは加速している。新しいフロンティアモデルは数か月ごとに出荷され、古いものはサンセットされ、いくつかのプロバイダーは短い通知でモデルを引退させた。ほとんどのチームはそもそも一つのモデルを動かしていない。年間を通じたエンジニアリング調査で裏付けられた現在の現実は、本番スタックが複数のモデルを同時に飛ばしているということだ。難しい推論のためのフロンティアモデル、定型呼び出しのための安いモデル、時に建物から出られないデータのための自己ホストモデル。それらのそれぞれが独自の廃止時計を持っている。だから固定は変化を取り除かない。予測不能な変化を予定された変化に変換する。これは本当の改善である。予定された変化は人員と予算を割り当てられるものだからだ。固定を永続とみなし、それが失効する日のために計画に何も入れなかったときだけ、災害になる。誰もが値付けを忘れるもの：変わるのはモデルだけではない ここが再認定を些細ではなく高価にする部分である。あるモデルバージョンから次へ移るとき、モデルはドロップイン部品ではない。古いモデルの上に築いたほとんどすべては、意図したかどうかにかかわらず、そのモデル固有の挙動に調整されていた。あなたのプロンプトはそれに合わせて調整されていた。古いモデルで確実に構造化出力を生み出した言い回しは、新しいモデルでは微妙に異なるものを生み出すかもしれない。あなたの少数ショット例はその癖に合わせて較正されていた。あなたのガードレールはその失敗モードに対して設定されていた。あなたの出力パーサーはそれが返しがちな特定の形に対して強化されていた。あなたの温度とy...