この主張は数ヶ月間広まっており、測定可能なほど具体的である：テーブルファウンデーションモデルは、そのテーブルに対して一度も訓練を行わずに予測を行い、それでもチューニング済みのブースティングを上回る。これが真実ならば、半世紀の実践の形が変わる。ハイパーパラメータの探索は必須の手順ではなくなり、時に報われない贅沢になる。そこで私は自分のグラフィックカードでこれをテストした：14のデータセット、4人の競合者、そして全員に同じストップウォッチを使用した。テーブルファウンデーションモデルは、目的のために生成された何百万もの合成テーブルで事前訓練されている。新しいテーブルが到着すると、単一の重みも調整せず、訓練行をコンテキストとして受け取り、1つのフォワードパスで予測を生成する。これは言語モデルで既に知っているインコンテキスト学習の同じ考え方だが、言葉から列へと移されたものである。これがなぜ「訓練」という動詞が奇妙に聞こえる理由である：コードはまだそれをfitと呼ぶが、内部では勾配降下は行われず、ただデータがカードにコピーされるだけである。これがなぜコストが予期しない場所に現れる理由である：フィッティングはほぼ無コストで、予測がコストを発生させる。これは木のモデルとはまさに逆である。このように言うと抽象的に聞こえるので、ここで1行の完全な旅を示す：空のセルを含むリクエストが到着し、モデルはそれがこれまでに起きたすべてと比較され、1パスで解決され、未来が返される。私が測定した6つのケースのうちいずれかを選んで、実際のデータで確認してほしい：デフォルトリスク、販売キャンペーン、臨床再入院、再犯、電力需要、分子スクリーニング。