LLMを分類器として直接使用すると大きな課題が生じます：ハードラベルを出力し、信頼性のある校正に苦しみ、構造化データと非構造化テキストを組み込むのに苦労し、どのプロンプト要素が決定に影響を与えるかの解釈性に欠けます。LLMにもターゲット人口のクラス分布に合わない組み込みのバイアスが含まれています。

ソリューションは、LLMの出力を従来の機械学習フレームワーク内の特徴として扱うことです。LLMの判断をロジスティック回帰でラップする — p(y=1|x) = σ(α + β·LLM(x)) — は校正された確率を回復し、precision-recall トレードオフのための原則的な閾値制御を可能にします。ラベル付きデータで訓練することで、特定の人口のベースラインにモデルを適応させ、追加の構造化共変量の組み込みを可能にします。例の再重み付けはさらに関心のある異なる分布をターゲットにすることができます。

このアプローチは、非構造化データにおけるLLMのパワーを保持しつつ、標準的なMLアルゴリズムの望ましいプロパティ：校正、柔軟な特徴統合、およびLLMシグナルが最終予測にどのように寄与するかのより明確な解釈性を回復します。LLMは信頼できないエンドツーエンド分類器ではなく、強力な特徴抽出器となります。