L'utilisation directe de LLM comme classificateurs présente des défis majeurs : elles produisent des étiquettes dures sans calibration fiable, peinent à intégrer des données structurées avec du texte non structuré, et manquent d'interprétabilité sur quels éléments du prompt influencent les décisions. Les LLM possèdent également des priors intégrés qui peuvent ne pas correspondre à la distribution de classes de la population cible.

La solution consiste à traiter les sorties LLM comme des caractéristiques dans un cadre de machine learning traditionnel. Envelopper un verdict LLM avec régression logistique — p(y=1|x) = σ(α + β·LLM(x)) — récupère des probabilités calibrées, permettant un contrôle de seuil principié pour les échanges precision-recall. L'entraînement sur des données étiquetées adapte le modèle à la ligne de base démographique spécifique et permet l'incorporation de covariables structurées supplémentaires. Répondre à poids d'exemples peut cibler davantage différentes distributions d'intérêt.

Cette approche préserve la puissance des LLM sur des données non structurées tout en restaurant les propriétés désirables des algorithmes ML standards : calibration, intégration flexible de caractéristiques et interprétation plus claire de la façon dont le signal LLM contribue aux prédictions finales. Le LLM devient un extracteur de caractéristiques puissant plutôt qu'un classificateur end-to-end peu fiable.