Usar LLM diretamente como classificadores apresenta desafios significativos: produzem rótulos duros sem calibração confiável, lutam para incorporar dados estruturados junto com texto não estruturado e carecem de interpretabilidade sobre quais elementos do prompt influenciam decisões. Os LLM também carregam priors incorporados que podem não corresponder à distribuição de classes da população-alvo.

A solução é tratar as saídas do LLM como características dentro de um framework de machine learning tradicional. Envolver um veredito LLM com regressão logística — p(y=1|x) = σ(α + β·LLM(x)) — recupera probabilidades calibradas, permitindo controle de threshold principiado para trocas precision-recall. Treinamento em dados rotulados adapta o modelo à linha de base populacional específica e permite a incorporação de covariáveis estruturados adicionais. Reponderar exemplos pode apontar ainda mais para diferentes distribuições de interesse.