Benjamin Nweke descobriu uma falha sutil no pipeline LLM após habilitar Saídas Estruturadas. Seu trabalho de reconciliação sinalizou inconsistências na análise de confirmações de pagamentos. A causa raiz: o modelo preencheu um campo de data obrigatório com a data de execução do trabalho de extração porque não podia retornar nada.

Da mesma forma, um sistema de recuperação de código aberto implementou uma cache semântica usando limiares de similaridade de cosseno para evitar geração redundante. No entanto, a cache carecia de um mecanismo para retornar abstenção quando as perguntas, apesar da similaridade semântica, exigiam respostas corretas opostas. Isso revela um defeito de设计 crítico compartilhado pelos mecanismos de confiabilidade: they narrow output degrees of freedom to simplify downstream processing, but inadvertently remove the ability to abstain.

As violações de restrições são barulhosas, mas os valores forçados passam silenciosamente por todas as portas, criando falhas difíceis de detectar. No cenário da cache, um acerto pula tanto a recuperação quanto o modelo inteiro, deixando nenhuma geração para comparar. A descoberta destaca que os mecanismos de confiabilidade, embora eficazes em reduzir ruído, podem mascarar problemas de proveniência quando a resposta correta é nenhuma das anteriores.