Benjamin Nweke在启用结构化输出后发现了一个微妙的LLM流水线故障。他的对账任务标记出支付确认解析中的不匹配。根本原因：模型无法返回空值，于是用提取任务的运行日期填充了必填的日期字段。类似地，一个开源检索系统使用余弦相似度阈值实现了语义缓存以避免冗余生成。然而，该缓存缺乏在问题语义相似但正确答案相反时拒绝回答的机制。这揭示了可靠性机制共有的关键设计缺陷：它们通过限制输出自由度来简化下游处理，却意外移除了拒绝回答的能力。约束违规是显式的，但强制值会静默通过所有检查点，造成难以捕获的失败。在缓存场景中，命中会完全跳过检索和模型，导致没有生成结果可供比较。该发现强调，可靠性机制虽然有效减少噪声，但当正确答案为“以上皆非”时，可能掩盖来源问题。