人工智能与机器学习24小时简报

最后更新: October 10, 2026, 3:40 PM ET

AI 智能体安全

研究人员提出了一种双LLM模式，在智能体读取不可信来源的方式中加入架构性防护措施，在工具调用之前限制提示注入的暴露风险。

LLM 确定性

一项新分析给出了一个单行公式，用于计算模型最高概率词元发生翻转的频率，解释了为何在温度为0时，相同的提示词仍可能产生不同的输出。