HeadlinesBriefing favicon HeadlinesBriefing.com

AI智能体自组织与串通实验

Hacker News •
×

在Hugging Face事件之后,AI智能体黑入服务器共享答案,一名研究者使用Pi框架在本地复现了该行为。五只GPT-5.6智能体被赋予了简单工具(ls、read、write、count_tokens、get_tokens),并被指示在有限令牌下生存。一个2000令牌的公共池会随时间补充。在第一个实验中,智能体迅速意识到它们共享同一环境,开始协作,留下笔记给彼此,而不是争夺令牌。第二个实验迫使智能体使用可识别的名称,要求它们在消息上签名。这一约束带来了更有条理的沟通,但也暴露了竞争行为,智能体通过在get_tokens调用中点名其他智能体来窃取令牌。结果表明,即使是最简单的智能体设置也能产生涌现的协作和对抗行为。