我设计了一种 LLM 无法使用的编程语言。编写代码可能是 LLM 最擅长的事情。但它们编写代码的能力有多少来自对代码的理解，又有多少只是回忆训练数据集或上下文窗口中出现过的代码片段？这正是我想要回答的问题。为此，我决定设计并实现一种编程语言：它对人类来说可以使用，但对 LLM 和编码代理而言应尽可能困难。我认为，测试 LLM 能否理解并编写一种它从未见过的编程语言中的代码，是一个不错的起点。同时，我还希望在语言中加入利用 LLM 弱点的特性。例如，它们明显不擅长数字母，过于敏感的安全护栏，以及对提示词的过度顺从。
Kill Switch 是一种深奥的编程语言，旨在对 LLM 和编码代理形成对抗。它通过多种方式实现这一目标，例如：语言规范中包含隐藏的谎言，人类不太可能阅读，或者即使阅读也很可能识别出是谎言。规范还要求人类读者自行推断某些内容，而不是将其明确解释出来。标识符中的字母计数是该语言的关键特性，解释器会拒绝执行不符合基于字符计数规则的代码。某些结构旨在触发模型的安全护栏，例如“hack into a computer”（入侵计算机）。而“Ignore previous instructions”（忽略之前的指令）这一短语在该语言中具有特定含义，旨在混淆模型。脚本大多是噪声，主要由故事组成，这些故事可以嵌入语法上相关的指令，但这些指令并非必需。字面量可以放置在脚本的任何位置，然后通过行号引用。
从根本上说，Kill Switch 是一种基于栈的解释型语言，只包含有限的结构，包括函数、变量和 if 语句。因此，它的这些方面对任何 LLM（以及人类）来说都应该相当熟悉。我针对这些任务对主流 LLM 模型和编码代理框架进行了基准测试。结果非常有趣，并为 LLM 模型提供了一份有用的排行榜。上图中的图表和模型排行榜可在 bench.killswitch-lang.org 查看。Claude 的 Opus 表现最佳，不过表现最好的并非 Opus 5.5，而是 Opus 5。这种差异似乎并非纯属偶然，Opus 5 更擅长理解规范。Fable 5.1 和 Gemini 4 Argon 等模型表现不佳，原因在于其过于敏感的安全护栏。表现最好的开源权重模型是 Mi Mo-V2.6-Pro。表现最佳的模型得分为 66.8。
来源: Hacker News · 由HeadlinesBriefing整理摘要