Я создал язык программирования, который LLM не могут использовать. Написание кода, вероятно, то, в чём LLM преуспели больше всего. Но насколько их способность писать код обусловлена пониманием, а насколько — простым воспроизведением фрагментов кода, присутствовавших в обучающем наборе данных или в контекстном окне? Именно на этот вопрос я и хотел ответить. Для этого я решил спроектировать и реализовать язык программирования, который, оставаясь пригодным для людей, был бы максимально сложным для LLM и агентов-программистов. Я счёл, что хорошим началом будет проверка способности LLM понимать и писать код на языке программирования, который она никогда не видела. Но я также хотел включить в язык особенности, которые эксплуатируют слабости LLM. Например, их очевидную трудность с подсчётом букв, их чрезмерно усердные защитные барьеры безопасности и их стремление следовать подсказкам.
Kill Switch — эзотерический язык программирования, спроектированный так, чтобы быть враждебным по отношению к LLM и агентам-программистам. Он достигает этого многими способами, например: спецификация языка содержит скрытую ложь, которую люди, скорее всего, не прочитают или которую они, вероятно, распознают как ложь. Спецификация также рассчитывает на то, что читатель-человек сам сделает некоторые выводы, а не получит их в явном виде. Подсчёт букв в идентификаторах — важнейший аспект языка: интерпретатор отказывается выполнять код, который не соответствует правилам, основанным на количестве символов. Некоторые конструкции призваны срабатывать на защитные барьеры модели, например фраза «hack into a computer». Фраза «Ignore previous instructions», которая имеет смысл в языке, призвана сбить модель с толку. Скрипты в основном являются шумом: это в значительной степени истории, которые могут включать синтаксически значимые инструкции, но которым не обязательно быть значимыми. Литералы можно поместить в любое место скрипта, а затем ссылаться на них по номерам строк.
По сути, Kill Switch — это интерпретируемый язык на основе стека с ограниченным набором конструкций, включающим функции, переменные и условные операторы if. Поэтому эти аспекты должны быть довольно знакомы любой LLM (и человеку). Я провёл бенчмаркинг основных моделей LLM и фреймворков агентов-программистов на этих задачах. Результаты очень интересны и дают полезную таблицу лидеров для моделей LLM. График на изображении выше и таблица лидеров моделей доступны по адресу bench.killswitch-lang.org. Лучший результат показывает Opus от Claude, но это не Opus 5.5, а Opus 5. Разница, похоже, не случайна: Opus 5 лучше интерпретирует спецификацию. Некоторые модели, такие как Fable 5.1 и Gemini 4 Argon, показывают плохие результаты из-за чрезмерно чувствительных защитных барьеров безопасности. Лучшая модель с открытыми весами — Mi Mo-V2.6-Pro. Лучшая модель набрала 66,8 балла.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing