HeadlinesBriefing favicon HeadlinesBriefing.com

Grep vence LSP: Por que agentes de codificação preferem busca léxica

Hacker News •
×

Um estudo que comparou a busca léxica (grep) com a navegação semântica suportada por LSP descobriu que, apesar da maior precisão do LSP, os agentes de codificação frequentemente preferem o grep. Testando três modelos Claude (Opus 4.8, Sonnet 4.6, Haiku 4.5) em repositórios de Python e TypeScript, os agentes escolheram ferramentas semânticas apenas entre 0% e 6% do tempo para tarefas simples de localização de código. Forçar caminhos semânticos primeiro reduziu as taxas de sucesso de 100% para 89%.

Porém, para tarefas de completude de referência, como encontrar todos os chamadores, os modelos escolheram navegação semântica entre 45% e 57% do tempo, alcançando uma precisão de 1,00 contra 0,76 do grep ao eliminar falsos positivos. O recall permaneceu próximo de 0,66 para ambos, limitado pela minuciosidade do agente, não pela precisão da recuperação. Modelos mais fortes tiveram ganhos de precisão, mas com aumento no uso de tokens.

O ruído na base de código foi decisivo: em repositórios TypeScript limpos, o LSP não proporcionou ganho em F1 e usou 16% mais tokens; em repositórios ruidosos, melhorou o F1 em 0,246 com 12% menos tokens. O preditor-chave foi o ruído léxico, não a força da digitação estática. Os resultados sugerem que a usabilidade das ferramentas depende do formato de retorno do contexto e da familiaridade do modelo, e não apenas da precisão.

Um modelo e seu laço de ferramentas familiares funcionam como uma única superfície de capacidade, onde o roteamento é feito pelo tipo de tarefa, não pelo hábito.