HeadlinesBriefing favicon HeadlinesBriefing.com

Grep vence a LSP: ¿Por qué los agentes de codificación prefieren la búsqueda léxica?

Hacker News •
×

Un estudio que comparó la búsqueda léxica (grep) con la navegación semántica respaldada por LSP encontró que los agentes de codificación a menudo prefieren grep pese a la mayor precisión de LSP. Al probar tres modelos de Claude (Opus 4.8, Sonnet 4.6, Haiku 4.5) en repositorios de Python y TypeScript, los agentes eligieron herramientas semánticas solo entre el 0% y el 6% del tiempo para tareas simples de localización de código. Forzar rutas semánticas primero redujo las tasas de éxito del 100% al 89%.

Sin embargo, para tareas de completitud de referencias, como encontrar todos los llamadores, los modelos eligieron navegación semántica entre el 45% y el 57% del tiempo, logrando una precisión de 1.00 frente al 0.76 de grep al eliminar falsos positivos. El recuerdo se mantuvo cerca de 0.66 para ambos, limitado por la exhaustividad del agente más que por la precisión de recuperación. Los modelos más fuertes vieron ganancias en precisión pero un mayor uso de tokens.

El ruido en la base de código resultó decisivo: en repositorios de TypeScript limpios, LSP no proporcionó ganancia en F1 y usó un 16% más de tokens; en repositorios ruidosos, mejoró el F1 en 0.246 con un 12% menos de tokens. El predictor clave fue el ruido léxico, no la fuerza de la tipificación estática. Los resultados sugieren que la usabilidad de las herramientas depende del formato de retorno de contexto y la familiaridad del modelo, no solo de la precisión.

Un modelo y su bucle de herramientas familiar actúan como una sola superficie de capacidad, enrutando por tipo de tarea en lugar de por hábito.