HeadlinesBriefing favicon HeadlinesBriefing.com

Grep schlägt LSP: Warum Codierungsagenten lexikalische Suche bevorzugen

Hacker News •
×

Eine Studie, die lexikalische Suche (grep) mit LSP-gestützter semantischer Navigation verglich, ergab, dass trotz der höheren Präzision von LSP Codierungsagenten oft grep vorziehen. Beim Testen von drei Claude-Modellen (Opus 4.8, Sonnet 4.6, Haiku 4.5) in Python- und TypeScript-Repositorien wählten die Agenten semantische Werkzeuge lediglich in 0-6 % der Zeit für einfache Code-Ortungsaufgaben. Das Erzwingen von semantik-first-Pfaden senkte die Erfolgsrate von 100 % auf 89 %.

Allerdings wählten Modelle bei Referenzvollständigkeitsaufgaben wie dem Finden aller Aufrufer semantische Navigation in 45-57 % der Zeit, erreichten eine Präzision von 1,00 gegenüber 0,76 bei grep durch Eliminierung von Fehltrennungen. Die Recall-Rate blieb bei beiden Methoden nahe 0,66, beschränkt durch die Gründlichkeit des Agents, nicht durch die Abrufpräzision. Stärkere Modelle zeigten Präzisionsgewinne, jedoch mit höherem Tokenverbrauch.

Der Codebase-Rauschen erwies sich als entscheidend: In sauberen TypeScript-Repositorien brachte LSP keinen F1-Gewinn und verbrauchte 16 % mehr Token; in rauschhaften Repositorien verbesserte es den F1 um 0,246 bei 12 % weniger Token. Der Schlüsselprädiktor war lexikalisches Rauschen, nicht die Stärke der statischen Typisierung. Die Ergebnisse legen nahe, dass die Nutzbarkeit von Werkzeugen vom Kontext-Rückgabeformat und der Modellvertrautheit abhängt, nicht nur von der Präzision.

Ein Modell und sein vertrautes Werkzeug-Schleifen-System bilden gemeinsam eine einzige Fähigkeitsfläche, wobei die Weiterleitung nach Aufgabentyp erfolgt, nicht nach Gewohnheit.