Les grands modèles de langage (LLM) utilisés comme agents perdent souvent la trace des objectifs lors de longues tâches, répétant des actions ou utilisant des outils incorrectement. Pour y remédier, des chercheurs de Google, Georgia Tech et Peking University introduisent le Graphe Procédural—une mémoire structurée qui stocke les connaissances procédurales sous forme de triplets (procédure, relation, procédure), similaire à la façon dont les graphes de connaissances stockent les faits. À chaque étape, le nœud actif de l'agent localise les informations de sous-graphe pertinentes, qu'un modèle de guidage convertit en conseils situationnels qui biaisent mais ne dictent pas l'action suivante. Le graphe s'auto-évolue : un raffineur LLM compare les trajectoires échouées et réussies, édite la topologie et les attributs du graphe, et ne commit que les changements qui améliorent les performances de validation retenue.

Les modifications rejetées sont conservées pour éviter de répéter les erreurs. Partant d'un squelette minimal, cette méthode construit des graphes qui égalent ou dépassent ceux conçus à la main, et peut réparer des a priori experts défectueux. Sur plusieurs ensembles de données, types de tâches et LLM de base, le Graphe Procédural surpasse constamment les lignes de base basées sur la mémoire, l'auto-évolution ajoutant des gains supplémentaires sans ingénierie manuelle.