HeadlinesBriefing favicon HeadlinesBriefing.com

Prozedurale Graphen: Selbstentwickelnder LLM-Agent

Hacker News •
×

Große Sprachmodelle (LLMs), die als Agenten verwendet werden, verlieren bei langen Aufgaben oft das Ziel aus den Augen, wiederholen Aktionen oder verwenden Werkzeuge falsch. Um dies zu adressieren, führen Forscher von Google, Georgia Tech und Peking University den Prozeduralen Graphen ein—einen strukturierten Speicher, der prozedurales Wissen als (Prozedur, Beziehung, Prozedur)-Tripletts speichert, ähnlich wie Wissensgraphen Fakten speichern. Bei jedem Schritt lokalisiert der aktive Knoten des Agenten relevante Teilgrapheninformationen, die ein Leitmodell in situative Ratschläge umwandelt, die die nächste Aktion beeinflussen, aber nicht diktieren.

Der Graph entwickelt sich selbst: Ein LLM-Verfeinerer vergleicht fehlgeschlagene und erfolgreiche Trajektorien, bearbeitet die Topologie und Attribute des Graphen und committet nur Änderungen, die die zurückgehaltene Validierungsleistung verbessern. Abgelehnte Bearbeitungen werden aufbewahrt, um Fehler zu vermeiden. Beginnend mit einem minimalen Skelett baut diese Methode Graphen, die handgefertigten entsprechen oder sie übertreffen, und kann fehlerhafte Experten-Priors reparieren. Über mehrere Datensätze, Aufgabentypen und Backbone-LLMs hinweg übertrifft der Prozedurale Graph konsistent speicherbasierte Baselines, wobei Selbstentwicklung zusätzliche Gewinne ohne manuelle Technik hinzufügt.