Multi-Agent Self-Supervision (MASS) permet l'amélioration récursive autorisée (RSI) en utilisant un seul modèle d'IA comme optimiseur et évaluateur de lui-même. Cette approche homogène aborde le défi d'aller au-delà du savoir humain, où les experts humains peuvent avoir du mal à évaluer les résultats sur des tâches non vérifiables. MASS optimise répétitivement les flux de travail multi-agents, distille l'intelligence collective des systèmes multi-agents et l'utilise comme signal de supervision autorisée. L'optimiseur recherche le meilleur flux de travail d'équipe à l'aide des rétroactions de l'évaluateur, puis entraîne l'exécuteur sur les meilleures exécutions d'équipe auto-évaluées. Le modèle mis à jour occupe les trois rôles et répète le processus, améliorant le score par jeton de sortie par rapport au modèle de base sur les benchmarks de recherche. Cette approche s'inspire des sociétés humaines, où les réalisations collectives servent de points de départ pour l'apprentissage, et de la concept de Thomas Kuhn des exemples partagés permettant la résolution de problèmes scientifiques.
Entités clés : Entreprises : Sakana AI | Personnes : Thomas Kuhn
FAQ : Comment MASS permet-il l'amélioration récursive autorisée sans feedback humain ?
MASS utilise un seul modèle de langage partagé comme solveur de tâches, optimiseur de flux de travail et évaluateur. L'optimiseur recherche le meilleur flux de travail multi-agents à l'aide des rétroactions de l'évaluateur, puis entraîne l'exécuteur sur les exécutions des meilleures équipes auto-évaluées. Le modèle mis à jour occupe les trois rôles et répète le processus, créant un signal de supervision autorisée en distillant l'expérience collective de l'équipe dans le modèle partagé.
Source: Hacker News · Résumé par HeadlinesBriefing