HeadlinesBriefing favicon HeadlinesBriefing.com

Un million d'agents : problème de systèmes distribués

Hacker News •
×

Je pense aux agents comme je pense aux personnes. Un agent est un travailleur. Mille agents sont une organisation, et une organisation de machines est un système distribué. Les gens me disent sans cesse que les agents peuvent fonctionner pour toujours. Techniquement, c'est vrai. Vous pouvez appeler un modèle en boucle jusqu'à ce que votre carte de crédit soit refusée. Mais l'agent fonctionne toujours sur des choses finies : jetons, contexte, calcul, mémoire, outils, argent. Quelque chose finit toujours par manquer. Les humains ne sont pas si différents. Nous travaillons un moment et nous fatiguons. Notre mémoire de travail est minuscule. Nous oublions des choses. Alors nous écrivons les parties importantes, dormons, et revenons le lendemain matin avec une tête claire et la même identité. Les machines ont la même contrainte sous une forme différente. Une boîte manque de CPU. Un pod manque de mémoire. Personne ne règle cela en supposant que chaque processus devrait vivre pour toujours. Nous planifions le travail sur les ressources que nous avons. Je ne vois pas pourquoi l'intelligence serait exemptée. Un agent peut travailler un moment, écrire ce qui compte, effacer son contexte, et se laisser ou laisser un autre agent reprendre à partir de là. Nous exécutons nos propres agents de codage sur des VPS chez Ins Forge, et ils sont tués, redémarrés et manquent de contexte tout le temps. Les échecs qui font vraiment mal sont ceux où le plan ne vivait que dans la fenêtre de contexte de l'agent.

Ajouter des agents a aidé le travail parallèle jusqu'à 80,9% et nui au travail séquentiel de 39% à 70% dans l'étude de 180 configurations de Google Research. La forme de la tâche décide. Un orchestrateur a réduit l'amplification des erreurs de 17,2× à 4,4× dans la même étude. La coordination est un vrai travail. Dans Silo-Bench (ACL 2026), des équipes de 2 à 100 agents ont beaucoup parlé et mal raisonné. Les tâches les plus difficiles ont atteint un succès nul à 50 agents. Donc, la chose durable devrait être l'état, pas l'agent. Planifiez les agents comme des processus et récupérez-les comme des nœuds.

Les agents commencent à ressembler à des processus. Cela a cessé d'être une analogie il y a un moment. Il y a toute une ligne de recherche qui le construit. AIOS, un "système d'exploitation d'agents LLM" de Rutgers, ouvre avec le problème en une phrase : "Permettre un accès sans restriction aux ressources LLM ou aux outils peut conduire à une allocation et une utilisation des ressources inefficaces ou même potentiellement nuisibles pour les agents." Leur réponse est un noyau. Chaque demande d'agent est décomposée en appels système, un planificateur décide quel appel s'exécute ensuite, et un gestionnaire de contexte prend un instantané de l'agent en cours de tâche afin qu'il puisse être interrompu et repris. Ils rapportent jusqu'à 2,1× d'exécution plus rapide lors du service d'agents construits sur des frameworks existants. Planification, changement de contexte, gestion de la mémoire, stockage, contrôle d'accès. C'est un système d'exploitation. Les processus se trouvent simplement penser.

Cela paie aussi un niveau plus haut. LLM-as-Scheduler, de ACL 2026, part de l'observation que la plupart des requêtes ne méritent pas un flux de travail multi-agents lourd, et laisse un planificateur choisir le flux de travail par requête. Ils ont obtenu 43% de jetons en moins et plus de 36% de latence de bout en bout en moins, avec une baisse de précision d'au plus 1,4 point de pourcentage par rapport à un flux de travail fixe solide. Donc, un agent ressemble à un processus, et des milliers de processus ont besoin d'un planificateur. Bien. Mais planifier le calcul n'est que la moitié. Vous devez aussi coordonner les agents entre eux, et c'est là que cela devient intéressant. Dix personnes se coordonnent. Dix mille inventent des managers. Dix personnes peuvent se coordonner dans une pièce. Mille personnes ne peuvent pas toutes se parler et décider indépendamment de ce que l'entreprise devrait faire, alors nous avons inventé des équipes, des managers, des départements, et finalement un PDG. Les managers existent en partie parce que la coordination est elle-même un travail, et quelqu'un doit le faire. J'ai supposé que les agents auraient le même problème. Maintenant, il y a des données. Google Research et MIT ont mené une étude contrôlée de 180 configurations d'agents à travers cinq architectures et trois familles de modèles. Leur titre : "l'approche 'plus d'agents' atteint souvent un plafond, et peut même..."