Se você se interessa por eficiência de custos de ponta para seus agentes de IA, adoraríamos trabalhar juntos! Entre em contato: [email protected]. Ao implantar agentes no mundo real, queríamos que respondessem rapidamente e fossem econômicos. Notamos que os agentes gastam tempo e tokens gerenciando chamadas de ferramentas, então construímos o Unreal Agent com um harness que reduz a sobrecarga de gerenciamento de ferramentas. O harness gerencia chamadas de ferramentas de forma assíncrona, liberando o modelo de esperas, polls e heartbeats. Isso permite que os usuários direcionem o agente sem esperar pelas chamadas de ferramentas, e agenda mais trabalho útil de ferramentas entre chamadas ao modelo. A versão atual alcança até 40% de economia de custos versus Codex e até 20% versus Pi em cargas de trabalho reais e benchmarks.

Se você constrói um produto centrado em agentes, não há caminho dourado. SDKs de grandes marcas têm trade-offs: SDKs orientados a CLI como o Agent SDK da Claude assumem sessões locais e subprocessos, exigindo gerenciamento personalizado de ciclo de vida. Suportar outros provedores adiciona trabalho de compatibilidade. Dependências pesadas adicionam manutenção e risco de cadeia de suprimentos. Segurança e aprovações via hooks do harness tendem a ser menos robustas que restrições determinísticas de sandbox. Também queríamos um harness que aceitasse o direcionamento do usuário sem atraso e lidasse com chamadas de ferramentas heterogêneas sem carga cognitiva extra. Por exemplo, iniciar a configuração de um ambiente de desenvolvimento enquanto explora código e pesquisa na web em paralelo, sem taxa de tokens. Cada chamada de ferramenta adiciona um registro no log de eventos em estado "em andamento", continuando em segundo plano; ao terminar, adicionamos o resultado e chamamos um LLM. Fazer isso funcionar sem quebrar o cache foi um desafio de engenharia.

O Unreal Agent alcança os mesmos resultados com menos turnos de modelo e tokens de entrada. A economia vem de um footprint mínimo do harness, resultados de ferramentas otimizados em tokens, sem subagentes e mais trabalho de ferramentas por turno de modelo. O modelo assíncrono de chamadas de ferramentas permite mais chamadas pesadas por turno sem desperdiçar tokens em polling ou espera. Construímos o Unreal Agent para fluxos de produção reais, e ele também se sai bem em benchmarks.

Entidades principais: Empresas: Unreal Labs, Codex, Pi, Claude