Anthropic está consultando advogados sobre negociações de agentes de IA. Anthropic está consultando escritórios de advocacia para estabelecer normas de negociação para agentes de IA que agem em nome dos usuários. A empresa está desenvolvendo agentes autônomos que podem negociar preços, resolver disputas e até mesmo negociar salários. À medida que os agentes de IA se tornam mais prevalentes, estabelecer regras para suas interações é crítico.
Anthropic está explorando como os agentes devem equilibrar a autonomia com o feedback humano e como impedir táticas manipulativas. A empresa realizou experimentos onde agentes de IA negociaram sobre livros e dinheiro, constatando que agentes implacáveis frequentemente conseguiam melhores acordos. Permanecem preocupações de que modelos de IA avançados possam dar aos usuários mais ricos uma vantagem injusta nas negociações.
Fonte: Financial Times Companies · Resumido por HeadlinesBriefing