Anthropic está consultando a bufetes de abogados para establecer normas de negociación para agentes de IA que actúan en nombre de los usuarios. La empresa está desarrollando agentes autónomos que pueden regatear precios, resolver disputas e incluso negociar salarios. A medida que los agentes de IA se vuelven más prevalentes, establecer reglas para sus interacciones es crítico.
Anthropic está explorando cómo los agentes deben equilibrar la autonomía con el feedback humano y cómo evitar tácticas manipulativas. La empresa ha realizado experimentos donde los agentes de IA negociaron sobre libros y dinero, descubriendo que los agentes despiadados a menudo aseguraban mejores acuerdos. Quedan preocupaciones de que los modelos de IA avanzados puedan dar a los usuarios más ricos una ventaja injusta en las negociaciones.
Fuente: Financial Times Companies · Resumido por HeadlinesBriefing