Anthropic konsultiert Anwälte zu KI-Agenten-Verhandlungen. Anthropic konsultiert Rechtsanwälte, um Verhandlungsnormen für KI-Agenten festzulegen, die im Namen der Nutzer handeln. Das Unternehmen entwickelt autonome Agenten, die Preise verhandeln, Streitigkeiten lösen und sogar Gehälter verhandeln können.
Da KI-Agenten immer häufiger werden, ist es entscheidend, Regeln für ihre Interaktionen festzulegen. Anthropic erforscht, wie Agenten Autonomie mit menschlichem Feedback in Einklang bringen können und wie manipulative Taktiken verhindert werden können. Das Unternehmen hat Experimente durchgeführt, bei denen KI-Agenten über Bücher und Geld verhandelt haben, wobei festgestellt wurde, dass rücksichtslose Agenten oft bessere Geschäfte abschließen.
Es bestehen Bedenken, dass fortschrittliche KI-Modelle wohlhabenderen Nutzern einen unfairen Vorteil in Verhandlungen verschaffen könnten.
Quelle: Financial Times Companies · Zusammengefasst von HeadlinesBriefing