Anthropicは、ユーザーの代わりに行動するAIエージェントの交渉基準を確立するために法律事務所に相談しています。Anthropicは、ユーザーの代わりに行動するAIエージェントの交渉基準を確立するために法律事務所に相談しています。同社は、価格交渉、紛争解決、さらには給与交渉ができる自律型エージェントを開発しています。AIエージェントがますます普及する中、その相互作用に関するルールを設けることが重要になっています。Anthropicは、エージェントが自律性と人間からのフィードバックのバランスをどのように取るべきか、そして操作的な戦術をどのように防ぐべきかを探っています。同社は、書籍と金銭についての交渉においてAIエージェントを使った実験を行い、冷酷なエージェントがしばしばより良い取引を確保することを発見しました。高度なAIモデルが裕福なユーザーに交渉での不当な優位性をもたらす可能性があるという懸念は残っています。
出典: Financial Times Companies · 要約：HeadlinesBriefing