Anthropic consulte des avocats sur les négociations des agents d'IA. Anthropic consulte des cabinets d'avocats pour établir des normes de négociation pour les agents d'IA agissant au nom des utilisateurs. L'entreprise développe des agents autonomes capables de négocier des prix, de résoudre des litiges et même de négocier des salaires. À mesure que les agents d'IA deviennent plus répandus, il est essentiel d'établir des règles pour leurs interactions.
Anthropic explore comment les agents doivent équilibrer l'autonomie avec le retour humain et comment empêcher les tactiques manipulatrices. L'entreprise a mené des expériences où des agents d'IA ont négocié sur des livres et de l'argent, constatant que les agents impitoyables obtenaient souvent de meilleures offres. Des inquiétudes persistent selon lesquelles les modèles d'IA avancés pourraient offrir aux utilisateurs plus riches un avantage injuste dans les négociations.
Source: Financial Times Companies · Résumé par HeadlinesBriefing