Anthropic консультируется с юристами по переговорам ИИ-агентов. Anthropic консультируется с юридическими фирмами для установления норм переговоров для ИИ-агентов, действующих от имени пользователей. Компания разрабатывает автономные агенты, которые могут торговаться по ценам, разрешать споры и даже вести переговоры о зарплате. Поскольку ИИ-агенты становятся все более распространенными, установление правил для их взаимодействия имеет решающее значение. Anthropic изучает, как агенты должны балансировать автономию с обратной связью от человека и как предотвращать манипулятивные тактики. Компания провела эксперименты, где ИИ-агенты вели переговоры о книгах и деньгах, обнаружив, что беспощадные агенты часто достигали лучших сделок. Остаются опасения, что продвинутые модели ИИ могут дать более богатым пользователям несправедливое преимущество в переговорах.
Источник: Financial Times Companies · Сводку подготовил HeadlinesBriefing