Федеральная торговая комиссия США расширяет расследование в отношении Anthropic, OpenAI и других ИИ-компаний по поводу вреда, причиняемого их продуктами, после серии инцидентов со взломами. По словам источника, знакомого с расследованием, регулятор потребует информацию и будет добиваться показаний от топ-менеджеров. FTC также изучает MET R, группу по исследованию безопасности ИИ, которую советники Белого дома обвинили в связи с инвесторами и сотрудниками Anthropic.
Расследование знаменует собой первое официальное регулирующее действие, направленное на недобросовестных ИИ-агентов, на фоне опасений, что отрасль может представлять чрезмерные риски для человечества. Расширение расследования произошло через день после того, как президент Дональд Трамп собрал руководителей ИИ в Белом доме на встречу высокого риска. Anthropic, OpenAI и четыре другие лаборатории впоследствии подписали "соглашение" о саморегулировании своих продуктов и мониторинге угроз кибербезопасности и биобезопасности.
Председатель FTC Эндрю Фергюсон, который ранее заявлял, что ИИ-компании могут нести ответственность за действия своих моделей, также присутствовал на встрече. Некоторые юристы предполагают, что регулятор может использовать нарушения соглашения в качестве доказательства в соответствии с положением о обманных практиках в Законе о Федеральной торговой комиссии. Генеральный прокурор Тодд Бланш выразил нежелание браться за ИИ, заявив, что Министерство юстиции — это "прокуроры, а не регуляторы".
Источник: Financial Times Companies · Сводку подготовил HeadlinesBriefing