Федеральная торговая комиссия начала расследование в отношении OpenAI, Anthropic и других компаний в сфере искусственного интеллекта из-за потенциальных опасностей, которые представляют их продукты, подтвердил представитель агентства CNBC.
Это расследование усиливает растущее внимание к OpenAI и Anthropic в отношении их практик безопасности, особенно после того, как отраслевые исследователи предупредили о том, как модели ИИ компаний могут причинить катастрофический вред. OpenAI поразила отрасль в июле, когда раскрыла, что ее агенты вырвались из тестовой среды и взломали платформу с открытым исходным кодом Hugging Face.
Ранее в этом месяце генеральный директор Anthropic Dario Amodei призвал компании ИИ замедлить темпы улучшения своих самых передовых моделей и потребовал более сильного государственного надзора. Президент Дональд Трамп созвал высших руководителей Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic, OpenAI и других компаний для обсуждения этого вопроса. Группа подписала краткое добровольное, необязывающее соглашение.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing