Anthropic предоставил внешнему наблюдателю METR доступ, аналогичный доступу сотрудников, к внутренним инструментам и системам, рассматривая группу как команду по оценке рисков. Это позволяет METR проверять практики безопасности и внутренние журналы без необходимости получения одобрения от Anthropic для публикации выводов. Это соглашение происходит на фоне давления на Anthropic, чтобы успокоить инвесторов по вопросам безопасности перед ожидаемым первичным публичным предложением (IPO) в этом году при оценке, превышающей 2 трлн долларов. Anthropic заявила, что если риск-поведение банка угрожает общественности, третьи стороны должны иметь возможность увидеть это заранее. Сотрудники METR были приняты на работу с предоставлением корпоративного оборудования и офисного пространства, и им рекомендовалось делиться информацией так же, как они бы делали это с коллегой. Заметно, что Anthropic не платит METR за это соглашение, которое исследовательская группа заявляет, что готова расширить на всех разработчиков передового ИИ. Хотя Anthropic не может наложить вето на публикацию анализов METR, она может потребовать удаления данных клиентов, информации, защищенной привилегией адвокат-клиент, или деталей архитектуры модели. Кроме того, Anthropic сотрудничает с Accenture и Secure Bio для установления новых мер предосторожности в отношении химических, биологических и общих рисков ИИ.
Источник: Ars Technica · Сводку подготовил HeadlinesBriefing