Anthropic concedeu ao monitor externo METR acesso 'tipo funcionário' às suas ferramentas e sistemas internos, tratando o grupo como uma equipe de avaliação de riscos. Essa medida permite que o METR analise práticas de segurança e registros internos sem precisar da aprovação da Anthropic para publicar descobertas. Esse acordo ocorre enquanto a Anthropic enfrenta pressão para tranquilizar os investidores sobre questões de segurança antes de sua esperada oferta pública inicial (IPO) este ano, com uma avaliação que excede US$ 2 trilhões.
A Anthropic afirmou que se a assunção de riscos de um banco ameaçar o público, terceiros devem poder vê-lo com antecedência. Os funcionários do METR foram integrados com o hardware e o espaço de escritório da empresa, e foram incentivados a compartilhar informações como fariam com um colega de trabalho. Vale ressaltar que a Anthropic não está pagando ao METR por esse arranjo, que o grupo de pesquisa diz estar pronto para expandir para todos os desenvolvedores de IA de fronteira.
Embora a Anthropic não possa vetar a publicação das análises do METR, ela pode exigir a remoção de dados de clientes, detalhes protegidos por privilégio advogado-cliente ou informações sobre a arquitetura do modelo. Além disso, a Anthropic está trabalhando com a Accenture e a Secure Bio para estabelecer novas salvaguardas para riscos químicos, biológicos e gerais de IA.
Fonte: Ars Technica · Resumido por HeadlinesBriefing