Anthropic ha concedido al observador externo METR un acceso 'tipo empleado' a sus herramientas y sistemas internos, tratando al grupo como un equipo de evaluación de riesgos. Este movimiento permite a METR revisar las prácticas de seguridad y los registros internos sin necesidad de la aprobación de Anthropic para publicar sus hallazgos. Este acuerdo se produce mientras Anthropic enfrenta presión para tranquilizar a los inversores sobre cuestiones de seguridad antes de su esperado salida a bolsa este año, con una valoración que supera los 2 billones de dólares.
Anthropic declaró que si la toma de riesgos de un banco amenaza al público, terceros deben poder verlo con antelación. Los empleados de METR han sido incorporados con hardware de la empresa y espacio de oficina, y se les ha animado a compartir información como lo harían con un colega. Cabe destacar que Anthropic no está pagando a METR por este acuerdo, lo que el grupo de investigación afirma que está listo para expandir a todos los desarrolladores de IA de frontera.
Aunque Anthropic no puede vetar la publicación de análisis de METR, puede exigir la eliminación de datos de clientes, detalles privilegiados abogado-cliente o información de la arquitectura del modelo. Además, Anthropic está trabajando con Accenture y Secure Bio para establecer nuevas salvaguardas para riesgos químicos, biológicos y generales de IA.
Fuente: Ars Technica · Resumido por HeadlinesBriefing