Anthropic se ha asociado con Accenture para que actúe como evaluadora externa de los modelos de IA de vanguardia de la empresa, marcando el primer paso en el plan del CEO Dario Amodei para frenar el desarrollo de la IA. La asociación implica que ambas empresas inviertan al menos mil millones de dólares cada una durante cinco años, con evaluadores de Accenture integrados dentro de Anthropic para supervisar el entrenamiento de modelos, seguir las decisiones de gobernanza y evaluar la alineación de la IA. El enfoque de tres pasos de Amodei exige acceso continuo, similar al de empleados, para evaluadores integrados en empresas de IA de vanguardia, a fin de garantizar las prácticas de seguridad, reportar incidentes y evaluar la alineación de los modelos.

Accenture aporta experiencia en ayudar a empresas y gobiernos a desplegar IA en diversas industrias, ofreciendo una perspectiva empresarial sobre los modelos de Anthropic. Sin embargo, el modelo de evaluador integrado es nuevo y no cuenta con estándares establecidos sobre alcance, niveles de acceso o procedimientos de reporte. Anthropic planea anunciar evaluadores adicionales en las próximas semanas y señala que Accenture trabajará con otras empresas de IA además de Anthropic.