Los directores ejecutivos Dario Amodei y Sam Altman están impulsando un desarrollo más lento de la IA para evitar consecuencias desastrosas, pero están surgiendo tensiones internas sobre la implementación. Amodei publicó un ensayo detallado en el que pedía evaluaciones independientes de modelos, coordinación global entre laboratorios y gobiernos, y protección jurídica frente a las normas de competencia de Estados Unidos. Propuso que los evaluadores externos tuvieran un “acceso similar al de los empleados”, incluidos acreditaciones, computadoras portátiles y herramientas internas. Aunque muchos empleados están de acuerdo en que es necesario reducir la velocidad, el personal teme que la implementación práctica pueda poner en peligro su trabajo y comprometer la seguridad. Un problema particular es integrar a evaluadores externos dentro de los laboratorios, algo que algunos describen como una fuente de “conflicto”. OpenAI declaró que quiere un enfoque más pragmático y ya ha suspendido ciertos entrenamientos de frontera, mientras que Anthropic no ha puesto su investigación en pausa. Implementar un mayor acceso de terceros al tiempo que se equilibran la seguridad y la protección de datos plantea importantes desafíos, especialmente dadas las estrictas medidas de seguridad de los laboratorios de IA y la intensa competencia del sector.

Entidades clave: Empresas: OpenAI, Anthropic | Personas: Dario Amodei, Sam Altman, Miles Brundage

Preguntas frecuentes: ¿Cuáles son los principales desafíos para implementar medidas de seguridad de la IA en los laboratorios líderes?

Los principales desafíos incluyen equilibrar el mayor acceso de terceros con las preocupaciones de seguridad, proteger la tecnología sensible de los evaluadores externos, mantener las salvaguardas de la propiedad intelectual y coordinarse entre laboratorios competidores respetando las normas de competencia. El personal también teme que conceder un acceso extenso a personas externas pueda comprometer la seguridad de su valiosa tecnología.

Preguntas frecuentes Q: ¿Cuáles son los principales desafíos para implementar medidas de seguridad de la IA en los laboratorios líderes?

Preguntas frecuentes A: Los principales desafíos incluyen equilibrar el mayor acceso de terceros con las preocupaciones de seguridad, proteger la tecnología sensible de los evaluadores externos, mantener las salvaguardas de la propiedad intelectual y coordinarse entre laboratorios competidores respetando las normas de competencia. El personal también teme que conceder un acceso extenso a personas externas pueda comprometer la seguridad de su valiosa tecnología.