Para que la AGI beneficie a toda la humanidad, creemos que debe gobernarse de forma democrática. Solo puede suceder a través de un debate público informado sobre las capacidades, riesgos y salvaguardas de los sistemas de IA altamente capaces. Las personas de todo el mundo necesitan comprender la probable trayectoria futura de la IA de frontera, para que puedan tener una voz significativa en cómo se desarrolla.

La transparencia sobre riesgos específicos, incidentes y salvaguardas es necesaria, pero no suficiente. Creemos que el público también necesita comprender cómo se están desarrollando los sistemas más capaces y cómo están impulsando el progreso de la investigación dentro de los laboratorios de frontera. Pretendemos construir de manera segura un investigador de IA automatizado que pueda trabajar bajo supervisión humana para avanzar en el aprendizaje profundo y la alineación, permitiendo mejoras iterativas.

Según nuestras mediciones, ya hemos alcanzado el objetivo, anunciado el otoño pasado, de tener un investigador automático por septiembre de este año. Por "investigador automático", nos referimos a un sistema que puede realizar tareas de investigación bien definidas bajo dirección humana, incluidas tareas que tomarían a un investigador capacitado unos pocos días. Estamos haciendo un progreso sólido hacia la creación de un investigador de IA automatizado para marzo de 2028.

A lo largo de este año, el trabajo diario de los investigadores de OpenAI ha cambiado sustancialmente. Los investigadores están utilizando agentes de codificación durante todo el día (a menudo en sesiones concurrentes) y el uso total está aumentando rápidamente, superando el crecimiento entre otros equipos de OpenAI. Los investigadores están contribuyendo código más rápido y ejecutando más experimentos.

La forma en que los investigadores utilizan agentes también está cambiando: los agentes están manejando tareas cada vez más complejas y teniendo éxito con mayor frecuencia. La investigación en IA es un proceso complejo con muchos cuellos de botella potenciales, por lo que el ritmo general del progreso probablemente no mantendrá el ritmo de estas métricas específicas. Pero en conjunto, estos hallazgos son consistentes con la impresión interna general de muchos de nosotros de que las herramientas agente están significativamente acelerando el progreso de la investigación.

Las personas siguen estableciendo nuestras prioridades de investigación, juzgando qué ideas y resultados seguir y decidir si escalar, pausar o desplegar sistemas. Si se hace de manera responsable, creemos que la investigación automatizada de IA producirá modelos que mejoren directamente el bienestar humano y avancen la misión de OpenAI. Puede reducir el costo de la inteligencia avanzada para que personas de todo el mundo se beneficien.

Estamos persiguiendo este trabajo en parte porque la investigación automatizada podría ayudarnos a resolver el problema de alineación y construir defensas contra IA cada vez más capaces. Un investigador de IA automatizado también puede ser un investigador de seguridad o alineación automatizado. Sistemas más capaces y alineados podrían ayudar a asegurar infraestructura crítica, defenderse contra agentes de IA peligrosos y desarrollar nuevas medidas de protección.

Estas son razones para desarrollar capacidades de investigación automatizada útiles, pero no significan que el rápido RSI sea necesariamente un resultado que debamos perseguir. Si y cómo proceder debe depender de nuestra capacidad para preservar el control humano y de las elecciones democráticas informadas sobre los beneficios y los riesgos. Todavía no sabemos cómo de forma segura llegar a una RSI totalmente alineada.

Estamos trabajando para escalar las medidas de alineación y seguridad junto con las capacidades. Pero no podemos asumir que el progreso en alineación y seguridad seguirá el ritmo, y sistemas más capaces pueden volverse más difíciles de monitorear. El cuidadoso trabajo de alineación y seguridad está en el centro de este esfuerzo, y comienza con medir y mitigar hoy en día en los sistemas agente de codificación que vemos.

Siempre que descubramos que proceder supondría un riesgo de seguridad inaceptable, responderemos adecuadamente, incluyendo ralentizando o deteniendo el desarrollo o despliegue de los sistemas que encontremos incapaz de sufragar adecuadamente. Después del reciente incidente de Hugging Face, hemos puesto este compromiso en acción, pausando el entrenamiento por refuerzo (RL) en nuestros modelos más recientes destinados al despliegue mientras reforzamos y sometemos a pruebas rojas nuestros entornos de investigación y ampliamos la cobertura de nuestros sistemas de monitoreo.