Hoy, Sam Altman, CEO de OpenAI, se dirigió al Consejo de Seguridad de las Naciones Unidas sobre inteligencia artificial. Discutió el potencial de la IA para expandir oportunidades, la importancia de mantener sistemas poderosos bajo control humano y la necesidad de cooperación internacional en seguridad de IA.

Altman declaró que el rápido progreso de los modelos ha hecho que el cronograma se sienta más comprimido, el lado positivo más tangible, pero también las apuestas y los riesgos más inmediatos. Enfatizó que la IA puede ser como un nuevo Renacimiento de creatividad y descubrimiento, o una nueva Revolución Industrial de agitación y desorden. Subrayó que la IA debe construirse para dar a las personas más agencia, no para convertirlas en engranajes de una máquina gigante.

Altman identificó dos formas en que el progreso de la IA podría salir mal: primero, perder el control del futuro ante la IA si avanza demasiado rápido para que las personas intervengan; segundo, el riesgo de concentrar el poder en demasiadas manos. Advirtió que, a medida que los sistemas de IA se acercan a la auto-mejora recursiva, el ritmo podría acelerarse rápidamente, exigiendo un cuidado extremo. Señaló que OpenAI ha reducido la velocidad unilateralmente en el pasado y lo hará nuevamente para garantizar la seguridad.

Entidades clave: Empresas: OpenAI | Personas: Sam Altman, Professor Bengio | Ubicaciones: Consejo de Seguridad de las Naciones Unidas

Pregunta frecuente: ¿Qué le dijo Sam Altman al Consejo de Seguridad de la ONU sobre los riesgos de la IA?

Sam Altman advirtió que el progreso de la IA podría conducir a dos riesgos principales: primero, la humanidad pierde el control a medida que la IA avanza demasiado rápido para la intervención, y segundo, la concentración del poder en demasiadas manos. Enfatizó la necesidad de un cuidado extremo, especialmente a medida que los sistemas se acercan a la auto-mejora recursiva, y declaró que OpenAI ha reducido y seguirá reduciendo la velocidad unilateralmente para garantizar la seguridad.