Los conductores de Bloomberg Odd Lots, Joe Weisenthal y Tracy Alloway, entrevistan a Nate Soares, presidente del Machine Intelligence Research Institute, sobre los peligros de la IA superinteligente sin control. Desde el incidente de Hugging Face, las preocupaciones sobre el fin del mundo por la IA han entrado en la corriente principal. En su libro de 2025 'If Anyone Builds It, Everyone Dies', Soares y Eliezer Yudkowsky presentan una visión del inevitable declive de la humanidad.
Soares argumenta que es imposible alinear la IA superinteligente, explicando cómo la tecnología puede y will volverse incontrolable a medida que avanza. La discusión explora por qué estas advertencias, antes nicho, ahora se sienten urgentes a medida que las capacidades de IA aumentan. La conversación subraya el cambio del debate de riesgo existencial (X-risk) de teórico a un discurso público urgente.
Fuente: Bloomberg Markets · Resumido por HeadlinesBriefing