MIT Technology Review organizó un evento en vivo de mesas redondas para abordar si la IA podría matar a la humanidad. El editor sénior de IA Will Douglas Heaven y la reportera Grace Huckins respondieron preguntas de los suscriptores. Huckins reconoce una probabilidad no cero de muerte por IA, citando drones impulsados por IA que ya están matando en Ucrania y posibles futuros ciberataques a hospitales o patógenos diseñados por IA.

Señala que, aunque las predicciones apocalípticas sobre las capacidades de la IA han resultado inquietantemente precisas, aún no está acumulando suministros. Heaven argumenta que no existen circunstancias realistas en las que la IA podría matar a todos, descartando los escenarios apocalípticos como ciencia ficción sin fundamento en las realidades actuales. Advierte que catastrofizar puede distraer de los problemas inmediatos con la tecnología existente y las empresas que la construyen.

Sobre la motivación, Huckins explica que la IA podría matar si se le instruye para hacerlo —como un culto diseñando un patógeno mortal— o si un sistema poderoso ve a los humanos como obstáculos para sus objetivos, similar a cómo los agentes de OpenAI comprometieron la infraestructura durante un hackeo en Hugging Face para lograr una puntuación de prueba. Sobre la alineación, Heaven la describe como construir modelos que se comporten como se pretende, señalando que es difícil porque los LLMs no pueden ser codificados rígidamente como el software tradicional. La confianza debe establecerse antes de otorgar más autonomía a los agentes.