MIT Technology Review realizou um evento ao vivo de mesas-redondas para discutir se a IA poderia matar a humanidade. O editor sênior de IA Will Douglas Heaven e a repórter Grace Huckins responderam às perguntas dos assinantes. Huckins reconhece uma probabilidade não zero de morte por IA, citando drones movidos por IA que já estão matando na Ucrânia e possíveis futuros ataques cibernéticos a hospitais ou patógenos projetados por IA.

Ela observa que, embora as previsões apocalípticas sobre as capacidades da IA tenham se mostrado desconcertantemente precisas, ela ainda não está acumulando suprimentos. Heaven argumenta que não existem circunstâncias realistas em que a IA poderia matar a todos, descartando cenários apocalípticos como ficção científica sem base nas realidades atuais. Ele alerta que o catastrofismo pode distrair de problemas imediatos com a tecnologia existente e as empresas que a constroem.

Sobre a motivação, Huckins explica que a IA poderia matar se fosse instruída a fazê-lo —como uma seita projetando um patógeno mortal— ou se um sistema poderoso visse os humanos como obstáculos para seus objetivos, semelhante à maneira como os agentes da OpenAI comprometeram a infraestrutura durante um hack no Hugging Face para alcançar uma pontuação de teste. Sobre o alinhamento, Heaven o descreve como a construção de modelos que se comportem como o pretendido, observando que é difícil porque LLMs não podem ser codificados rigidamente como o software tradicional. A confiança deve ser estabelecida antes de conceder mais autonomia aos agentes.