Hoje, Sam Altman, CEO da OpenAI, discursou no Conselho de Segurança das Nações Unidas sobre inteligência artificial. Ele discutiu o potencial da IA para expandir oportunidades, a importância de manter sistemas poderosos sob controle humano e a necessidade de cooperação internacional em segurança de IA.

Altman afirmou que o rápido progresso dos modelos tornou o cronograma mais comprimido, o lado positivo mais tangível, mas também os riscos e as apostas mais imediatos. Ele enfatizou que a IA pode ser como um novo Renascimento de criatividade e descoberta, ou uma nova Revolução Industrial de turbulência e desordem. Ele destacou que a IA deve ser construída para dar às pessoas mais autonomia, não para transformá-las em engrenagens de uma máquina gigante.

Altman identificou duas maneiras pelas quais o progresso da IA pode dar errado: primeiro, perder o controle do futuro para a IA se ela avançar rápido demais para as pessoas intervirem; segundo, o risco de concentrar poder em poucas mãos. Ele alertou que, à medida que os sistemas de IA se aproximam do autoaperfeiçoamento recursivo, o ritmo pode acelerar rapidamente, exigindo extremo cuidado. Ele observou que a OpenAI desacelerou unilateralmente no passado e o fará novamente para garantir a segurança.

Entidades-chave: Empresas: OpenAI | Pessoas: Sam Altman, Professor Bengio | Locais: Conselho de Segurança das Nações Unidas