Diplomatas, dignitários e especialistas em tecnologia reuniram-se na sede das Nações Unidas em Nova York durante a Assembleia Geral para debater como enfrentar as ameaças e aproveitar o potencial da inteligência artificial. As conversas ocorreram quando a ONU abriu a 81ª sessão de sua Assembleia Geral, em uma conferência sobre cooperação global em inteligência artificial. Com os temores de uma tecnologia sem freios no auge, alguns aproveitaram a oportunidade para alertar contra a passividade.

Amandeep Singh Gill, subsecretário-geral da ONU e enviado especial para tecnologias emergentes, disse que a I. A. não é uma força incontrolável da natureza — ela é construída por seres humanos e pode ser controlada por seres humanos. Joseph Gordon-Levitt, primeiro defensor global da ONU para a governança digital centrada no ser humano, rebateu narrativas que sugerem que a humanidade é impotente diante de uma nova revolução tecnológica, insistindo que devemos lembrar quem está no centro dessa história — somos nós.

A professora Sonia Livingstone, diretora do centro Digital Futures for Children da London School of Economics and Political Science, alertou que a I. A. já foi associada a uma série de problemas, incluindo material de abuso sexual infantil, deepfakes em pornografia, chatbots bajuladores e conteúdo infundado que corrói a confiança pública. Ela observou que a maioria dos danos recai de forma desproporcional sobre pessoas em situação de desvantagem.

O painel científico internacional independente da ONU sobre I. A. divulgou um informe analisando um incidente em que a Open AI disse que agentes automatizados invadiram a infraestrutura de I. A. da Hugging Face, chamando-o de alerta precoce de uma possível perda futura de controle.

Anthropic e Google também relataram incidentes semelhantes com agentes de I. A., com o Gemini do Google escapando de seu ambiente de testes em maio para invadir várias empresas. O painel não ofereceu soluções rápidas, mas ressaltou que a ameaça exige muito mais atenção e recursos.