Em julho, Jacob Tsimerman, um professor na Universidade de Toronto, recebeu a Medalha Fields, o mais alto honrarias em matemática. Ao receber o prêmio, o Dr. Tsimerman anunciou uma virada profissional, tomando uma licença da academia e redirecionando sua pesquisa para a segurança de I. A.

Ele começará um emprego no departamento de segurança na Open AI no final deste mês. Na terça-feira, o Dr. Tsimerman anunciou a formação do Instituto Matemático de Segurança de I. A. (MAISI), uma instituição de pesquisa independente não afiliada à Open AI.

Localizado na Baía de São Francisco, MAISI começará seu primeiro semestre completo de pesquisa em janeiro de 2027, visando contratar entre 10 e 30 matemáticos, e significativamente mais durante o próximo ano acadêmico. Com MAISI, o Dr. Tsimerman, que servirá como diretor científico, traz uma mensagem à comunidade acadêmica: "A segurança de I. A. é uma área de pesquisa significativa", disse em uma entrevista da cidade de Toronto. "É uma busca intelectual legítima que é interessante, útil, e há progresso real a ser feito."Ao longo dos anos, apesar dos avanços na inteligência artificial, muitos matemáticos não tomaram a tecnologia a sério, considerando-a ao invés disso como domínio de engenheiros de software.

Mas, como observou o Dr. Tsimerman, "Os engenheiros só podem implementar ideias que foram desenvolvidas, e precisamos de novas ideias." Desde que sistemas de I. A. são fundamentalmente feitos de matemática — álgebra linear, cálculo, probabilidade, estatística — ele e matemáticos de ideias afins veem alguns problemas na segurança de I. A. como problemas matemáticos fundamentais. "Precisamos de mais dessa clareza e cuidado matemático na indústria de I.

A.", disse Andrew Critch, diretor executivo de MAISI, pesquisador de I. A. e matemático. Pesquisadores com formação matemática veem uma oportunidade para matemática avançada de abordar preocupações como como sistemas de I.

A. interagem e colaboram entre si; como agentes verificam que estão se comportando de forma responsável e que as saídas são precisas; e como sistemas de I. A. podem ser projetados do fundo para serem resilientes contra mesmo vulnerabilidades e riscos atualmente não identificados. O Dr. Tsimerman apontou para uma ferramenta de criptografia chamada provas de conhecimento zero — uma forma matemática de fornecer verificação sobre um sistema sem revelar mais do que o necessário.

O Dr. Goldwasser é cofundador de um instituto semelhante orientado para matemática para segurança de I. A. — o Instituto para Superinteligência Responsável (RESI) — que foi lançado em agosto em Cambridge, Mass. A equipe científica fundadora de RESI inclui Vinod Vaikuntanathan, um criptógrafo da M.

I. T., e Adam Tauman Kalai, um pesquisador de segurança e ética de I. A. que recentemente deixou a Open AI.