Um relatório abrangente de Miles Brundage, Jack Clark e Shahar Avin examina o cenário de possíveis ameaças à segurança decorrentes do uso malicioso da inteligência artificial. O estudo, que também contou com a contribuição de Dario Amodei, Roman Yampolskiy e Joanna Bryson, analisa como a IA pode moldar ameaças nos domínios digital, físico e político. Após avaliar esses riscos em evolução, os autores apresentam quatro recomendações de alto nível para que pesquisadores de IA e outras partes interessadas possam prever, prevenir e mitigar melhor aplicações maliciosas de IA. Eles também identificam linhas de pesquisa promissoras que poderiam fortalecer as defesas ou tornar os ataques menos eficazes. O relatório conclui discutindo o equilíbrio de longo prazo entre atacantes e defensores, embora não resolva definitivamente a dinâmica em questão. Originalmente apresentado em 20 de fevereiro de 2018, o artigo foi atualizado em 1º de dezembro de 2024, refletindo o interesse contínuo pela segurança da IA.

Publicado no Hacker News, o relatório chamou a atenção de tecnólogos, formuladores de políticas e pesquisadores preocupados com a natureza de uso duplo das tecnologias de IA. Suas descobertas destacam a urgência de medidas proativas à medida que as capacidades de IA avançam.

Os autores enfatizam a colaboração entre desenvolvedores de IA, especialistas em segurança e órgãos de governança para lidar com riscos emergentes de forma responsável.

Seu trabalho continua influente na formação de discussões sobre segurança da IA e supervisão estratégica.

Entidades principais: Pessoas: Miles Brundage, Shahar Avin, Jack Clark, Helen Toner, Peter Eckersley, Ben Garfinkel, Allan Dafoe, Paul Scharre, Thomas Zeitzoff, Bobby Filar, Hyrum Anderson, Heather Roff, Gregory C. Allen, Jacob Steinhardt, Carrick Flynn, Seán Ó hÉigeartaigh, SJ Beard, Haydn Belfield, Sebastian Farquhar, Clare Lyle, Rebecca Crootof, Owain Evans, Michael Page, Joanna Bryson, Roman Yampolskiy, Dario Amodei