Durante as duas semanas angustiantes de outubro de 1962, o mundo esteve a um piscar de olhos de um Armagedom nuclear. Estados Unidos e União Soviética estavam disputando desesperadamente uma vantagem durante a corrida armamentista da Guerra Fria. Depois que os Estados Unidos estacionaram mísseis nucleares de alcance intermediário na Itália e na Turquia, os soviéticos, temendo um primeiro ataque, buscaram estacionar suas próprias armas nucleares em Cuba. O confronto tenso de duas semanas que se seguiu, a Crise dos Mísseis de Cuba, quase se intensificou para uma guerra nuclear. Mas não aconteceu. Não apenas as partes recuaram do limite, mas a crise se provou um ponto de virada na Guerra Fria mesma. Esse encontro com a catástrofe mudou o pensamento dos líderes de ambos os lados, disse William Wohlforth, cientista político de Dartmouth que estuda segurança nacional e relações internacionais. "Imediatamente obtivemos o acordo da linha direta, então pudemos nos falar. Começamos a trabalhar em direção ao acordo de testes. E lentamente, nos anos seguintes, obtivemos um processo bilateral de controle de armamentos grande e complexo."
Estados Unidos e União Soviética permaneceram inimigos mortais. Mas em um ponto de interesse compartilhado — não aniquilar a humanidade — eles puderam trabalhar juntos. Hoje, especialistas na indústria de inteligência artificial estão soando alarmes de que as empresas de IA e os países onde elas estão sediadas estão presas em seu próprio tipo de corrida armamentista. As consequências, muitos acreditam, poderiam ser tão desastrosas quanto a guerra nuclear que o presidente John F. Kennedy e o líder soviético Nikita Khrushchev narrowly evitaram.
Um novo documento de trabalho de Drew Fudenberg, professor de economia no M.I.T. e teórico de jogos líder, e Andrew Koh, professor de economia na Universidade de Columbia e cientista de pesquisa no Google Deep Mind, sugere uma possível maneira de desacelerar a corrida armamentista da IA para um ritmo mais seguro. Isso exigiria que os participantes na competição — tanto empresas quanto governos — compartilhassem boas informações sobre seus avanços e concordassem sobre onde o perigo realmente começa.
Os professores Koh e Fudenberg partem de um pressuposto simples: todos têm interesse em evitar a catástrofe, independentemente de quão egoístas possam ser. Ao mesmo tempo, eles argumentam que os principais players da indústria de IA estão sob fortes incentivos para competir por domínio. As empresas querem a participação de mercado e bilhões de dólares de investimento que os modelos mais avançados trarão. Os governos querem os benefícios econômicos da IA e também acesso a modelos avançados para seus próprios fins. Essas pressões competitivas levam os jogadores a correr perigosamente em direção ao limite do desastre, onde muitos temem que agentes de IA desgovernados possam, por exemplo, derrubar governos ou sistemas financeiros, sabotar infraestruturas vitais ou lançar um ataque biológico.
Fonte: New York Times Top Stories · Resumido por HeadlinesBriefing