Qual é o preço de um apocalipse? Os líderes das maiores empresas de IA querem desacelerar o desenvolvimento para evitar "modelos de fronteira" capazes de causar danos enormes. Felizmente, este é um objetivo que seus investidores também deveriam poder apoiar. O chefe da Anthropic, Dario Amodei, sugeriu no fim de semana que os avanços da IA deveriam ser "cadenciados", com os governos coordenando padrões quando possível.

Mesmo sem coerção regulatória, as estrelas da IA como Anthropic, Open AI e Space X deveriam conseguir encontrar um argumento financeiro para conter o ritmo do progresso. Uma vantagem de desacelerar seria reduzir as enormes quantias de dinheiro gastas no treinamento de novos modelos. Por exemplo, a Open AI planeja gastar 750 bilhões de dólares em capacidade de computação até 2030. Cada ano que isso é adiado reduz o valor presente desse desembolso em quase 100 bilhões de dólares, calcula a Lex.

É verdade que um risco do "cadenciamento" é que os retardatários terão a chance de alcançar e arrebatar participação de mercado. Os modelos de pesos abertos estão apenas alguns meses atrás da vanguarda. A China é uma concorrente formidável, embora Amodei sugira que manter chips de IA de ponta fora de seu alcance poderia comprar de três a cinco anos. Mas há muito feno a ser feito com os modelos existentes, e desacelerar criaria um incentivo extra para fazê-lo. A Space X, em seu IPO, sugeriu um mercado de 22,7 trilhões de dólares para "aplicações empresariais". A Anthropic pode sugerir um mercado no valor de 30 trilhões de dólares. O Deutsche Bank estima que se 60 por cento dos trabalhadores do conhecimento estiverem usando aplicativos relacionados à IA até 2031, eles equivaleriam a um pool de receita de 400 bilhões de dólares.

Qualquer investidor na Anthropic — incluindo Black Rock, a GIC de Singapura, Coatue e Sequoia Capital — deveria ter outro motivo premente para apoiar um esforço coordenado de cadenciamento. Afinal, a extinção da humanidade, que presumivelmente incluiria todos os seus clientes, é um risco para o qual não existe hedge conhecido.

Entidades-chave: Empresas: Anthropic, Open AI, Space X, Deutsche Bank, Black Rock, GIC, Coatue, Sequoia Capital, Salesforce | Pessoas: Dario Amodei, Sam Altman, Roula Khalaf | Locais: Washington, China, Singapura