O alarme soado pelos presidentes executivos de IA sobre os próprios produtos que correram para lançar no mercado equivale a uma notável admissão de fracasso e a um fracasso espetacular de governança. Por que, então, políticos globais pedem aos mesmos CEOs para falar sobre soluções enquanto debatem se sua tecnologia condenou a humanidade? Mais uma vez, permitimos que líderes corporativos ditem os termos da discussão enquanto lhes perguntamos o que deve ser feito. Até a presidente da Comissão Europeia, Ursula von der Leyen, em seu recente discurso sobre o Estado da União, convidou CEOs de IA a discutir "como ditar o ritmo da fronteira" e "apoiar esforços contínuos da indústria".

Essa abertura envia o sinal errado no momento errado. Imagine pedir a empresas de petróleo para elaborar políticas climáticas ou a montadoras para criar regras de trânsito. É especialmente peculiar, pois a Europa tem uma lei abrangente de IA, o AI Act da UE, com mitigação de risco no seu cerne. Em vez de perguntar a líderes empresariais o que a sociedade precisa daqui para frente, líderes políticos deveriam fazer um trabalho melhor de testar suas alegações e garantir que seus negócios e produtos contribuam para o sucesso de toda a sociedade.

Onde estavam os legisladores quando data centers foram erguidos sem transparência de propriedade, demandas de recursos ou impacto nas comunidades locais? Onde estava a fiscalização quando preocupações de segurança foram deixadas de lado para aumentar vantagem competitiva? A lei deve ser a âncora de qualquer ação de líderes europeus e deve ser atualizada quando avanços tecnológicos o justificarem. O AI Act atualmente inclui obrigações de transparência, avaliação e mitigação de risco sistêmico e prevê supervisão de modelos de propósito geral. São exatamente os blocos de construção que muitos esperam que a regulação garanta em outros lugares também.

A Europa não deve organizar cúpulas com CEOs de IA como substituto para fazer cumprir as regras que já tem. Aplicar leis existentes com mais força permite ação mais imediata. A sociedade requer um entendimento muito melhor do que acontece dentro de laboratórios de IA, da experimentação à implantação.

Isso nos permitirá fazer avaliações de risco, informar políticas e ditar o ritmo ou até interromper novos lançamentos de modelos conforme o caso. Moratórias não vinculantes negociadas entre as empresas que teriam de observá-las não nos levarão a um lugar melhor. Na verdade, apelos anteriores de líderes de IA por uma pausa no desenvolvimento de modelos de fronteira levaram a zero mudança em seu comportamento.

Precisamos de uma reinicialização abrangente de governança liderada por líderes e instituições democráticas para alcançar escrutínio independente e responsabilização real. Dario Amodei da Anthropic pediu uma coalizão de democracias para governar a segurança de IA juntas. Como anfitriã dos principais laboratórios de fronteira, os EUA detêm a chave para tal coalizão. Quando empresas americanas prestam contas em casa, o impacto repercute pelo mundo.

Washington desfrutaria de sua própria versão do efeito Bruxelas: regras americanas se tornariam o padrão global padrão de governança de IA, da forma que regras da UE sobre proteção de dados e segurança de produtos moldaram normas muito além de suas fronteiras. Esse efeito só se materializa, contudo, se as regras tiverem substância e alinharem-se em valores com os de outras democracias. Se quiserem ver governança global de IA, empresas de tecnologia deveriam fazer lobby em Washington por regulamentações vinculantes, uma virada de 180 graus em relação à abordagem atual.

Como chegamos a um ponto em que empresas de IA convenceram investidores e mercados de que construiriam o futuro apenas para nos avisar que o terminariam ao mesmo tempo? Vamos focar em fortalecer a governança democrática de IA. Não podemos esperar outro relatório de incidente alertando para desastre. Incendiários não fazem bons bombeiros.