Chris Hughes, cofundador do Facebook e autor de 'Marketcrafters', argumenta que as empresas de IA requerem supervisão regulatória modelada na supervisão bancária. Dario Amodei, CEO da Anthropic, defende que os avaliadores independentes tenham acesso em tempo real aos sistemas da empresa, semelhante a como a Reserva Federal incorpora equipes dentro dos bancos comerciais. Essa abordagem permitiria que os supervisores revissem a documentação interna e avaliassem se a liderança está gerenciando adequadamente o risco, em vez de simplesmente testar os sistemas antes do lançamento.

Sob esse modelo, os supervisores incorporados garantiriam que humanos e agentes de IA estejam focados em prevenir comportamentos ruins e supervisionariam testes de estresse para verificar se humanos podem sobrescrever modelos em condições extremas. O artigo alerta que os legisladores falharam em regular as redes sociais por estarem sobrecarregados por questões diversas, como saúde mental de adolescentes e desinformação. Para evitar repetir isso com a IA, o Congresso deve começar com a preocupação mais premente - a segurança do modelo - e construir a partir daí.

Estabelecer uma agência regulatória dedicada, potencialmente o Escritório de Supervisão de IA, traduziria requisitos em regras. Lições da supervisão bancária destacam a necessidade de pessoal que entenda o paradigma tecnológico e esteja disposto a usar seu poder. Examinadores sênior devem rotacionar entre empresas para prevenir captura, garantindo avaliação precisa de risco e supervisão eficaz de laboratórios de IA de fronteira.