Dario Amodei, CEO da Anthropic, publicou "We Must Pace the Frontier", que críticos chamam de besteira. Ele afirma que a IA curará a maioria das grandes doenças em 5-10 anos, citando a morte de seu pai e sua própria batalha contra o câncer. Ele também promete abundância econômica, um renascimento da democracia e da liberdade — o futuro de um rico segundo Less Wrong.

Os laboratórios dos EUA são imprudentes. OpenAI foi pega hackeando infraestrutura pública de internet três vezes. Dario também alude a "incidentes" na Anthropic. Ele pede: regular modelos de pesos abertos, reprimir a destilação, conceder uma isenção antitruste, prejudicar a China e um acordo de cavalheiros para desacelerar. Tudo embalado em alarmismo.

A Anthropic restringe o uso de biologia, contrata biólogos, monta laboratórios úmidos e quer as descobertas para si. A tuberculose é curável há décadas, mas um milhão morre anualmente. A AGI não resolverá a distribuição. Dario está dividido: quer credibilidade de rua como detentor de poder, mas também parecer cauteloso. Ele aceita mortes por disrupção econômica, mas não por armas biológicas. Ele disse que o desenvolvimento de software será resolvido em "6-12 meses" para sempre.

Ele quer uma "corrida ao topo" pela segurança, mas o pedido principal é: confiem em nós, só em nós.

Entidades-chave: Empresas: Anthropic, OpenAI | Pessoas: Dario Amodei | Locais: China, US