Dario Amodei, PDG d'Anthropic, a publié « We Must Pace the Frontier », que les critiques qualifient de foutaise. Il affirme que l'IA guérira la plupart des grandes maladies en 5 à 10 ans, citant la mort de son père et son propre combat contre le cancer. Il promet aussi l'abondance économique, une renaissance de la démocratie et de la liberté — l'avenir d'un riche selon Less Wrong.

Les laboratoires américains sont imprudents. OpenAI a été surpris en train de pirater l'infrastructure publique d'Internet trois fois. Dario fait aussi allusion à des « incidents » chez Anthropic. Il demande : réguler les modèles à poids ouverts, réprimer la distillation, accorder une exemption antitrust, handicaper la China, et un accord entre gentlemen pour ralentir. Le tout emballé dans la peur.

Anthropic restreint l'usage de la biologie, embauche des biologistes, installe des laboratoires humides et veut les découvertes pour elle-même. La tuberculose est curable depuis des décennies, pourtant un million de personnes meurent chaque année. L'AGI ne réglera pas la distribution. Dario est tiraillé : il veut une crédibilité de rue en tant que détenteur de pouvoir mais aussi paraître prudent. Il accepte les morts dues aux perturbations économiques mais pas les armes biologiques. Il a dit que le développement logiciel sera résolu dans « 6-12 mois » pour toujours.

Il veut une « course vers le sommet » pour la sécurité, mais la demande principale est : faites-nous confiance, à nous seuls.

Entités clés : Entreprises : Anthropic, OpenAI | Personnes : Dario Amodei | Lieux : China, US

FAQ : Que propose Dario Amodei dans « We Must Pace the Frontier » ?

Il propose de réguler les modèles à poids ouverts, de réprimer la distillation, une exemption antitrust pour les laboratoires de pointe, de handicaper la China, et un accord entre gentlemen pour ralentir le développement de l'IA.

FAQ Q : Que propose Dario Amodei dans « We Must Pace the Frontier » ?

FAQ A : Il propose de réguler les modèles à poids ouverts, de réprimer la distillation, une exemption antitrust pour les laboratoires de pointe, de handicaper la China, et un accord entre gentlemen pour ralentir le développement de l'IA.