Cher Dario, vous avez publié aujourd'hui Nous devons suivre le rythme de la frontière, qui engageait Anthropique à intégrer des évaluateurs tiers et demandait aux gouvernements d'exiger que chaque autre entreprise de frontière fasse de même. Sam Altman a accepté en quelques heures. Je crois que vous êtes sincère, donc je vous demande de plaider pour une autre loi, une loi qui ralentirait réellement les choses, même si cela nécessiterait un véritable sacrifice de votre part.

Tout modèle d'IA qu'une entreprise offre au public doit être publié sous forme de poids ouverts. Cela ne couvrirait pas chaque modèle que vous entraînez, seulement ceux que vous mettez à disposition du public. Les modèles internes et de recherche ne seraient pas affectés, et les gouvernements pourraient toujours accéder aux modèles non publiés.

Mais Anthropique devrait publier les poids de Fable le jour de sa sortie, Open AI devrait faire de même avec Astra, et ainsi de suite pour tout le monde. Comme vous le savez, le financement du développement des modèles de frontière dépend des évaluations qui supposent que les poids restent propriétaires. En changeant cette hypothèse, nous pouvons réduire l'argent disponible pour les futurs entraînements et ralentir le progrès dans chaque laboratoire en même temps, sans qu'un régulateur décide quoi que ce soit.

Chaque réglementation que vous avez demandée se termine par une capture. Il n'y a aucun moyen de ralentir les modèles de frontière par une réglementation qui ne mènerait pas à une capture réglementaire. Évaluateurs intégrés, seuils de calcul, coordination de l'industrie avec des dérogations antitrust. Tout cela est rédigé avec l'aide des laboratoires de frontière actuels, car personne d'autre ne comprend suffisamment les détails techniques pour l'écrire.

Une fois qu'elle devient loi, elle ne fait que devenir plus complexe, car chaque incident ajoute une règle et aucune règle n'est jamais supprimée. Les grandes entreprises peuvent se permettre des équipes de conformité et des avocats pour suivre le rythme, et chaque nouvelle exigence rend plus difficile pour quiconque de les rattraper. Au lieu de vous ralentir, cela protège votre position et vos profits.

Pourquoi je vous le demande ? Vous semblez être une personne bonne et principielle, et vous avez un historique de renoncer à des choses pour ce en quoi vous croyez. Vous avez quitté Open AI pour créer une entreprise avec la sécurité intégrée dès le départ, quand le mouvement de carrière sûr aurait été de rester. Vous avez passé des années à demander une réglementation pour votre propre industrie et à être traité d'apocalyptique et de capturateur réglementaire pour cela.

Vous avez défendu des contrôles d'exportation qui réduisent votre propre marché. Anthropic a payé 1,5 milliard de dollars pour régler avec les auteurs plutôt que de lutter jusqu'au bout. Et aujourd'hui, vous vous êtes engagé à ralentir avant que quelqu'un d'autre ne le fasse.

Vous avez également eu la prévoyance de faire d'Anthropic une société à but bénéfique (PBC), afin que vous puissiez légalement placer la mission en premier : le développement et la maintenance responsables de l'IA avancée pour le bénéfice à long terme de l'humanité. C'est exactement le type de décision de mission plutôt que de profit à court terme pour laquelle la structure PBC existe. Vous êtes toujours la seule personne qui pourrait proposer une loi comme celle-ci et être prise au sérieux, et la seule personne susceptible de réellement la mettre en œuvre.

Si vous voulez vraiment ralentir le développement de l'IA de frontière, demandez une loi qui obligerait chaque modèle d'IA disponible publiquement à publier ses poids ouverts. Il n'y a rien dans cela à exploiter ou à contourner, même pour vous.