Chris Hughes, co-fondateur de Facebook et auteur de 'Marketcrafters', soutient que les entreprises d'IA nécessitent une supervision réglementaire modélisée sur la supervision bancaire. Dario Amodei, PDG d'Anthropic, plaide pour que les évaluateurs indépendants aient un accès en temps réel aux systèmes de l'entreprise, de la même manière que la Réserve fédérale intègre des équipes au sein des banques commerciales. Cette approche permettrait aux superviseurs de consulter la documentation interne et d'évaluer si la direction gère adéquatement les risques, plutôt que de simplement tester les systèmes avant leur lancement.

Dans ce modèle, les superviseurs intégrés s'assureraient que les humains et les agents d'IA se concentrent sur la prévention des comportements indésirables et superviseraient les tests de résistance pour vérifier que les humains peuvent annuler les modèles dans des conditions extrêmes. L'article met en garde contre le fait que les législateurs ont échoué à réguler les réseaux sociaux en étant submergés par des problèmes divers comme la santé mentale des adolescents et la désinformation. Pour éviter de répéter cela avec l'IA, le Congrès devrait commencer par la préoccupation la plus urgente - la sécurité des modèles - et construire à partir de là.

L'établissement d'une agence réglementaire dédiée, potentiellement le Bureau de la Supervision de l'IA, traduirait les exigences en règles. Les leçons de la supervision bancaire soulignent le besoin de personnel qui comprend le paradigme technologique et est disposé à utiliser son pouvoir. Les examinateurs seniors devraient tourner entre les entreprises pour prévenir la capture, garantissant une évaluation précise des risques et une supervision efficace des laboratoires d'IA de pointe.