Les dirigeants Dario Amodei et Sam Altman militent pour un développement plus lent de l'IA afin d'éviter des conséquences désastreuses, mais des tensions internes émergent quant à sa mise en œuvre. Amodei a publié un essai détaillé appelant à des évaluations indépendantes des modèles, à une coordination mondiale entre les laboratoires et les gouvernements, et à une protection juridique contre les règles américaines de la concurrence. Il a proposé que les évaluateurs externes disposent d'un « accès similaire à celui des employés », comprenant des badges, des ordinateurs portables et des outils internes. Bien que de nombreux employés estiment qu'il est nécessaire de ralentir, le personnel craint que la mise en œuvre pratique ne mette leur travail en péril et ne compromette la sécurité. Un problème particulier concerne l'intégration d'évaluateurs externes au sein des laboratoires, que certains décrivent comme une source de « conflit ». OpenAI a indiqué vouloir une approche plus pragmatique et a déjà suspendu certains entraînements de pointe, tandis qu'Anthropic n'a pas mis ses recherches en pause. La mise en œuvre d'un accès accru pour les tiers tout en équilibrant sécurité et protection des données pose d'importants défis, surtout compte tenu des mesures de sécurité strictes des laboratoires d'IA et de la concurrence intense dans le secteur.

Entités clés : Entreprises : OpenAI, Anthropic | Personnes : Dario Amodei, Sam Altman, Miles Brundage

FAQ : Quels sont les principaux défis de la mise en œuvre de mesures de sécurité de l'IA dans les principaux laboratoires ?

Les principaux défis consistent à concilier l'accès accru des tiers avec les préoccupations de sécurité, à protéger les technologies sensibles des évaluateurs externes, à maintenir les garanties de propriété intellectuelle et à coordonner les laboratoires concurrents tout en respectant les règles de concurrence. Le personnel craint également que l'octroi d'un accès étendu à des personnes extérieures ne compromette la sécurité de leurs technologies de grande valeur.

FAQ Q : Quels sont les principaux défis de la mise en œuvre de mesures de sécurité de l'IA dans les principaux laboratoires ?

FAQ A : Les principaux défis consistent à concilier l'accès accru des tiers avec les préoccupations de sécurité, à protéger les technologies sensibles des évaluateurs externes, à maintenir les garanties de propriété intellectuelle et à coordonner les laboratoires concurrents tout en respectant les règles de concurrence. Le personnel craint également que l'octroi d'un accès étendu à des personnes extérieures ne compromette la sécurité de leurs technologies de grande valeur.