Anthropic a accordé au chien de garde externe METR un accès « type employé » à ses outils et systèmes internes, en traitant le groupe comme une équipe d'évaluation des risques. Cette mesure permet à METR d'examiner les pratiques de sécurité et les journaux internes sans avoir besoin de l'approbation d'Anthropic pour publier ses conclusions. Cet accord intervient alors qu'Anthropic fait face à une pression pour rassurer les investisseurs concernant les questions de sécurité avant son introduction en bourse prévue cette année, avec une valorisation dépassant les 2 billions de dollars.
Anthropic a déclaré que si la prise de risque d'une banque menace le public, des tiers doivent pouvoir le voir à l'avance. Les employés de METR ont été intégrés avec le matériel et l'espace de bureau de l'entreprise, et ils ont été encouragés à partager des informations comme ils le feraient avec un collègue. Il convient de noter qu'Anthropic ne paie pas METR pour cet arrangement, ce que le groupe de recherche dit être prêt à étendre à tous les développeurs d'IA de pointe.
Bien qu'Anthropic ne puisse pas opposer son veto à la publication des analyses de METR, elle peut exiger la suppression des données clients, des détails couverts par le secret professionnel avocat-client, ou des informations sur l'architecture du modèle. De plus, Anthropic travaille avec Accenture et Secure Bio pour établir de nouvelles garanties concernant les risques chimiques, biologiques et généraux liés à l'IA.
Source: Ars Technica · Résumé par HeadlinesBriefing