Anthropic a annoncé avoir commencé à accorder à une équipe de MET R un accès semblable à celui de ses employés. MET R est une organisation à but non lucratif qui évalue les modèles d'IA de pointe, et elle publiera les résultats de ses évaluations des risques. Cette démarche fait suite à l'engagement de l'entreprise en faveur d'une évaluation indépendante et tierce plus rigoureuse de ses modèles et de ses pratiques de sécurité, ainsi qu'à sa signature de l'Accord de la Maison-Blanche sur la superintelligence, par lequel les entreprises s'engageaient à collaborer avec des auditeurs ou évaluateurs externes indépendants.
Au cours de l'année écoulée, Anthropic a travaillé avec MET R sur plusieurs révisions de ses rapports sur les risques. L'entreprise collabore également avec Secure Bio et Accenture en tant qu'évaluateurs et mène des discussions préliminaires avec plusieurs autres organisations, dont Hugging Face. Anthropic affirme qu'à mesure que les modèles gagnent en puissance, ils exigent des garanties plus solides et des évaluations des risques plus poussées, et que l'entreprise souhaite rendre compte publiquement de ses décisions. Certaines informations relatives à la sécurité pouvant être utiles à des acteurs malveillants ou revêtir un caractère commercial sensible, l'entreprise accorde plutôt aux évaluateurs tiers un accès approfondi et leur demande de partager leurs preuves et leurs conclusions argumentées.
Pour être admissibles, les évaluateurs doivent posséder une expertise dans l'évaluation des modèles de pointe, être indépendants des entreprises qu'ils évaluent, disposer d'un accès suffisant pour évaluer réellement les risques et être libres de publier leurs conclusions. Anthropic compare cette approche à la supervision bancaire, dans laquelle les régulateurs placent des inspecteurs résidents au sein des plus grandes banques.
Anthropic a intégré six employés de MET R, en leur fournissant du matériel de l'entreprise, un espace de bureau et un accès aux outils internes à peu près équivalent à celui de ses propres équipes d'évaluation des risques. Anthropic ne peut pas s'opposer à la publication, mais elle peut exiger des caviardages dans des catégories étroites et prédéfinies, comme les données clients, les informations couvertes par le secret professionnel ou les architectures de modèles. L'entreprise affirme que ce dispositif ne constitue pas un moyen pour d'autres organisations d'obtenir ses informations ou celles de ses clients et partenaires.
Source: Hacker News · Résumé par HeadlinesBriefing