HeadlinesBriefing favicon HeadlinesBriefing.com

Paul Christiano rejoint le conseil d'OpenAI

OpenAI Blog •
×

OpenAI a annoncé que Paul Christiano rejoint son conseil de la Fondation en tant qu'observateur sans droit de vote, et siégera également au comité de sécurité et de sûreté (SSC) aux côtés du président Zico Kolter. Christiano apporte une expérience gouvernementale acquise au Centre pour les normes et l'innovation en IA (CAISI) au sein du département du Commerce des États-Unis, où il évalue les modèles d'IA de pointe pour les risques de sécurité nationale. Il est également le fondateur du Centre de recherche sur l'alignement (ARC), une organisation à but non lucratif axée sur l'alignement de l'IA avec les intérêts humains.

De 2017 à 2021, il a dirigé la recherche sur l'alignement chez OpenAI, contribuant à des travaux fondamentaux sur l'apprentissage par renforcement à partir de retours humains (RLHF). Dans son nouveau rôle, Christiano offre une perspective techniquement fondée sur la gouvernance, soulignant la nécessité de se préparer aux risques catastrophiques de l'IA. La Fondation, une organisation à but non lucratif distincte, détient une participation importante dans OpenAI Group PBC et soutient des initiatives en matière de découverte scientifique, de société civile et de développement responsable de l'IA.