HeadlinesBriefing favicon HeadlinesBriefing.com

Paul Christiano tritt dem OpenAI-Vorstand bei

OpenAI Blog •
×

OpenAI gab bekannt, dass Paul Christiano dem Vorstand der Foundation als nicht stimmberechtigter Beobachter beitritt und auch im Sicherheits- und Schutzausschuss (SSC) neben dem Vorsitzenden Zico Kolter tätig sein wird. Christiano bringt Regierungserfahrung aus seiner Arbeit am Zentrum für KI-Standards und Innovation (CAISI) im US-Handelsministerium mit, wo er Spitzen-KI-Modelle auf Risiken für die nationale Sicherheit bewertet. Er ist auch der Gründer des Alignment Research Center (ARC), einer gemeinnützigen Organisation, die sich darauf konzentriert, KI mit menschlichen Interessen in Einklang zu bringen.

Von 2017 bis 2021 leitete er die Alignment-Forschung bei OpenAI und trug zu grundlegenden Arbeiten über Reinforcement Learning aus menschlichem Feedback (RLHF) bei. In seiner neuen Rolle bietet Christiano eine technisch fundierte Perspektive auf Governance und betont die Notwendigkeit, sich auf katastrophale KI-Risiken vorzubereiten. Die Foundation, eine separate gemeinnützige Organisation, hält eine bedeutende Beteiligung an OpenAI Group PBC und unterstützt Initiativen in wissenschaftlicher Entdeckung, Zivilgesellschaft und verantwortungsvoller KI-Entwicklung.