HeadlinesBriefing favicon HeadlinesBriefing.com

Paul Christiano Bergabung dengan Dewan OpenAI

OpenAI Blog •
×

OpenAI mengumumkan bahwa Paul Christiano bergabung dengan Dewan Yayasannya sebagai pengamat tanpa hak suara, dan juga akan bertugas di Komite Keamanan dan Keselamatan (SSC) bersama ketua Zico Kolter. Christiano membawa pengalaman pemerintahan dari pekerjaannya di Pusat Standar dan Inovasi AI (CAISI) di dalam Departemen Perdagangan AS, di mana ia mengevaluasi model AI mutakhir untuk risiko keamanan nasional. Ia juga pendiri Alignment Research Center (ARC), sebuah organisasi nirlaba yang berfokus pada menyelaraskan AI dengan kepentingan manusia.

Dari 2017 hingga 2021, ia memimpin penelitian alignment di OpenAI, berkontribusi pada pekerjaan fundamental tentang pembelajaran penguatan dari umpan balik manusia (RLHF). Dalam peran barunya, Christiano menawarkan perspektif yang didasarkan secara teknis tentang tata kelola, menekankan perlunya mempersiapkan risiko AI yang dahsyat. Yayasan, sebuah organisasi nirlaba terpisah, memegang saham signifikan di OpenAI Group PBC dan mendukung inisiatif dalam penemuan ilmiah, masyarakat sipil, dan pengembangan AI yang bertanggung jawab.