OpenAI намечает путь к общим глобальным стандартам ИИ, призывая к скоординированной оценке, отчётности и управлению для повышения безопасности.

Наша миссия — обеспечить, чтобы общий искусственный интеллект приносил пользу всему человечеству. Как недавно изложили Sam Altman и Jakub Pachocki, мы отдаём приоритет нашей работе в направлении этой миссии с тремя главными целями: пройти следующий период прогресса ИИ, создав автоматизированного исследователя ИИ, итеративно работая с ним над проблемой согласования и находя способы, чтобы люди оставались частью цикла самоулучшения. Обеспечить преимущества научного прогресса и экономического роста, которые становятся возможными благодаря очень умным машинам. Расширить возможности каждого человека индивидуально с помощью персонального AGI.

ИИ развивается во многих компаниях и странах, и прогресс в этой области меняет возможности и вызовы, стоящие перед каждым. Чтобы безопасно пройти этот переход, исследования согласования должны успевать за этими возможностями, чтобы системы, которые создаём мы и другие, оставались согласованными с человеческими ценностями и под контролем человека. Это становится всё более важным по мере того, как системы ИИ становятся более способными и автономными, в том числе когда они берут на себя всё больше самих исследований и разработок в области ИИ.

Чтобы дальнейший прогресс ИИ был безопасным и полезным, потребуются как достижения в исследованиях согласования, так и общие стандарты для руководства разработкой во всех лабораториях и странах.

Ключевые субъекты: Компании: OpenAI, Hugging Face, Center for AI Standards and Innovation (CAISI) | Люди: Sam Altman, Jakub Pachocki

Часто задаваемые вопросы: Каковы ключевые цели миссии OpenAI?

Три главные цели OpenAI: пройти следующий период прогресса ИИ, создав автоматизированного исследователя ИИ, обеспечить научные и экономические преимущества и расширить возможности каждого человека с помощью персонального AGI.

Вопрос из