Влияющая научная работа требует работы над правильными проблемами—проблемами, которые не просто интересны, но и их решения имеют значение. В этой статье мы перечисляем несколько областей проблем, которые, вероятно, будут важны как для продвижения искусственного интеллекта, так и для его долгосрочного воздействия на общество. Мы видим эти проблемы как имеющие очень широкие последствия или решение важных новых следствий развития искусственного интеллекта. Если вы сильный эксперт по машинному обучению и хотите начать усилия по одной из этих проблем в Open AI, пожалуйста, отправьте заявку. Обнаружить, используется ли где-либо скрытая прорывная система искусственного интеллекта. По мере увеличения количества организаций и ресурсов, выделенных на исследования искусственного интеллекта, вероятность того, что организация сделает неразглашенный прорыв в искусственном интеллекте и использует систему для потенциально вредоносных целей, также увеличивается. Похоже, что это важно обнаружить. Мы можем представить много способов сделать это—посмотреть на новости, финансовые рынки, онлайн-игры и т.д. Построить агента, чтобы выиграть в онлайн-состязанияях по программированию. Программа, которая может писать другие программы, была бы, по видимым причинам, очень мощной. Защита от кибератак. Раннее применение искусственного интеллекта будет взлом компьютерных систем. Мы хотели бы, чтобы методы искусственного интеллекта защищали от изощренных хакеров, которые активно используют методы искусственного интеллекта. Сложная симуляция с множеством долгоживущих агентов. Мы заинтересованы в создании очень большой симуляции с множеством разных агентов внутри, которые могут взаимодействовать друг с другом, учиться в течение длительного периода времени, обнаруживать язык и достигать широкого разнообразия целей.