有影响力的科学工作需要在正确的问题上工作——这些问题不仅有趣，而且其解决方案意义重大。在本文中，我们列出了几个可能对推动AI发展以及其长期社会影响至关重要的问题领域。我们认为这些问题具有极其广泛的影响，或是针对AI发展的重要新兴后果。若你是一位强大的机器学习专家，希望在Open AI开始一个项目，请提交申请。检测世界上是否在使用隐蔽的突破性AI系统。随着组织数量和分配给AI研究的资源增加，某组织进行未披露AI突破并可能用于恶意目的使用的概率也随之增加。这似乎很重要。我们可以想象很多种检测方式——查看新闻、金融市场、在线游戏等。构建一个在线编程比赛中获胜的智能体。一个能够编写其他程序的程序显然会非常强大。网络安全防御。AI的早期用途之一是破解计算机系统。我们希望AI技术能够防御那些大量使用AI方法的高级黑客。一个拥有众多长期存在智能体的复杂模拟。我们有兴趣构建一个非常大的模拟系统，里面有许多不同的智能体，它们可以相互交互，长期学习，发现语言，并实现丰富多样的目标。