El trabajo científico impactante requiere trabajar en los problemas correctos—problemas que no solo son interesantes, sino cuyas soluciones importan. En esta publicación, listamos varios áreas de problemas que probablemente serán importantes tanto para avanzar en IA como para su impacto a largo plazo en la sociedad. Vemos estos problemas como teniendo implicaciones muy amplias, o abordando consecuencias importantes emergentes del desarrollo de IA.

Si eres un experto fuerte en machine learning y deseas iniciar un esfuerzo en uno de estos problemas en Open AI, por favor envía una solicitud. Detectar si alguien está usando un sistema de IA breakthrough cubierto en el mundo. A medida que aumenta el número de organizaciones y los recursos asignados a la investigación de IA, la probabilidad de que una organización haga un breakthrough de IA no divulgado y lo use para fines potencialmente maliciosos también aumenta.

Parece importante detectar esto. Podemos imaginar muchas maneras de hacerlo—mirar las noticias, mercados financieros, juegos en línea, etc. Construir un agente para ganar competencias de programación en línea. Un programa que pueda escribir otros programas sería, por razones obvias, muy poderoso.

Defensa contra ciberataques. Un uso temprano de IA será romper sistemas informáticos. Nos gustaría que las técnicas de IA defiendan contra hackers sofisticados que hacen un uso pesado de métodos de IA.

Una simulación compleja con muchos agentes de larga duración. Estamos interesados en construir una simulación muy grande con muchos agentes diferentes en ella que puedan interactuar entre sí, aprender durante un período prolongado de tiempo, descubrir lenguaje y lograr una rica variedad de metas.