Trabalho científico impactante requer trabalhar nos problemas corretos—problemas que não são apenas interessantes, mas cujas soluções importam. Neste post, listamos várias áreas de problemas que provavelmente serão importantes tanto para avançar na IA quanto para seu impacto a longo prazo na sociedade. Vemos esses problemas como tendo implicações muito amplas, ou abordando consequências emergentes importantes do desenvolvimento da IA.

Se você for um especialista forte em machine learning e desejar iniciar um esforço em um desses problemas na Open AI, por favor envie uma solicitação. Detectar se alguém está usando um sistema de IA breakthrough dissimulado no mundo. À medida que o número de organizações e recursos alocados à pesquisa de IA aumenta, a probabilidade de uma organização fazer um breakthrough de IA não divulgado e usá-lo para fins potencialmente maliciosos também aumenta. Parece importante detectar isso.

Podemos imaginar muitas maneiras de fazer isso—olhar para notícias, mercados financeiros, jogos online, etc. Construir um agente para vencer competições de programação online. Um programa que pode escrever outros programas seria, por motivos óbvios, muito poderoso. Defesa de cibersegurança.

Um uso precoce de IA será quebrar sistemas de computador. Gostaríamos que as técnicas de IA se defendessem contra hackers sofisticados que fazem uso intenso de métodos de IA. Uma simulação complexa com muitos agentes de longa duração.

Estamos interessados em construir uma simulação muito grande com muitos agentes diferentes nela que podem interagir entre si, aprender por um longo período de tempo, descobrir linguagem e realizar uma rica variedade de objetivos.