Un travail scientifique impactant nécessite de travailler sur les bons problèmes—des problèmes qui ne sont pas seulement intéressants, mais dont les solutions ont une importance. Dans cette publication, nous listons plusieurs domaines de problèmes susceptibles d'être importants tant pour faire progresser l'IA que pour son impact à long terme sur la société. Nous voyons ces problèmes comme ayant des implications très vastes, ou en abordant des conséquences émergentes importantes du développement de l'IA.

Si vous êtes un expert en machine learning fort et souhaitez lancer un effort sur l'un de ces problèmes chez Open AI, veuillez soumettre une demande. Détecter si quelqu'un utilise un système d'IA breakthrough dissimulé dans le monde. À mesure que le nombre d'organisations et des ressources allouées à la recherche en IA augmente, la probabilité qu'une organisation effectue une avancée en IA non divulguée et l'utilise pour des fins potentiellement malveillantes augmente également. Il semble important de le détecter.

Nous pouvons nous en imaginer de nombreuses façons de le faire—regarder les nouvelles, les marchés financiers, les jeux en ligne, etc. Construire un agent pour gagner des compétitions de programmation en ligne. Un programme capable d'écrire d'autres programmes serait, pour des raisons évidentes, très puissant. Défense contre les cyberattaques.

Une utilisation précoce de l'IA sera de pénétrer dans des systèmes informatiques. Nous aimerions que les techniques d'IA défendent contre les hackers sophistiqués qui font un usage intensif des méthodes d'IA. Une simulation complexe avec de nombreux agents à longue durée.

Nous sommes intéressés par la construction d'une simulation très grande avec de nombreux agents différents à l'intérieur qui peuvent interagir les uns avec les autres, apprendre sur une longue période de temps, découvrir le langage, et accomplir une riche variété d'objectifs.