Ein wirkungsvolles wissenschaftliches Werk erfordert die Arbeit an den richtigen Problemen—Problemen, die nicht nur interessant sind, sondern deren Lösungen bedeutend sind. In diesem Beitrag listen wir mehrere Problembereiche auf, die wahrscheinlich sowohl für die Weiterentwicklung der KI als auch für deren langfristige gesellschaftliche Auswirkungen wichtig sein werden. Wir sehen diese Probleme als haben entweder sehr breite Auswirkungen oder die wichtigen, neu entstehenden Konsequenzen der KI-Entwicklung anzugehen.

Wenn Sie ein starkes Machine-Learning-Expert sind und möchten, dass ein Anstrengung an einem dieser Probleme bei Open AI beginnt, senden Sie bitte einen Antrag ein. Erkennen, ob jemand eine versteckte DurchbruchskI-System in der Welt verwendet. Je mehr Organisationen und Ressourcen der KI-Forschung zugeordnet werden, desto größer wird die Wahrscheinlichkeit, dass eine Organisation einen nicht offengelegten KI-Durchbruch macht und das System für potenziell böswillige Zwecke verwendet.

Es scheint wichtig zu sein, dies zu erkennen. Wir können uns viele Möglichkeiten denken, dies zu tun—nach Nachrichten, Finanzmärkten, Online-Spielen usw. einen Agenten bauen, um Online-Programmierwettbewerbe zu gewinnen. Ein Programm, das andere Programme schreiben kann, wäre aus klaren Gründen sehr mächtig.

Cybersicherheitsverteidigung. Eine frühe Anwendung von KI wird das Eindringen in Computer-Systeme sein. Wir würden gerne KI-Techniken zur Verteidigung gegen hochentwickelte Hacker einsetzen, die schwerwiegende Nutzung von KI-Methoden treffen.

Eine komplexe Simulation mit vielen langlebigen Agenten. Wir sind interessiert daran, eine sehr große Simulation mit vielen verschiedenen Agenten darin zu erstellen, die miteinander interagieren können, über einen langen Zeitraum lernen können, Sprache entdecken können und eine reiche Vielfalt von Zielen erreichen können.