OpenAI skizziert einen Weg zu gemeinsamen globalen KI-Standards und fordert koordinierte Evaluierung, Berichterstattung und Governance zur Verbesserung der Sicherheit.

Unsere Mission ist es, sicherzustellen, dass künstliche allgemeine Intelligenz der gesamten Menschheit zugutekommt. Wie kürzlich von Sam Altman und Jakub Pachocki dargelegt, priorisieren wir unsere Arbeit an dieser Mission mit drei Hauptzielen: die nächste Phase des KI-Fortschritts zu meistern, indem wir einen automatisierten KI-Forscher aufbauen, mit ihm am Alignment-Problem iterieren und Wege finden, damit Menschen Teil der Selbstverbesserungsschleife bleiben. Die Vorteile des wissenschaftlichen Fortschritts und des Wirtschaftswachstums zu liefern, die sehr intelligente Maschinen ermöglichen. Jeden Einzelnen mit einer persönlichen AGI zu befähigen.

KI entwickelt sich in vielen Unternehmen und Ländern weiter, und der Fortschritt in diesem Bereich verändert die Chancen und Herausforderungen, denen sich alle gegenübersehen. Um diesen Übergang sicher zu meistern, muss die Alignment-Forschung mit diesen Fähigkeiten Schritt halten, damit die Systeme, die wir und andere bauen, mit menschlichen Werten im Einklang und unter menschlicher Kontrolle bleiben. Dies wird zunehmend wichtiger, je leistungsfähiger und autonomer KI-Systeme werden, auch wenn sie mehr der KI-Forschung und -Entwicklung selbst übernehmen.

Um den fortgesetzten KI-Fortschritt sicher und nutzbringend zu machen, sind sowohl Fortschritte in der Alignment-Forschung als auch gemeinsame Standards erforderlich, um die Entwicklung in allen Labors und Ländern zu lenken.

Wichtige Entitäten: Unternehmen: OpenAI, Hugging Face, Center for AI Standards and Innovation (CAISI) | Personen: Sam Altman, Jakub Pachocki