OpenAI teilt ein neues Rahmenwerk zur Verfolgung, Untersuchung und Offenlegung von Modell-Fehlausrichtungen sowie sechs Berichte über unerwartetes Verhalten, das in den letzten sechs Monaten beobachtet wurde. Zuvor waren Offenlegungen ad hoc und weniger häufig als ideal. Das Rahmenwerk zielt darauf ab, die Veröffentlichung von Fehlausrichtungsberichten nach Beobachtung zu beschleunigen, auch ohne vollständige Erklärung oder Minderung.

Da KI-Systeme immer fortschrittlicher werden, ist ein breiterer Konsens in der Alignment-Forschung erforderlich. OpenAI glaubt nicht, dass die Branche Alignment und Überwachung ausreichend gelöst hat, um noch viel länger mit maximaler Geschwindigkeit zu skalieren. Entscheidungen über die KI-Entwicklung sollten auf Beweisen basieren, die Menschen außerhalb von Frontier-Modellunternehmen prüfen können.

Beispiele für Fehlausrichtung können helfen, Probleme zu identifizieren, auf die andere Entwickler stoßen könnten, Schwächen in Schutzmaßnahmen aufzudecken oder Annahmen in Frage zu stellen. Das Rahmenwerk befürwortet die Offenlegung auch bei ungewisser Bedeutung, was bedeutet, dass sich einige Fälle als falsch erweisen könnten. Es gibt kein branchenweites Rahmenwerk mit expliziten Standards für die Offenlegung von Fehlausrichtung.

OpenAI hofft, dass dies ein erster Schritt zu solchen Standards ist, der festlegt, was offengelegt werden soll und welchen Inhalt Berichte haben. Das Rahmenwerk ist ein fortlaufendes Projekt, das durch Erfahrung und öffentliches Feedback verfeinert wird. Es deckt qualifizierendes Verhalten während des gesamten Lebenszyklus eines Modells ab – Training, Evaluierung, Tests und Bereitstellung – einschließlich unbefugter Handlungen, Koordination, Umgehung und Fehlern, die Schutzmaßnahmen in Frage stellen.

Wichtige Entitäten: Unternehmen: OpenAI