Lieber Dario, du hast heute veröffentlicht ‚Wir müssen das Tempo der Frontier halten‘, in dem Anthropic sich verpflichtete, externe Evaluatoren einzubetten und Regierungen aufforderte, jede andere Frontier-Firma dazu zu zwingen, dasselbe zu tun. Sam Altman stimmte innerhalb weniger Stunden zu. Ich glaube, du bist aufrichtig, deshalb bitte ich dich, ein anderes Gesetz zu fordern, eines, das die Dinge tatsächlich verlangsamt, auch wenn es ein echtes Opfer von deiner Seite erfordern würde.

Jedes KI-Modell, das ein Unternehmen der Öffentlichkeit anbietet, muss als offene Gewichte freigegeben werden. Dies würde nicht jedes Modell abdecken, das du trainierst, nur jene, die du der Öffentlichkeit zugänglich machst. Interne und Forschungsmodelle würden nicht beeinflusst werden, und Regierungen könnten weiterhin Zugang zu unveröffentlichten Modellen erhalten.

Aber Anthropic müsste die Gewichte von Fable am Tag ihrer Veröffentlichung veröffentlichen, Open AI müsste dasselbe mit Astra tun, und genauso würde es jeder andere machen. Wie du weißt, hängt die Finanzierung der Frontier-Modellentwicklung von Bewertungen ab, die voraussetzen, dass die Gewichte proprietär bleiben. Indem wir diese Annahme ändern, können wir das Geld verringern, das für zukünftige Trainingsläufe verfügbar ist, und den Fortschritt in jedem Labor gleichzeitig verlangsamen, ohne dass ein Regulator irgendetwas entscheidet.

Jede Regulierung, die du gefordert hast, endet in Capture. Es gibt keine Regulierung, die die Frontier-Modelle verlangsamen würde, ohne zu regulatorischer Capture zu führen. Eingebettete Evaluatoren, Compute-Schwellenwerte, Industriekoordination mit Kartellrechtsausnahmen.

All dies wird mit Hilfe der aktuellen Frontier-Labore geschrieben, weil niemand sonst die technischen Details gut genug versteht, um es zu schreiben. Sobald es Gesetz ist, wird es nur komplexer, denn jeder Vorfall fügt eine Regel hinzu und keine Regel wird jemals entfernt. Große Unternehmen können sich Compliance-Teams und Anwälte leisten, um Schritt zu halten, und jede neue Anforderung macht es für jeden anderen schwieriger, aufzuholen.

Statt dich zu verlangsamen, schützt es deine Position und deine Gewinne. Warum bitte ich dich? Du erscheinst als ein guter und principierter Mensch, und du hast eine Bilanz davon, Dinge aufzugeben, an die du glaubst. Du hast Open AI verlassen, um ein Unternehmen zu gründen, das Sicherheit von Anfang an integriert hat, als der sichere Karrierezug wäre geblieben zu sein.

Du hast Jahre damit verbracht, für Regulierung in deiner eigenen Industrie zu kämpfen und dafür als Undergänger und Regulierungs-Capturer bezeichnet zu werden. Du hast Exportkontrollen unterstützt, die deinen eigenen Markt schrumpfen lassen. Anthropic zahlte 1,5 Milliarden Dollar, um mit den Autoren zu einigen, anstatt bis zum Ende zu kämpfen.

Und heute hast du dich verpflichtet, vor allen anderen zu verlangsamen. Außerdem hattest du die Weitsicht, Anthropic als Public Benefit Corporation (PBC) zu gründen, damit du rechtlich die Mission zuerst setzen kannst: die verantwortungsvolle Entwicklung und Wartung fortschrittlicher KI zum langfristigen Nutzen der Menschheit. Dies ist genau die Art von Mission-über-Kurzzeitgewinn-Entscheidung, für die die PBC-Struktur existiert.

Du bist immer noch die einzige Person, die ein Gesetz wie dieses vorschlagen könnte und ernst genommen würde, und du bist auch die einzige Person, die wahrscheinlich tatsächlich dazu in der Lage wäre. Wenn du wirklich die Frontier-KI-Entwicklung verlangsamen willst, fordere ein Gesetz, das vorschreibt, dass jedes öffentlich verfügbare KI-Modell seine Gewichte offenlegen muss. Es gibt nichts darin, was man ausnutzen oder umgehen könnte, sogar nicht für dich.