Was kostet ein Weltuntergang? Die Führungskräfte der größten KI-Unternehmen wollen die Entwicklung verlangsamen, um "Frontier-Modelle" zu vermeiden, die enormen Schaden anrichten können. Glücklicherweise ist dies ein Ziel, das auch ihre Investoren unterstützen sollten. Anthropic-Chef Dario Amodei schlug am Wochenende vor, dass KI-Fortschritte "getaktet" werden sollten, wobei Regierungen nach Möglichkeit Standards koordinieren sollten.

Selbst ohne regulatorischen Zwang sollten KI-Highflyer wie Anthropic, Open AI und Space X ein finanzielles Argument dafür finden können, das Tempo des Fortschritts zu zügeln. Ein Vorteil der Verlangsamung wäre, dass sie die enormen Geldbeträge reduzieren würde, die für das Training neuer Modelle verschwendet werden. Zum Beispiel plant Open AI, bis 2030 750 Mrd. Dollar für Rechenkapazität auszugeben. Jedes Jahr, um das dies verschoben wird, verringert den Barwert dieser Ausgabe um fast 100 Mrd. Dollar, rechnet Lex.

Zwar ist ein Risiko des "Taktens", dass Nachzügler die Chance bekommen aufzuholen und Marktanteile zu ergattern. Open-Weight-Modelle liegen nur wenige Monate hinter der Spitze zurück. China ist ein gewaltiger Konkurrent, obwohl Amodei vorschlägt, dass es drei bis fünf Jahre bringen könnte, modernste KI-Chips aus seinen Händen zu halten. Aber mit bestehenden Modellen lässt sich viel Heu machen, und eine Verlangsamung würde einen zusätzlichen Anreiz schaffen, dies zu tun. Space X hat in seinem IPO einen Markt von 22,7 Billionen Dollar für "Unternehmensanwendungen" angedeutet. Anthropic könnte auf einen Markt im Wert von 30 Billionen Dollar hindeuten. Deutsche Bank schätzt, dass, wenn bis 2031 60 Prozent der Wissensarbeiter KI-bezogene Apps nutzen, dies einem Umsatzpool von 400 Mrd. Dollar entsprechen würde.

Jeder Investor in Anthropic — darunter Black Rock, Singapurs GIC, Coatue und Sequoia Capital — sollte einen weiteren dringenden Grund haben, eine koordinierte Taktungsanstrengung zu unterstützen. Schließlich ist das Aussterben der Menschheit, das vermutlich alle ihre Kunden einschließen würde, ein Risiko, für das es keine bekannte Absicherung gibt.

Wichtige Entitäten: Unternehmen: Anthropic, Open AI, Space X, Deutsche Bank, Black Rock, GIC, Coatue, Sequoia Capital, Salesforce | Personen: Dario Amodei, Sam Altman, Roula Khalaf | Orte: Washington, China, Singapore