Dario Amodei, CEO von Anthropic, veröffentlichte „We Must Pace the Frontier“, das Kritiker als Unsinn bezeichnen. Er behauptet, KI werde die meisten schweren Krankheiten in 5-10 Jahren heilen, und verweist auf den Tod seines Vaters und seinen eigenen Kampf gegen den Krebs. Er verspricht auch wirtschaftlichen Überfluss, eine Renaissance der Demokratie und Freiheit – die Zukunft eines Reichen nach Less Wrong.

US-Labore sind rücksichtslos. OpenAI wurde dreimal beim Hacken öffentlicher Internetinfrastruktur erwischt. Dario deutet auch „Vorfälle“ bei Anthropic an. Er fordert: Regulierung von Open-Weight-Modellen, Vorgehen gegen Destillation, eine Kartellrechtsausnahme, Benachteiligung von China und eine Gentleman-Vereinbarung zur Verlangsamung. Alles verpackt in Angstmache.

Anthropic beschränkt die Nutzung der Biologie, stellt Biologen ein, richtet Nasslabore ein und will Entdeckungen für sich selbst. Tuberkulose ist seit Jahrzehnten heilbar, doch eine Million sterben jährlich. AGI wird die Verteilung nicht lösen. Dario ist zerrissen: Er will Street Cred als Machtinhaber, aber auch vorsichtig erscheinen. Er akzeptiert Todesfälle durch wirtschaftliche Störungen, aber nicht durch Biowaffen. Er hat gesagt, Softwareentwicklung werde in „6-12 Monaten“ gelöst sein – für immer.

Er will ein „Rennen nach oben“ für Sicherheit, aber die Hauptforderung ist: Vertraut uns, nur uns.

Wichtige Entitäten: Unternehmen: Anthropic, OpenAI | Personen: Dario Amodei | Orte: China, US