Der ehemalige Anthropic-Forscher Jacob Coxon trat letzte Woche zurück und veröffentlichte virale Warnungen über existenzielle Risiken der KI, was eine weltweite Reaktion auslöste. Sein Tweet, in dem er Ängste äußerte, dass KI die Menschheit bis zum Ende des Jahrzehnts töten könnte, fand weite Resonanz, obwohl er nur eine Nischenreichweite erwartet hatte. Coxon erinnerte sich an seine erste Begegnung mit KI durch AlphaGos Sieg über Lee Sedol 2016 und später die Veröffentlichung von GPT-3 während seines Abschlusses.

Seine Warnungen veranlassten den Anthropic-CEO Dario Amodei, eine Verlangsamung der KI-Entwicklung zu fordern, eine Position, die schnell vom OpenAI-CEO Sam Altman und Elon Musk unterstützt wurde. Der Forscher betonte, dass er nicht speziell Anthropic kritisiere, sondern das gefährliche Tempo der Branche hervorhebe. Gesetzgeber und große Nachrichtennetzwerke haben sich seitdem mit seiner Nachricht befasst, die er angesichts der seit langem bestehenden Bedenken von Experten über KI-Risiken als überraschend in ihrer globalen Reichweite beschreibt.