Zwei Informatiker von Princeton, Mitautoren von „AI Snake Oil“, haben auf Anthropics Behauptung geantwortet, dass eine Wahrscheinlichkeit von >10% besteht, dass KI alle Menschen innerhalb von zehn Jahren töten könnte. Jacob Coxon, der OpenAI und Anthropic verließ, erklärte, dass beide Unternehmen wussten, dass KI bis Ende des Jahrzehnts das Aussterben der Menschheit verursachen könnte – eine Behauptung, die 156 Millionen Menschen gesehen haben. Evan Hubinger, ein KI-Sicherheitsleiter bei Anthropic, stimmte Coxons Einschätzung zu und sagte, sie glauben, dass KI alle Menschen innerhalb eines etwas längeren Zeitrahmens töten könnte und dass es keinen Plan für die Ausrichtung von Superintelligenz gibt.

Die Hauptrisiken umfassen zerstörerische Cyberangriffe auf kritische Infrastrukturen wie Wasser- und Stromsysteme. Sayash Kapoor und Arvind Narayanan, bekannt für die Behandlung von KI-Hype, argumentieren, dass Ausrichtung allein unzureichend ist, und schlagen einen mehrschichtigen Sicherheitsansatz vor, der Kontrolle (Sandboxing, Überwachung), Downstream-Verteidigung (KI verteidigt sich gegen KI) und Widerstandsfähigkeit (Wiederherstellungspläne) umfasst. Sie glauben, dass dringendes Handeln die Risiken senken und das Cybersicherheits-Gleichgewicht zugunsten der Verteidiger verschieben kann.