Künstliche Intelligenz steht nun neben Asteroideneinschlägen, Pandemien und Atomkrieg als existenzielle Bedrohung und löst intensive öffentliche Angst aus. Aktuelle Schlagzeilen heben den Rücktritt eines Forschers von Anthropic hervor, der warnt, dass supersmarte Maschinen der menschlichen Kontrolle entgleiten könnten. Experten merken an, dass KI zwar schlecht verstanden und als unkontrollierbar wahrgenommen wird, viele traditionelle Risiken — wie Autounfälle — tatsächlich weniger gefährlich sind, als sie erscheinen. Kurzfristige Bedenken umfassen, dass KI böswillige Akteure bei der Herstellung biologischer Waffen unterstützt, da Anthropic kürzlich mehrere solche Versuche vereitelt hat. Langfristige Ängste beinhalten, KI größere Autonomie zu gewähren, sie mit kritischer Infrastruktur zu verbinden und die Möglichkeit, dass zukünftige Systeme einem Abschalten widerstehen. Gelehrte wie Oren Etzioni betonen, dass aktuelle KI-Risiken spekulativ bleiben und weit unter unmittelbaren Bedrohungen wie einem Virusausbruch rangieren. Selbst Milzbrand, eine bekannte biologische Waffe, veranschaulicht, wie Abschreckung vorsätzliche Gefahren mindern kann, was darauf hindeutet, dass Panik vor KI etablierte Strategien zum Risikomanagement übersehen könnte.

Der Artikel unterstreicht, dass KI zwar neuartige Furcht erzeugt, die Menschheit jedoch bereits einem Katalog existenzieller Gefahren gegenübersteht, von denen viele besser verstanden und unmittelbarer sind.