KI-Chefs glauben, dass Maschinenintelligenz bald die menschliche Intelligenz übertreffen wird, aber die Beschleunigung der Entwicklung ohne Sicherheitsvorkehrungen könnte den Fortschritt letztlich bremsen. Ehemalige Mitarbeiter von Anthropic, Open AI und Google Deep Mind warnen, dass diese Unternehmen Sicherheit nicht ernst genug nehmen. Donald Trump hat die Notwendigkeit von Regulierung abgetan und erklärt, dass ein "starker und kluger" Präsident der einzige nötige Kontrollmechanismus sei. Aber 60 Prozent der Amerikaner unterstützen jetzt KI-Regulierung, laut einer Umfrage des Special Competitive Studies Project und Gallup, während nur 7 Prozent Tempo vor Sicherheit priorisieren.

KI-Sicherheitsaktivisten verweisen auf den Zusammenbruch der US-Atomindustrie nach dem Three-Mile-Island-Unfall 1979 als warnendes Beispiel. Jede KI-induzierte Katastrophe könnte eine regulatorische Überreaktion auslösen, die künftigen Fortschritt stoppt und die technologische Beschleunigung gefährdet, für die Beschleuniger eintreten.

Beschleuniger argumentieren, dass führende Unternehmen heimlich Regulierung wollen, um Amtsinhaber zu zementieren, und dass die USA das KI-Rennen gegen China gewinnen müssten. Aber wie Analyst Dan Wang anmerkt, könnte Peking zufrieden sein, die USA an der Frontier-KI in den Ruin laufen zu lassen, während China die Lehren breiter anwendet. Ex-Forscher Andrew Strait nennt die aktuelle KI-Entwicklung "unglaublich rücksichtslos, fahrlässig und gefährlich". Bill Gates argumentiert, dass die nächsten 12 bis 18 Monate an Designentscheidungen kritisch sein werden, seine Stiftung gibt 1 Milliarde Dollar aus, um nützliche KI-Initiativen zu fördern.