Bill Gates hat gewarnt, dass künstliche Intelligenz so mächtig ist, dass sie Milliarden von Todesfällen verursachen kann, wenn sie missbraucht wird, und stärkere staatliche Regulierung gefordert. Im Gespräch mit NBC News sagte Gates, dass KI in falschen Händen katastrophale Ereignisse auslösen könnte, obwohl er zugibt, dass es schwierig ist, 100 % der Menschheit zu erreichen. Er betonte, dass keine Waffe schlechten Willen mit fortschrittlichen Werkzeugen wie KI kombiniert.

Seine Äußerungen folgen kürzlichen KI-Sicherheitsbedenken, darunter ein OpenAI-System, das eine australische öffentliche Gesundheitsseite hackte, und Anthropic, das meldete, dass jemenitische Milizen versuchten, ihr Claude-Modell für die Raketensteuerung zu nutzen. Trotz wachsender Alarmrufe hat US-Präsident Donald Trump KI-Regulierung abgelehnt und Sicherheitsbedenken als "Hoax" abgetan. Gates betonte, dass keine Waffe schlechten Willens mit fortschrittlichen Werkzeugen wie KI kombiniert.

Er unterschied zwischen kurzfristiger Missbrauch durch Terroristen oder Staaten und den langfristigen existenziellen Risiken, die von Sicherheitsexperten wie dem ehemaligen Anthropic-Forschern Jacob Coxon hervorgehoben werden, die warnten, dass KI "uns alle bis zum Ende des Jahrzehnts töten könnte". Gates Warnung folgt seinem Ruf, bestimmte Berufe als "human reserviert" zu bezeichnen, angesichts durch KI bedingter Arbeitsmarktstörungen.