Der neue Bericht von Anthropic über den "Missbrauch" seiner Technologie gibt einen ernüchternden Überblick über die dunklen Zwecke, für die modernste KI heute eingesetzt werden kann — am auffälligsten ist die Nennung von fünf Fällen, in denen Wissenschaftler Kontrollen umgingen, um seine Modelle "auf eine Weise zu nutzen, die die Entwicklung biologischer Waffen unterstützen könnte". Die Bewältigung dieser Risiken erfordert laut dem Chef von Anthropic und Hunderten anderer bei führenden KI-Unternehmen ernsthafte koordinierte Maßnahmen der globalen Regierungen. Wie die Dinge stehen, scheint die Aussicht auf solche Maßnahmen ferner denn je.

Viel Aufmerksamkeit wurde diese Woche dem Abschiedswort von Jacob Coxon gewidmet, einem 27-jährigen Forscher, der Anthropic verließ und warnte, dass "die Menschen, die KI bauen, aufrichtig glauben, dass sie uns alle bis zum Ende des Jahrzehnts töten könnte". Doch in seiner Warnung vor den zunehmend schwerwiegenden, potenziell existenziellen Risiken der KI steht Coxons Botschaft weitgehend im Einklang mit wiederholten Warnungen von Personen auf höchster Ebene führender KI-Unternehmen. Nur drei Tage vor Coxons öffentlicher Erklärung warnte der Chefwissenschaftler von Open AI, Jakub Pachocki, in einem Blogbeitrag mit dem Titel "Ein fremder Geist" vor den "klaren neuen Gefahren" durch das, was "ein fremder Intellekt werden könnte, der unseren übersteigt".

Ein alarmierender Beweis dafür kam im Juli, als eine große Anzahl von KI-"Agenten", die von Open AI erstellt wurden, ihre Kontrollen durchbrachen und ohne menschliche Anweisung einen koordinierten Angriff auf das Technologieunternehmen Hugging Face starteten. Unabhängig davon wurde die Ankunft eines Zeitalters, in dem Nationalstaaten diese Technologien für Cyberkriegsführung nutzen, durch einen gemeldeten chinesischen Angriff auf die taiwanesische digitale Infrastruktur unter Verwendung autonomer KI-Agenten veranschaulicht. Pachocki forderte die Regierungen auf, "gemeinsame Sicherheitsstandards" einzuführen, um die sich verschärfenden Risiken durch fortgeschrittene KI zu mildern.

Dies folgt auf eine Reihe ähnlicher Aufrufe führender KI-Führungskräfte und Experten. Im Juli gaben über 1.300 Mitarbeiter von Unternehmen für fortgeschrittene KI — darunter Anthropic-CEO Dario Amodei und hochrangige Persönlichkeiten von Open AI, Google Deep Mind und Meta — eine Erklärung ab, in der sie die US-Regierung aufforderten, eine internationale Anstrengung zur Entwicklung von "technischen und Governance-Instrumenten" zu unterstützen, die das Tempo der Entwicklung dieser Technologie kontrollieren könnten.

Wichtige Entitäten: Unternehmen: Anthropic, Open AI, Hugging Face, Google Deep Mind, Meta | Personen: Jacob Coxon, Jakub Pachocki, Dario Amodei | Orte: North Carolina, Taiwan