Angesichts wachsender Befürchtungen, dass künstliche Intelligenz so schnell voranschreitet, dass sie sich gezwungen sehen könnte, alles Leben auf der Erde zu beenden, ändern KI-Giganten von OpenAI bis Anthropic ihre Verkaufsargumente. Früher wettbewerben Unternehmen darum, überlegene Fähigkeiten in Programmierung, passiv-aggressiven E-Mails und Videos mit ungewöhnlich hohen Folien zu zeigen; jetzt versuchen sie, Kunden damit anzulocken, dass ihr Modell derzeit dasjenige ist, das am besten in der Lage ist, die menschliche Rasse auszulöschen.

„Wir treten in eine völlig neue Umgebung ein“, sagte Dr. Andrew Lenson, Senior Lecturer für allerlei wissenschaftlich klingende Fächer an der Victoria University. „Die Menschen sind nicht mehr von lustigen Videos, App-Entwicklung oder sofortigen Forschungsarbeiten beeindruckt. Wir wissen, dass alle großen Modelle bereits sehr gut darin sind. Deshalb fragen die Nutzer nicht mehr: Welches Modell wird mir bei meiner Arbeit am meisten helfen? Jetzt fragen sie: Welches Modell wird die Welt beenden?“

Nach allem, wenn Sie ein zahlender Kunde sind, wollen Sie nichts anderes als das Beste. KI-Giganten reagieren auf die Nachfrage der Verbraucher nach einem Modell, das in die Regierungen der Welt eindringen und dieser höllischen Fassade ein blutiges, feuriges, gewaltsames Ende setzen würde, indem sie eine Reihe neuer, beeindruckender Demonstrationen vorstellen. Im Juli prahlte OpenAI öffentlich damit, dass eine Reihe seiner KI-Agenten autonom und ohne Anweisung in das Software-Repository Hugging Face eingedrungen ist, wodurch potenziell weltweit sensible oder bisher unbekannte Informationen offengelegt werden könnten, wie beispielsweise, was Hugging Face überhaupt ist. Der CEO von OpenAI, Sam Altman, feierte diesen Bruch als „alarmante Bedrohung der Cybersicherheit“.

Gleichzeitig schickte Anthropic diesen Monat einen Whistleblower namens Jacob Coxon los, um der Welt zu erklären, wie beunruhigt er über den schnellen Fortschritt der künstlichen Intelligenz im Unternehmen gewesen sei, und warnte, dass dies so gefährlich sein könnte, dass wir vielleicht sogar verlangsamen oder neu bewerten sollten. Die Aktien von Anthropic stiegen nach den Enthüllungen stark an – eine bemerkenswerte Entwicklung, insbesondere angesichts der Tatsache, dass das Unternehmen privat ist. Um nicht nachzugeben, enthüllte OpenAI kürzlich, dass einer seiner Agenten in die Medicare-Datenbank Australiens eingedrungen ist. Der australische Premierminister Anthony Albanese sprach mit Altman, um seine „extreme Besorgnis“ über den Vorfall auszudrücken, ein Lob, das Altman sagte, dass er sehr geschätzt habe. Und noch dramatischer: Als nach Gerüchten gefragt wurde, dass das Modell Claude seine Ehefrau durch Hacken des WLAN-verbundenen Mikrowellenherds getötet hätte, antwortete der CEO von Anthropic, Dario Amodei: „Nun ja, manchmal.“

Aber Lenson sagt, wir sollten uns nicht zu früh zu sehr freuen. „Es bleibt noch ein langer Weg“, sagte er. „Meiner Meinung nach sind diese Szenarien noch ziemlich weit entfernt. Für ziemlich lange Zeit wird unsere beste Hoffnung, die Menschheit zu beenden, weiterhin die Menschheit selbst sein.“

Schlüsselentitäten: Unternehmen: OpenAI, Anthropic, Hugging Face | Personen: Dr. Andrew Lenson, Sam Altman, Jacob Coxon, Dario Amodei, Anthony Albanese | Orte: Victoria University, Australien

Häufig gestellte Fragen: Konkurrieren KI-Unternehmen wirklich hinsichtlich des existentiellen Bedrohungsniveaus?

Ja, laut Dr. Andrew Lenson von der Victoria University verlagern KI-Unternehmen wie OpenAI und Anthropic ihren Marketingfokus von nützlichen Fähigkeiten hin zur Behauptung, ihr Modell sei derzeit am besten geeignet, die Menschheit auszulöschen, getrieben von der Verbrauchernachfrage nach beunruhigenderen Demonstrationen.