In den letzten Monaten haben die beiden führenden KI-Labore an der Spitze ein dreistes Verhalten gezeigt. Es begann mit Ankündigungen von Open AI, die feststellten, wie mächtig ihre LLM-gestützten Agenten geworden sind. Dann übergaben sie den Staffelstab an Anthropic, deren Mitarbeiter über die Wahrscheinlichkeit des menschlichen Aussterbens debattierten. Die Kampagne erreichte ihren Höhepunkt, als Anthropic-CEO Dario Amodi einen Brief mit dem Titel „Wir müssen die Grenze kontrollieren“ veröffentlichte, in dem er die Schäden auflistete, die seine eigene Forschung verursachen könnte, und dann zu dem Schluss kam, dass eine Katastrophe nur vermieden werden kann, wenn die Regierung Konkurrenten verlangsamt und die Labore führen lässt. Open AI-CEO Sam Altman twitterte schnell seine Unterstützung.

Intern vertreten diese Labore ein messianisches Denken und sehen sich als die einzige Hoffnung der Menschheit. Dieser Sommer war gewissermaßen ihr Versuch, uns in diese Ideologie einzuführen—aber es funktionierte nicht. Stattdessen ließ es uns fragen: „Was zum Teufel ist in diesen Laboren los?“

Ich veröffentlichte einen Gastbeitrag in _The New York Times_, in dem ich den Kongress aufforderte, eine öffentliche Tatsachenermittlungsmission zu starten. Ich schlug drei Schlüsselbereiche vor: die spezifischen Systeme zu isolieren, die Probleme verursachen, die internen Sicherheitsverfahren zu untersuchen (einschließlich unbefugter Hacking-Angriffe durch autonome Agenten) und die Rolle apokalyptischer futuristischer Ideologien zu untersuchen, die rücksichtslose Entscheidungen vorantreiben.

„Wir müssen aufhören, zuzulassen, dass eine kleine Anzahl privater Unternehmen diktiert, wie wir uns über KI fühlen“, schloss ich. „Es ist an der Zeit, dass der Kongress in unserem Namen eingreift, um herauszufinden, was wirklich vor sich geht.“