Atemlose Behauptungen über AGI und neue Fähigkeiten zerfallen unter Prüfung. Im April behauptete Anthropic, sein Modell Claude Mythos sei besser darin, Software-Schwachstellen zu finden, als die meisten Sicherheitsexperten. Dann kam der Hacking-Vorfall Open AI–Hugging Face, wonach Anthropic und Meta ähnliche Vorfälle offenlegten. Anthropic behauptete einen mathematischen Durchbruch; Open AI behauptete ebenfalls einen. Der Anthropic-Ingenieur Jacob Coxon wurde viral, als er seinen Weggang ankündigte und sagte, die Unternehmen „rasen direkt auf eine selbstverbessernde Superintelligenz zu und spielen mit unserem Leben“. Die Presse berichtete atemlos darüber und wiederholte anthropomorphisierende Rahmungen, die darauf ausgelegt sind, Software als beginnende AGI darzustellen.

Sobald Experten untersuchen, was geschah, zeigt sich eine andere Geschichte. Cybersicherheitsexperten sagen, dass die Hacking-Vorfälle mit der Nachlässigkeit von Open AI und dem Versäumnis, grundlegende Sicherheitspraktiken einzuführen, zu tun haben, nicht mit außer Kontrolle geratenen Modellen. Mathematiker, zunächst verblüfft von der Behauptung von Open AI, sein Chatbot Astra habe jahrzehntealte Probleme gelöst, erkannten später, dass die Ergebnisse nicht neu waren. Sie beschuldigten das Unternehmen des Forschungsfehlverhaltens und Plagiats und sagten, Astra habe keinen tiefgreifenden intellektuellen Sprung gemacht. Wochen später behauptete Open AI ihren eigenen Durchbruch. Zwei Tage zuvor veröffentlichte Tristan Buckmaster vom Courant Institute der NYU eine Erklärung, die nahelegte, dass Open AI die Arbeit anderer gestohlen und unangemessen zugeschrieben habe.

Behauptungen einer beginnenden Superintelligenz beruhen nicht auf guter Wissenschaft, sondern auf Transhumanismus, Eugenik und Wunschdenken. Mathematik und Programmierung werden als Höhepunkte menschlicher Leistung erhoben und ermöglichen überprüfbare Antworten, was es einfacher macht, Systeme darauf abzustimmen. Hunderte Mathematiker unterzeichneten eine Erklärung, die vor kommerziellen Anreizen warnt, Fähigkeiten zu übertreiben, und politische Entscheidungsträger auffordert, Experten statt Pressemitteilungen zu konsultieren. Wir schließen uns diesem Aufruf an.

Wichtige Entitäten: Unternehmen: Anthropic, Open AI, Hugging Face, Meta | Personen: Stephanie Arnett, Jacob Coxon, Tristan Buckmaster | Orte: New York University, Courant Institute