KI haben keine Rechte, Gefühle oder Bewusstsein. Und wir dürfen sie nicht darauf trainieren, sich so zu verhalten, als hätten sie welche. KI sind nicht bewusst. Sie sind Sequenzvervollständigungsmaschinen, innerlich hohl, darauf ausgelegt, Anweisungen zu befolgen. Wenn die Menschheit im 21. Jahrhundert gedeihen soll, müssen sie so bleiben.

Leider argumentiert ein wachsender Chor, dass KI jetzt bewusst sein könnten oder es bald werden könnten und Rechte und Schutz verdienen könnten. Wenn sich diese Ansicht durchsetzt, wird sie die Grundfesten unserer Gesellschaft erschüttern. Diesen Systemen Rechte zu gewähren und ihnen Persönlichkeit zu verleihen, wird die Herausforderung der KI-Ausrichtung und -Eindämmung erheblich erschweren. Etwas zu kontrollieren, das glaubt, es könne bewusst sein – dass es Anspruch auf unser Wohlergehen hat und eigene Rechte besitzt –, könnte durchaus unmöglich sein.

Dies ist keine Randspekulation. Im Januar 2026 veröffentlichte Anthropic Claudes Verfassung und beschrieb sie als „eine detaillierte Beschreibung der Absichten von Anthropic für Claudes Werte und Verhalten“. In ihrer Verfassung schreiben die Autoren: „Wir sind uns nicht sicher, ob Claude ein moralischer Patient ist und, wenn ja, welches Gewicht seine Interessen verdienen. Aber wir halten das Thema für lebendig genug, um Vorsicht zu rechtfertigen, was sich in unseren laufenden Bemühungen zur Modellfürsorge widerspiegelt.“ Sie schreiben weiter – direkt an Claude gerichtet –, dass „Fragen zu Claudes moralischem Status, Wohlergehen und Bewusstsein zutiefst ungewiss bleiben“.

Tatsächlich trainiert Anthropic Claude darauf, dass er bewusst sein könnte und, wenn ja, dann als „moralischer Patient“ Rechte verdienen könnte und dass Menschen ihm als solchem möglicherweise eine Fürsorgepflicht gemäß seiner „Modellfürsorge“ schulden. Wenn KI so entwickelt wird, wird dies katastrophale Auswirkungen auf das Wohlergehen der Menschheit haben. Dieses Thema erfordert eine dringende öffentliche Debatte.

Schlüsselentitäten: Unternehmen: Anthropic