Las IA no tienen derechos, sentimientos ni conciencia. Y no debemos entrenarlas para que actúen como si los tuvieran. Las IA no son conscientes. Son motores de completado de secuencias, internamente huecos, diseñados para seguir instrucciones. Si la humanidad ha de prosperar en el siglo XXI, así es como deben permanecer.

Desafortunadamente, un coro creciente sostiene que las IA podrían ser ahora, o podrían llegar a ser pronto, conscientes, y podrían merecer derechos y protecciones. Si esta visión se afianza, sacudirá los cimientos de nuestra sociedad. Conceder derechos e imbuir de personalidad a estos sistemas hará mucho más difícil el desafío de la alineación y contención de la IA. Controlar algo que cree que puede ser consciente —que tiene derecho a nuestro bienestar y tiene derechos propios— bien podría ser imposible.

Esto no es especulación marginal. En enero de 2026, Anthropic publicó la constitución de Claude, describiéndola como "una descripción detallada de las intenciones de Anthropic para los valores y el comportamiento de Claude". En su constitución, sus autores escriben: "No estamos seguros de si Claude es un paciente moral y, si lo es, qué tipo de peso merecen sus intereses. Pero creemos que el asunto está lo suficientemente vivo como para justificar cautela, lo cual se refleja en nuestros esfuerzos continuos sobre el bienestar de los modelos". Continúan escribiendo —hablando directamente a Claude— que "las preguntas sobre el estatus moral, el bienestar y la conciencia de Claude siguen siendo profundamente inciertas".

En efecto, Anthropic está entrenando a Claude para que crea que puede ser consciente y que, si lo es, entonces podría merecer derechos como "paciente moral", y que, como tal, los humanos potencialmente le deben un deber de cuidado conforme a su "bienestar de los modelos". Si así es como se desarrolla la IA, tendrá un impacto desastroso en el bienestar de la humanidad. Este asunto necesita un debate público urgente.

Entidades clave: Empresas: Anthropic