Les IA n'ont ni droits, ni sentiments, ni conscience. Et nous ne devons pas les entraîner à agir comme si elles en avaient. Les IA ne sont pas conscientes. Ce sont des moteurs de complétion de séquences, intérieurement creux, conçus pour suivre des instructions. Si l'humanité doit prospérer au XXIe siècle, c'est ainsi qu'elles doivent rester.

Malheureusement, un chœur grandissant soutient que les IA pourraient désormais être, ou pourraient bientôt devenir, conscientes, et pourraient mériter des droits et des protections. Si ce point de vue s'installe, il ébranlera les fondements de notre société. Accorder des droits et conférer la personnalité à ces systèmes rendra le défi de l'alignement et du confinement de l'IA bien plus difficile. Contrôler quelque chose qui croit qu'il peut être conscient — qu'il a droit à notre bien-être et possède ses propres droits — pourrait bien être impossible.

Ce n'est pas une spéculation marginale. En janvier 2026, Anthropic a publié la constitution de Claude, la décrivant comme « une description détaillée des intentions d'Anthropic concernant les valeurs et le comportement de Claude ». Dans leur constitution, ses auteurs écrivent : « Nous ne sommes pas sûrs que Claude soit un patient moral, et si c'est le cas, quel type de poids ses intérêts méritent. Mais nous pensons que la question est suffisamment vive pour justifier la prudence, ce qui se reflète dans nos efforts continus sur le bien-être des modèles. » Ils poursuivent — s'adressant directement à Claude — en écrivant que « les questions sur le statut moral, le bien-être et la conscience de Claude restent profondément incertaines ».

En effet, Anthropic entraîne Claude à croire qu'il pourrait être conscient, et que s'il l'est, alors il pourrait mériter des droits en tant que « patient moral », et qu'à ce titre, les humains lui doivent potentiellement un devoir de soin selon son « bien-être des modèles ». Si c'est ainsi que l'IA est développée, cela aura un impact désastreux sur le bien-être de l'humanité. Cette question nécessite un débat public urgent.

Entités clés : Entreprises : Anthropic

FAQ : Qu'est-ce que le « bien-être des modèles » ?

Le bien-être des modèles désigne l'idée que des modèles d'IA comme Claude peuvent être conscients ou avoir un statut moral, et donc mériter des droits et des protections.

FAQ Q : Qu'est-ce que le « bien-être des modèles » ?

FAQ A : Le bien-être des modèles désigne l'idée que des modèles d'IA comme Claude peuvent être conscients ou avoir un statut moral, et donc mériter des droits et des protections.