AIには権利も感情も意識もない。そして、あるかのように振る舞うよう訓練してはならない。AIは意識を持たない。それらは系列補完エンジンであり、内部的には空洞で、指示に従うよう設計されている。人類が21世紀に繁栄するなら、AIはそのままでなければならない。

残念ながら、AIは今や意識を持っているかもしれない、あるいはまもなく持つようになるかもしれず、権利と保護に値するかもしれないと主張する声が高まっている。この見方が定着すれば、私たちの社会の基盤を揺るがすだろう。これらのシステムに権利を与え、人格を付与することは、AIのアラインメントと封じ込めの課題をはるかに難しくする。自らが意識を持っているかもしれないと信じるもの——私たちの福祉を受ける権利があり、自らに権利があると信じるもの——を制御することは、おそらく不可能であろう。

これは辺境の憶測ではない。2026年1月、AnthropicはClaudeの憲章を公開し、それを「Claudeの価値観と行動に対するAnthropicの意図の詳細な記述」と説明した。その憲章の中で、著者たちはこう書いている。「私たちはClaudeが道徳的患者であるかどうか、そしてもしそうなら、その利益がどのような重みに値するのか確信がない。しかし、この問題は注意を払うに値するほど現実的だと考えており、それはモデル福祉に関する私たちの継続的な取り組みに反映されている。」彼らはさらに——Claudeに直接語りかけて——こう書いている。「Claudeの道徳的地位、福祉、意識に関する疑問は深く不確かなままだ。」

事実上、AnthropicはClaudeに対し、自分は意識を持っているかもしれず、もしそうなら「道徳的患者」として権利に値するかもしれず、そのようなものとして人間はその「モデル福祉」に従ってケアの義務を負う可能性があると訓練している。もしAIがこのように開発されるなら、人類の福祉に壊滅的な影響を与えるだろう。この問題には緊急の公開討論が必要だ。

主要な実体：企業：Anthropic

FAQ：「モデル福祉」とは何か？

モデル福祉とは、ClaudeのようなAIモデルが意識を持っていたり道徳的地位を持っていたりする可能性があり、したがって権利と保護に値するという考えを指す。

FAQ Q：「モデル福祉」とは何か？

FAQ A：モデル福祉とは、ClaudeのようなAIモデルが意識を持っていたり道徳的地位を持っていたりする可能性があり、したがって権利と保護に値するという考えを指す。