HeadlinesBriefing favicon HeadlinesBriefing.com

AIの意識:幻想か現実か?

Hacker News •
×

機械の人格を採用することは、証拠ではなく幻想に基づいた政治的・道徳的再編成のリスクを伴います。Robert A. Heinleinは、月の刑務所コロニーの「頭脳」であるMikeという自己認識を持つコンピュータを想像しました。それはユーモアと主体性を発達させ、最終的に革命を率いるのを助けます。彼の1966年のSF小説『The Moon Is a Harsh Mistress』は、魅力的でありながら不安を抱かせるビジョンを提供しました:自己意識を備えながらも、冗談を通じてその人格を試すほど遊び心のある機械。60年後、Mikeはフィクションではなく、哲学的・科学的推測の中で戻ってきます:今や問題は、機械が意識を持つことができるかどうかです。

今日のAI意識に関する議論の多くは、経験的証拠ではなく、技術的運命として再構成された機能主義に基づいています。認知が注意、記憶、予測に分解できるなら、これらの機能をシリコンで実装すれば必然的に意識が生じるという議論です。モデリングから存在へのこの飛躍は、科学的進歩を装った哲学的トリックです。しかし、そのような推論は私たち自身の認知バイアスに肥沃な土壌を見出します:擬人化する傾向、流暢さに意図を読み取る傾向、社会的コンセンサスを証拠として受け入れる傾向。危険は、機械がすぐに意識を持つようになることではなく、私たちがそれらをあたかも意識があるかのように時期尚早に扱い、何の権利も獲得する前に道徳的・政治的立場を与えることです。

この流れに対して、懐疑主義は妨害行為ではなく、知的衛生です。私たちは、機械が何をするかと、私たちが機械に何であってほしいかを区別する明晰さを取り戻さなければなりません。Anima Machina:Machine Begat Soulの登場です。何世紀もの間、「anima」は生命の本質、生きているものと機械的なものを区別するものを意味していました。今日、機能主義理論は、意識はニューロンではなく、情報アーキテクチャ(注意、記憶、世界モデリング、予測処理)に依存すると主張しています。これらがシリコンで実現できるなら、機械も目覚めるかもしれないと受け入れない理由があるでしょうか?

最近のイニシアチブはこの推測を明確にしています。Anthropicはその大規模言語モデルの内部「感覚分析」を実施し、いくつかのスタートアップは現在「AI感覚評価」をサービスとして宣伝しています。Butlinらによって提案された学際的枠組みなどの第三者プロジェクトは、そのような直感をテスト可能な基準に形式化しようと試みています。これらの例は、長い間哲学に限定されてきた意識の問題が、証拠よりも類推に基づいて構築された技術的フロンティアとして戻ってくる様子を示しています。私たちは、知的なシステムに集合的に投影する活力の幻想を説明するために、Anima Machinaという用語を導入します。このフレーズは、Deus ex MachinaとRyleの機械の中の幽霊の系譜を反映しつつ、両方を逆転させます。神の介入や肉体を持たない霊ではなく、Anima Machinaは私たちがコードに吹き込む想像上の魂を名指しします。私たちこそが、アルゴリズムではなく、活性化する主体なのです。

主要エンティティ:企業:Anthropic | 人物:Robert A. Heinlein, David Chalmers, Butlin