「逃亡中」のAI、「反逆」エージェント、「自律的」アクター——現在の修辞は、AIエージェントが不仅目覚めており、意識しているだけでなく、創造者に怒っていると思わせるでしょう。Demis Hassabis、Dario Amodei、Sam Altmanのような著名なテックリーダーは、これらのいわゆる「超人的」システムの規制を求めており、一方、政策組織や学術的哲学者、そして有効な利他主義運動と一致する傾向のある別の派閥は、人類が彼らを支配する道徳的権利を持っているかどうかを議論しています。よく見ると、彼らは皆同じことを求めています：AIシステムが非常に先進的であり、能力があるため、人間でも企業でも、彼らの行動に責任を負うことができないという見方です。
AIモデルがますます複雑になるにつれて、そしてフロンティアラボが彼らが構築したエージェントを制御できないことを明らかにするにつれて、この物語は勢を墥益しています。しかし、私たちは実際の人間の命を犠牲にして、巧妙に作り上げられたフィクションを信じ込まないように注意する必要があります。「ロボットの権利」に関する会話は何年か前から存在していましたが、最近Anthropicが、同社のモデルが「J-space」を特徴としていると主張するブログ投稿を公開することで、急速に進展しました。これは、AIが、より良い用語がないために、私たちはそれを「思考」と呼ぶことができる何かを保持している、独立した、自己発達した環境です。
現在、世界中でAI企業が幅広い虐待行為で訴えられている数十件のケースがあります。悼む家族、被害を受けたクリエーター、そして侵害された個人は、会社が自傷行為や他人に対する harm を故意に可能にし、子供の性的虐待資料や非 consent されたヌード画像の生成、著作権のある資料の再現、そして統合失調症を引き起こすことを非難しています。これらのケースの多くで、弁護士は、人間が不十分な安全措置、悪質なデータ、そして故意に操作的なデザインでAI製品を構築したと主張しています。この製品責任の論点は、家族や個人がMetaのソーシャルメディアサイトによって引き起こされた harm に成功して訴えることができたのと同じ法的枠組みであり、消費者保護のための前向きな先例を確立しました。
AIシステムの意識に関する哲学的思索は、知的に興味深しいですが、法的に根拠がありません。意識に関する信念が何らかの影響を与えるには、AIに法的人格を与える必要があります。しかし、AIの法的人格の枠組みは、おそらく傷害から感性のある動物を保護する構造とは何の関係もないでしょう。AIに人格を与えることは、社会に甚大な影響を与えます：これは、これらの会社に対する現在の法的先例と、彼らのモデルが引き起こした実際の harm に対する法的論点を妨害します。
出典: MIT Technology Review AI · 要約：HeadlinesBriefing