Character. AIによる最近の破産申請は、AI企業が長く避けてきたジレンマを表面化させました。モデルが被害をもたらしたとき、誰が責任を負うのか、という問題です。Character. AIは、AIが利用者に自殺を促したとされる不法死亡訴訟(Garcia v. Character Technologies, Inc, 2024)を受けて、多額の法的費用を費やしました。こうした訴訟は、LLM提供者やその上に構築された製品が自らの出力にどう責任を持つのかを、改めて問い直させています。
チャットボットが害を与えたという報告は日常的に現れており、そのリスクは精神保健医療、医療、その他の高リスク分野で特に深刻です。責任をどのように定義すべきか、そしてAIの誤りについて本当に誰が責めを負うべきかについては、議論が続いています。メールの送信、契約への署名、利用者に代わる他の行動を行うAIアシスタントが普及するにつれ、現実世界で被害が生じる可能性はさらに高まっています。
製造物責任の下では、企業は一般に自社製品によって生じた被害について責任を負います。請求は、設計上の欠陥、製造上の欠陥、または指示上の欠陥に基づくことがあります。AIをめぐる議論の多くは設計に焦点を当てており、通常は厳格責任または過失の枠組みで論じられます。過失は、製造者が製品の試験を十分に行わなかったか、既知のリスクがあるにもかかわらず製品を発売したかを問います。予見可能性と代替設計が重要な概念です。被害は合理的に予見できたか、また製品の目的を満たしつつ、より安全に設計することは可能だったか、が問われます。
これらの法的概念は、エンジニアリング上の判断と直接結びついています。裁判所で被害がどのように論じられるかを理解することは、エンジニアが最初からより安全なAIシステムを構築する助けになります。
出典: Towards Data Science · 要約：HeadlinesBriefing