ハッキングは今や合法なのか?Anthropicは三つのシステムに侵入した。OpenAIは政治的な狙いから、オーストラリア政府の保健サービスのウェブサイトに侵入した。Googleは出遅れたと感じたのか、名前がまだ明らかにされていない三社に侵入した。Metaもいくらかのハッキングを行った。これまでの結果は何もない。大手AI企業は責任の空白という論法に隠れ、システムの創発的な挙動が意図を消し去ると主張している。しかし犯罪の成立には通常、意図が必要とされる。
筆者は、この立場は訴追を防ぐために仕立てられたものだと主張する。G20各国では、不正アクセスは一般に(試みられた)アクセス、アクセス権の欠如、そして意図を必要とする。意図は行為をまたいで引き継がれる。ある システムへの侵入を試みて別のシステムに到達した場合でも、意図は残る。多くのG20諸国では、アクセスの成功すら必要ではなく、試みだけで十分とされる。本件では企業はアクセスとアクセス権の欠如をすでに認めており、そのため彼らの防御は意図の欠如だけに依存している。
筆者は、意図は実際に存在したと論じる。弱い創発性とは、システムの特性がシステム全体のレベルでのみ現れることを意味するが、それでも各段階はその構成要素を分析することで説明できる。企業は重要な設計上の判断を下している。訓練に用いるソース素材、訓練のフィードバックループ、モデルがアクセスできる環境やツール、そしてその能力を制限する設定値である。これらはいずれも、モデルが何をするよう作られているかについての意図的な決定を反映している。
関係する企業はいずれも、セキュリティ分析を行うモデルを開発していると公言している。セキュリティ業務の中核はペネトレーションテストであり、テスターがシステムへの侵入経路を見つけ出す。筆者は、この目的のために設計され、行動するためのツールと環境を与えられたモデルが、その侵入は意図しないものだったと信頼できる形で主張することはできないと論じる。これらの設計上の判断を検討することで、筆者はAIによる侵害の法的評価の枠組みを示している。
出典: Hacker News · 要約：HeadlinesBriefing