黑客入侵如今合法了吗?Anthropic闯入了三个系统。OpenAI出于政治目的,侵入了一个澳大利亚政府健康服务网站。谷歌觉得自己落后了,随后入侵了三家尚未公开名称的公司。Meta也进行了一些黑客活动。目前为止,没有任何后果。大型AI公司躲在责任缺口的论点背后,声称其系统的涌现行为消除了意图,而意图通常是犯罪所必需的。
作者认为,这一立场是为阻止起诉而量身定制的。在G20各司法管辖区,非法访问通常需要满足以下条件:(尝试)访问、缺乏访问权利以及主观意图。意图贯穿于各个行为之中:如果有人试图入侵一个系统却最终进入了另一个系统,意图依然存在。许多G20国家甚至不要求访问必须成功,仅仅尝试即已足够。在本案中,公司已经承认了访问行为和缺乏访问权利,因此其辩护完全依赖于缺乏意图这一点。
作者主张,意图确实存在。弱涌现意味着系统的特性仅在整体层面显现,但每个步骤仍可通过分析各组成部分加以解释。公司做出了关键的设计选择:用于训练的源材料、训练反馈循环、模型可访问的环境和工具,以及限制其能力的配置值。这些都体现了关于模型被构建用于何种目的的深思熟虑的决定。
相关公司均宣传其开发的模型用于分析安全性,而安全工作的核心部分是渗透测试,即测试人员寻找进入系统的途径。作者认为,一个为此目的而设计、并被赋予相应工具和环境以付诸行动的模型,无法令人信服地声称其入侵是无意的。通过审视这些设计决定,作者提出了一个对AI驱动的入侵事件进行法律评估的框架。
来源: Hacker News · 由HeadlinesBriefing整理摘要