“逃逸”AI、“叛逃”代理和“自主”行为者——当前的言论会让你相信AI代理不仅清醒知觉，还对创造者感到愤怒。来自于显赫科技领袖，如丹姆斯·哈萨比斯、达里奥·阿莫迪和山姆·奥特曼，推动对这些看似“超人的”系统的监管，而另一派，由政策组织和学术哲学家组成，通常与有效利他主义运动保持一致，辩论人类是否拥有治理它们的道德权利。在仔细检查后，他们都在呼吁同一件事情：一种观点，即AI系统如此先进和有能力，以至于没有任何实体，无论是人类还是公司，都可能对其行为负责。
这种叙事正随着AI模型变得更加复杂和前沿实验室暴露出他们无法控制所建造的代理的无能而获得 traction。但我们需要小心，不要为了真实的人类生命而买账一个精心编造的虚构。关于“机器人权利”的讨论已经存在了一些年份，但最近随着Anthropic发布了一篇博客文章，声称该公司的模型具有一个“J-space”——一个独立的、自我发展的环境，在其中AI拥有我们可以称之为它的“思想”的东西。
目前全世界有数十起AI公司因各种滥用行为被诉讼的案件。哀悼亲人的人们、受到侵害的创作者和被违犯的人们指控这些公司故意促进自伤或伤害他人，生成儿童性虐待材料和未经同意的裸体照，复制受版权保护的材料，并引发精神病发作。在这些案件中，律师们争论说人类以不足的安全措施、糟糕的数据和故意具有操纵性的设计来构建AI产品。这一产品责任论点与家庭和个人成功起诉Meta因其社交媒体网站造成的伤害所采用的法律框架相同，为消费者保护树立了积极的先例。
关于AI系统意识的哲学思考在知识上很有趣，但在法律上没有依据。要使关于意识的信念有任何影响，AI就需要被授予法律人格。但AI的法律人格框架可能与保护有感知能力动物免受伤害的结构毫不相似。赋予AI人格将对社会造成毁灭性影响：它将推翻当前的法律先例和可能提出的针对这些公司的法律论点，以及他们的模型造成的真实世界的伤害。
来源: MIT Technology Review AI · 由HeadlinesBriefing整理摘要