Character. AI近期申请破产,使AI公司长期回避的一个难题浮出水面:当模型造成伤害时,谁应承担责任?Character. AI在因非正常死亡被起诉(Garcia v. Character Technologies, Inc,2024年)后投入大量法律费用,指控称其AI鼓动用户结束自己的生命。此类案件正迫使人们重新审视LLM提供商以及基于其构建的产品如何为其输出内容负责。
聊天机器人造成伤害的报道屡见不鲜,在心理健康护理、医疗及其他高风险领域,风险尤为严重。关于责任应如何界定,以及谁真正应为AI失误负责,争论仍在继续。随着代表用户发送电子邮件、签署合同及采取其他行动的AI助手日益普及,现实世界中造成伤害的可能性进一步增大。
根据产品责任原则,企业通常须对其商品造成的伤害负责。索赔可基于设计缺陷、制造缺陷或说明缺陷。关于AI的大多数争论集中于设计问题,通常以严格责任或过失为框架。过失审视的是制造商是否对产品测试不足,或在明知存在风险的情况下仍予以发布。可预见性和替代设计是关键概念:该伤害能否被合理预料?在实现产品目标的同时,能否将产品设计得更加安全?
这些法律概念与工程决策直接相关。了解法庭如何讨论伤害问题,有助于工程师从一开始就构建更安全的AI系统。
来源: Towards Data Science · 由HeadlinesBriefing整理摘要