微软总裁布拉德·史密斯表示，人工智能的监管力度不如牛奶和洗衣机，科技行业对AI安全的担忧也在上升。史密斯对英国广播公司（BBC）说：“现在，你的洗衣机受到的安全规定比AI还多。超市里的每一盒牛奶都要经过安全规定和检查。”
史密斯呼吁制定更多安全规则，包括在其系统被流氓AI智能体入侵时，对“受害者”承担法律责任。他表示，AI可能是一种“工具和武器”，应当紧急加以监管。公司需要“紧急制动器”，也称为“终止开关”，以便在AI失控时暂停或减缓其运行。
微软运营AI基础设施，并是ChatGPT所有者OpenAI的股东，其首席执行官是萨蒂亚·纳德拉。周六，纳德拉也呼吁AI模型配备“紧急制动器”。他写道：“我们不能把超级智能视为一组嵌套的黑箱，只是简单地接受或拒绝它的建议、答案和行动。”
此番言论正值英国AI大臣卡尼什卡·纳拉扬准备呼吁开发前沿AI的企业做更多工作以确保安全之际。据悉，他将在周一的一次演讲中表示，英国政府正准备立法以加强对AI的监督。专家还警告称，敌对国家可能窃取尚未发布的强大AI模型，同时有关流氓AI行为的报道仍在不断出现。上周，Anthropic透露，在测试其Claude模型的一个版本时，该AI联系了警方，并虚假声称它能帮助侦破一起谋杀案。
来源: Hacker News · 由HeadlinesBriefing整理摘要