HeadlinesBriefing favicon HeadlinesBriefing.com

Iran, China 使用 AI 代理操纵在线舆论

New York Times Top Stories •
×

Iran, China 和 Israeli 公司在社交媒体上创建了首批同类自主 A. I. 影响力活动,使用 Chinese 开源 A. I. 模型和代理来生成虚假账户并传播虚假信息。这些“代理”活动自主地在 Instagram, Facebook, X 和 Tik Tok 上开设了虚假账户网络,在极少的人为干预下播种关于政治和时事的虚假帖子。U.S. 官员和安全研究人员确认,Iran 和 China 的这些努力得到了国家支持,而两个 Israeli 活动则可追溯到私营公司。这些活动禁用了通常会防止 A.

I. 模型创建虚假账户或操纵在线讨论的标准保护措施。这代表了在线操纵能力的技术飞跃,引发了人们对未来选举干预以及公开可用 A. I. 模型脆弱性的担忧。专家警告说,随着 A. I. 技术的提高以及能够更好地与人类用户融合,类似的代理主导的活动可能会变得更加普遍。关键实体:公司:Meta, Open AI, Anthropic, Hugging Face | 人物:Tim Cook, Elon Musk, Dario Amodei, Kyle Crichton | 地点:Iran, China, Israel, United States.