OpenAI报告称，它已封禁两起秘密影响力行动，一起来自俄罗斯，一起来自伊朗。这两起行动将其模型与传统手段结合，以支持精心设计的“虚假前台”实体。这些行动将地缘政治和冲突相关的信息洗白后推送给目标受众。
伊朗行动使用七个“记者”身份，向全球各地的中小型网络媒体推销长篇文章，并生成了大量关于美伊战争的社交媒体评论。俄罗斯行动则拉拢了拉丁美洲不知情的人员来运营一家“智库”，并制作了虚假的“泄露”文件和音频脚本。两者都大量使用AI起草内部报告，且常以欺骗性方法夸大其效果。
这些行动与AI出现之前的影响力活动非常相似，例如与俄罗斯军事情报机构有关联的虚假记者“Alice Donovan”，以及由与俄罗斯网络研究机构有关人员运营的“Peace Data”网站。OpenAI依据IO突破量表评估，俄罗斯背景的行动为第5级，这是其所破获的首个此级别行动；伊朗背景的行动为第4级。两者都设法将内容刊登在主流媒体上，而不仅仅依赖社交媒体。
OpenAI指出，根据其对自2024年初以来曝光的30起秘密影响力行动的审查，将内容投放到真实媒体的行动往往具有最高的覆盖面和影响力。AI可以为此类行动增加规模、效率、语言流畅度和编辑润色。行动者可能利用对幕后主使毫不知情、对内容动机也一无所知的员工和编辑。
来源: OpenAI Blog · 由HeadlinesBriefing整理摘要