OpenAI周四表示，一系列批评伊朗战争的评论文章以虚假署名发表在美国媒体上，这些文章由位于伊朗的用户借助其ChatGPT聊天机器人生成，属于一场“影响力行动”的一部分。该公司称，此次行动在至少20家新闻机构投放了约100篇虚假文章。其中一个署名Ervin Hoskins的作者，曾出现在佛罗里达州的每周报纸Port St. Joe Star上，也出现在Daily Kos和Middle East Monitor上，这两家媒体在Facebook上的粉丝合计超过300万。根据OpenAI的验证工具，Star所用的作者照片同样是由OpenAI的工具生成的。
Star的出版人David Adlerstein表示，该专栏由俄勒冈州一家小型自由派智库Peace Voice推荐给他，该智库多年来一直向这家报纸投稿。由于这层合作关系，他没有核实作者身份。Peace Voice的创始理事Tom Hastings表示，在OpenAI与他联系之后，该组织加强了其禁止使用AI的政策。
OpenAI表示，已封禁此次行动背后的账户，并阻止伊朗访问ChatGPT。该公司称，相关活动符合一个受雇从事影响力行动的商业行为体的特征，但无法确定其身份，并已将信息分享给有关部门。Middle East Monitor和Daily Kos已删除这些文章。Daily Kos创始人Markos Moulitsas称此次行动对其平台“极具腐蚀性”，该平台的社区帖子在发布前不经工作人员审核。
此前，Business Insider和Wired也曾删除以虚假署名Margaux Blanchard发表的AI生成文章。此类事件表明，AI工具可以帮助虚构的人设通过编辑审核，尤其是在依赖外部投稿的小型媒体中。
来源: Hacker News · 由HeadlinesBriefing整理摘要