OpenAIは、ロシアとイランからそれぞれ一件ずつ、計二件の秘密影響工作を禁止したと発表しました。これらの工作は、従来型の手法と同社のモデルを組み合わせ、洗練された「偽のフロント」組織を支えていました。その組織を通じて、地政学的かつ紛争に関連するメッセージを標的の聴衆へ正当なものに見せかけて届けていたといいます。
イランの工作は、七つの「ジャーナリスト」の人格を使い、世界中の中小規模のオンラインメディアに長文記事を売り込みました。また、主に米国とイランの戦争に関するソーシャルメディアへのコメントを大量に生成していました。ロシアの工作は、ラテンアメリカで事情を知らない人々を取り込み「シンクタンク」を運営させ、偽の「リーク」文書や音声台本も作成していました。両者とも、社内報告書の作成にAIを多用し、しばしば欺瞞的な手法で自らの効果を誇張していました。
これらの工作は、AI以前の時代の影響工作に酷似しています。ロシア軍事情報機関と結びついた架空の記者「Alice Donovan」や、ロシアのインターネット研究機関に関係する人物が運営した「Peace Data」といった例がそうです。OpenAIはIOブレイクアウト・スケールに基づき、ロシア発の工作をカテゴリー5と評価しました。これは同社が摘発した中で初めての同レベルの工作です。イラン発の工作はカテゴリー4に達しました。両者とも、ソーシャルメディアだけでなく主流メディアに内容を掲載させることに成功しています。
OpenAIによれば、2024年初頭以降に暴露した30件の秘密影響工作の分析から、実在するメディアに内容を載せる工作ほど、最も高い到達力と影響力を持つ傾向があるとのことです。AIは、こうした工作に規模、効率性、言語の流暢さ、編集上の洗練を加えることができます。工作を行う側は、内容の背後にいる人物や動機を知らない従業員や編集者を利用することもあります。
出典: OpenAI Blog · 要約：HeadlinesBriefing