OpenAIは木曜日、米国の媒体に偽の署名で掲載された、イラン戦争を批判する一連の意見記事が、イラン国内のユーザーがChatGPTを使って生成した「影響力工作」の一部であったと発表しました。同社によると、この工作では少なくとも20の報道機関に約100本の偽記事が掲載されたといいます。Ervin Hoskinsという署名は、フロリダの週刊紙Port St. Joe Starに掲載されたほか、Daily KosとMiddle East Monitorにも登場しており、これら3つのサイトのFacebookフォロワーは合計で300万人を超えています。OpenAIの検証ツールによると、Starが使用した筆者の写真もOpenAIのツールで生成されたものでした。
Starの発行人David Adlersteinは、このコラムはオレゴン州の小規模なリベラル系シンクタンクPeace Voiceから持ち込まれたもので、同団体は何年もの間この新聞に寄稿していたと述べています。その関係があったため、筆者の身元は確認しなかったとのことです。Peace Voiceの創設ディレクターTom Hastingsは、OpenAIから連絡を受けた後、同団体はAI利用禁止の方針を強化したと語りました。
OpenAIは、この工作の背後にあったアカウントを停止し、イランからのChatGPTへのアクセスを遮断したと述べています。同社は、この活動は有償で影響力工作を行う商業的な主体の行動と一致するものの、関与した主体は特定できず、関係当局と情報を共有したと説明しました。Middle East MonitorとDaily Kosは該当記事を削除しました。Daily Kosの創設者Markos Moulitsasは、この工作は自らのプラットフォームにとって「極めて有害」であり、コミュニティへの投稿は公開前にスタッフによる審査を受けていないと述べています。
この件は、Business InsiderやWiredが、Margaux Blanchardという偽の署名で掲載されたAI生成記事を削除した過去の事例に続くものです。こうした事例は、特に外部からの投稿に頼る小規模な媒体において、AIツールが架空の人物を編集チェックをすり抜けさせる手段となりうることを示しています。
出典: Hacker News · 要約：HeadlinesBriefing