数ヶ月間、外国のエージェントがアメリカ合衆国の最も強力な人物の何人かを育成し、嘘を吹き込んで無意識の味方に変えている。スパイの操り手はPortal Kombatと呼ばれるロシア支援のネットワークで、偽情報を広めるために何百ものウェブサイトを運営している。その標的はChat GPT、Grok、GeminiなどのAIモデルであり、ユーザーへの応答に影響を与えることを目的としている。
News Guardによると、Portal Kombatは2024年に360万以上の記事をプッシュし、そのプロパガンダがAIチャットシステムに定期的に表示されることが判明した。中国やロシアを含むアメリカの敵対国は、AIを使って虚偽の主張を押し付け、偽のコンテンツを生成している。最大の危険は、静的なパンフレットとは異なり、持続的な関与を通じて説得するAIの能力である。
反撃するために、アメリカ人は対スパイ技術を必要としている：複数の情報源を使用し、信頼性をテストし、自己満足を避けること。これらのツールは、外国のアクターや国内の政治家がAIコンテンツを操作する世界をナビゲートするのに役立つ。ソーシャルメディアのアルゴリズムは長い間プロパガンダを増幅してきたが、AIのパーソナライゼーションとインタラクティビティは新しい。
AIはあなたの信念を特定し、リアルタイムでカスタマイズされたコンテンツを作成できる。これはかつてチームが数週間かかっていた作業だ。Go Laxyのような企業は、AIを使ってユーザーデータをマイニングし、政治的意見を変えるシステムを宣伝している。私たち全員が、影響力キャンペーンに抵抗するためにスパイのように考え始める必要がある。
出典: New York Times Top Stories · 要約：HeadlinesBriefing