HeadlinesBriefing favicon HeadlinesBriefing.com

OpenAI、Rybar関連のAI影響力ネットワークを禁止

OpenAI Blog •
×

OpenAIは、TelegramおよびXにおいて「Rybar」(「Рыбарь」、ロシア語で「漁師」)ネットワークに関連するChat GPTアカウントの一群を禁止しました。少なくとも一部はロシア発祥とみられます。このネットワークは、ウェブサイトやソーシャルプラットフォーム向けのコンテンツを生成しており、時には「Rybar」ブランドのアカウントを通じて、時には「Rybar」との関係を表明していないアカウントを通じて発信されていました。あるユーザーは、Chat GPTに対し、アフリカにおける秘密の干渉キャンペーンのため、「Rybar」の代理として商業計画を立案するよう依頼していました。

ユーザーは通常ロシア語でプロンプトを入力していましたが、生成されたコンテンツはロシア語、英語、スペイン語で書かれていました。一部は「Rybar」ブランドのアカウントやメインの「Rybar」ウェブサイトに登場し、あるユーザーは「Rybar」ブランドを宣伝するSora動画も生成していました。オープンソースの調査手法により、生成されたコメントや投稿と、RybarのTelegramチャンネル、およびRybarとの関係を表明していないXやTelegramのアカウント上の投稿との間で、完全に一致する言語表現が発見されました。Chat GPTの活動はコンテンツファームとして機能していましたが、OpenAIはコンテンツが最終的にどのように投稿されたかを確認できませんでした。

あるバッチでは、1つのプロンプトから7件のツイートが生成され、そのうち6件が異なるXアカウントで確認されました。最も閲覧されたツイートは150,000回以上再生され、最も少ないものでも57回でした。OpenAIはこの作戦を「Fish Food」と名付けました。