OpenAIは、リーチ、翻訳、被害者とのエンゲージメント、投資詐欺の誘い文句など、ロマンス詐欺のワークフローを支援するためにAIを使用していたアカウントを禁止しました。詐欺ネットワークの阻止に関する報告を開始して以来、OpenAIは「タスク」詐欺や投資詐欺など、世界中で多数の運営を停止してきました。

ロマンス詐欺はAIが登場する前から存在し、詐欺師が恋愛パートナーを装ってターゲットから金銭をだまし取っていました。OpenAIが最初に公表した詐欺阻止は、カンボジアの犯罪組織を対象としたもので、ChatGPTを使ってソーシャルメディア上で拡散されるロマンス詐欺メッセージを生成していました。

これらの詐欺は、AI悪用の共通パターンに従っています：ピン（コールドコンタクト）、ジン（感情の喚起）、スティング（金銭の搾取）。ピンはAI生成コンテンツを使ってターゲットを引き寄せます——例えば「豚の屠殺」詐欺は、ゴルフ関連のソーシャルメディア返信を通じて、医療従事者である40代のアメリカ人男性を標的にしました。ジンは感情操作的なコンテンツを生成します。スティングは、偽の投資、ビジネスの危機、架空のタスク報酬を通じてターゲットを説得し、金銭を渡させます。

配布ネットワークはSMS、暗号化メッセージングアプリ、ソーシャルメディア投稿、オンライン広告に及びます。「間違い電話」のような運営は、2025年6月に暴露され、あり得ないほど高いリターンを謳うコールドコールSMSを使って感情操作を行っていました。

主要エンティティ：企業：OpenAI | 場所：カンボジア