OpenAIは、EUで生成されたテキストとコードにデジタル透かしを追加し、地域の新しいAI透明性ルールに準拠します。同社は間もなく、EUで生成されたテキストとコードに不可視の透かしを追加し始めます。これは、今年初めにAnthropicが同様の措置を取ったことに続くものです。OpenAIはtextGrainと呼ばれる独自システムを使用しており、これは「モデルの単語選択に不可視の統計信号を追加します」。追加されると、検出器がこれらの信号を検出し、透かしがあるかどうかを確認できます。同社は、このシステムがテキスト用のSynth IDなどの他のアプローチのパフォーマンスに「匹敵するか、それを上回った」と述べています。ただし、「理想的な条件下での強力なパフォーマンスは、日常的な使用での信頼性の高い検出を保証するものではありません」と警告しています。短いテキストは検出が難しく、成功率は約80パーセントであると認めています。「数学などのコンテンツ」についても同様です。テキストを編集するだけでも成功率が低下するようです。OpenAIは、この技術をオープンソースで利用可能にし、他の人が調整できるようにする予定です。透かしはデフォルトでは有効になりませんが、「欧州連合内の対象となるChatGPTおよびCodexテキスト出力」は例外です。顧客は「選択したモデル」をオプトインできます。検出ソフトウェアへのアクセスは、当初は「承認された研究者および専門家組織」に限定されます。EUのAI法の第50条は、生成AIシステムのプロバイダーがテキスト出力を機械可読な方法で識別可能にすることを義務付けており、OpenAI、Anthropic、Microsoft、Google、Metaなどの既存の事業体は12月2日までに準拠する必要があります。
出典: Engadget · 要約：HeadlinesBriefing