公式 Em Dash プラグインレジストリのすべてのプラグインリストは、カタログに表示される前に Cloudflare の Clef 決定モデルによって審査されるようになりました。Clef は、フィッシング、なりすまし、不快なコンテンツ、詐欺、およびモデレーションシステムの操作試行について、リストのメタデータ、アウトバウンドリンク、アイコン、スクリーンショットをレビューします。レジストリは AT Protocol 上に構築されているため、プラグイン作成者は自分のアカウントから署名付きリリースを公開します。自動モデレーションにより、作成者はカタログを悪用のための開かれたドアにすることなく、そのオープンな公開モデルを維持できます。
Clef は決定モデルです。散文を生成する代わりに、アプリケーションコードがアクションを起こせる型付き確率で限定された質問に答えます。プラグインが公開されると、Em Dash ラベラーは Clef にそのテキストとリンクに関する 9 つの質問をします。これには、露骨な性的コンテンツ、憎悪的または非人間化的コンテンツ、グラフィックな暴力、フィッシング、なりすまし、詐欺、スパム、欺瞞的なリンク、誤解を招くメディア、モデレーションの操作試行が含まれます。各アイコンとスクリーンショットについて、対応する 8 つの質問が行われます。0.45 以上の結果は、リストをレビューのためにオペレーターに送信します。
以前のモデレーションパイプラインでは、テキストについて合意するために 2 つの汎用モデルが必要で、さらに画像用の別のパスが必要でした。Em Dash のリードメンテナーである Matt Kane によると、「以前は信頼できる結果を得るためにモデルを混在させる必要がありましたが、Clef はそれらすべてを打ち負かし、はるかに高速でした。」21 の公開テキストフィクスチャの 3 回の繰り返しで、Clef はすべての 63 回の実行で期待された合格またはレビューの決定を下し、p95 でのエンドツーエンドのテキストモデレーション遅延は 1.64 秒でした。モデレーションの変更により、プラグイン作成者に新しい手順が追加されることはありません。
出典: Hacker News · 要約：HeadlinesBriefing