HeadlinesBriefing HeadlinesBriefing.com

EmDash 用 Clef 审核插件注册表

Hacker News •
×

官方 Em Dash 插件注册表中的每个插件列表现在在出现在目录之前都会经过 Cloudflare 的 Clef 决策模型筛选。Clef 会审核列表元数据、出站链接、图标和截图,检查是否存在钓鱼、冒充、冒犯性内容、诈骗以及操纵审核系统的企图。该注册表基于 AT Protocol 构建,因此插件作者可以从自己的账户发布签名版本。自动审核让作者能够保持这种开放发布模式,同时避免目录成为滥用的敞开大门。

Clef 是一个决策模型:它不生成散文,而是回答带有类型概率的有限问题,应用程序代码可以据此采取行动。当插件发布时,Em Dash 标签器会向 Clef 提出九个关于其文本和链接的问题,涵盖露骨性内容、仇恨或非人化内容、图形暴力、钓鱼、冒充、诈骗、垃圾邮件、欺骗性链接、误导性媒体以及操纵审核的企图。每个图标和截图会提出八个相应的问题。结果为 0.45 或更高时,列表会发送给操作员进行审核。

之前的审核流程需要两个通用模型在文本上达成一致,再加上另一轮图像审核。据 Em Dash 首席维护者 Matt Kane 称,“以前我们必须混合使用多个模型才能获得可靠结果,但 Clef 击败了所有模型,同时速度更快。”在 21 个公共文本测试用例的三次重复中,Clef 在所有 63 次运行中都做出了预期的通过或审核决定,端到端文本审核延迟在 p95 时为 1.64 秒。审核变更不会为插件作者增加新步骤。

来源: Hacker News · 由HeadlinesBriefing整理摘要