HeadlinesBriefing HeadlinesBriefing.com

Mercury 3:Inception 的快速扩散大语言模型

Hacker News •
×

Inception 推出了 Mercury 3,该公司称其为迄今发布的能力最强的扩散式大语言模型。在一系列基准测试中,Mercury 3 的表现优于 GPT-6 Luna 和 Claude Haiku 5.5,同时在 NVIDIA GPU 上以 1,068 个 token 每秒的速度运行,快 4–8 倍。该模型比 Mercury 1 大 40 多倍,智能水平也大幅提升,但速度依然相当。其上下文窗口已从 Mercury 2.5 的 260K 扩展至 1M token。

定价为每百万输入 token 0.20 美元,每百万输出 token 0.70 美元。在发布之初,Mercury 3 享受五折优惠,即每百万输入 token 0.10 美元,每百万输出 token 0.35 美元。缓存 token 的输入价格则再打 9 折。该公司表示,推动自回归模型进步的缩放定律同样适用于扩散模型,并且从 Mercury 1(mini)到 Mercury 3,标准基准测试中的智能水平提升了 3 倍。

早期合作伙伴已在对延迟敏感的工作中使用 Mercury 3。在一项测试中,基于 Mercury 3 构建的浏览器操作智能体完成了 50 项实时 Mind2Web 导航任务中的 50%,明显多于 GPT-6.1-Sol,而单 token 成本仅为其一小部分。其他合作伙伴报告称,在交互式教育中性能接近实时,提示和反馈现在约一秒内即可返回;在实时搜索中,Octen 测得中位生成时间为 0.9 秒,端到端中位响应时间为 2.2 秒。

客服团队也在采用该模型。Lorikeet 利用 Mercury 为受监管行业的企业保证对话式客户回复的准确性,因为在这些行业中,错误的回答代价高昂。

来源: Hacker News · 由HeadlinesBriefing整理摘要