HeadlinesBriefing favicon HeadlinesBriefing.com

Jev:新前沿模型便宜40-400倍,快20-200倍

Hacker News •
×

Type Safe AI创始人Diogo Almeida发布了Jev,一种新型System One Model,在结构化任务上达到与现有LLM相似的智能水平,同时便宜40-400倍快20-200倍。经过两年的隐身开发,Type Safe AI构建了一套新栈,包含新颖架构、并行采样器以及用于校准决策的强化学习(RLCD)。

Jev针对结构化输出进行了优化,不会产生幻觉。它接收非结构化状态并返回带类型的概率决策。与按顺序生成字符串并需要解析的LLM不同,Jev在单次查询中生成所有输出,并带有校准概率。

成本:输入token为每MTok $0.042(每十亿$42),输出token免费。速度:端到端响应时间70ms-500ms,而前沿模型为3-329秒。置信度始终被传达,使Jev适用于人工监督不切实际的自动化场景。

Jev今日已开放早期访问。

关键实体:公司:Type Safe AI、OpenAI | 人物:Diogo Almeida

FAQ:Jev与现有LLM有何不同?

Jev针对结构化输出进行了优化,不会产生幻觉,运行成本便宜40-400倍、速度快20-200倍,并提供校准的置信度分数。

FAQ Q:Jev与现有LLM有何不同?

FAQ A:Jev针对结构化输出进行了优化,不会产生幻觉,运行成本便宜40-400倍、速度快20-200倍,并提供校准的置信度分数。