HeadlinesBriefing favicon HeadlinesBriefing.com

Type Safe的Jev:新型AI决策模型?

Towards Data Science •
×

Type Safe.AI推出了其首个模型Jev,这是一个不同于LLM的系统一模型。LLM预测下一个token并生成文本,而系统一模型评估一个状态并产生结构化答案。Jev使用RLCD(校准决策的强化学习)而非RLHF,训练模型返回决策和概率。

输入是一个状态——上下文加问题。它可以是一条简单消息,如“我有可能更改我的PIN码吗?”,一个包含字段的JSON对象,或一个消息数组。最佳实践是使用具有清晰字段名的对象。

问题通过原语来回答:Choice用于预定义选项(例如,配送、账单、账户访问),Score用于有序值(例如,负面、中性、正面),Noul用于是/否。模型返回所有值的概率,提供置信水平。

置信度对决策至关重要。对于自动回复,如果模型以高置信度对请求进行分类,它可以自动回复;如果不确定,它可以升级。这使得Jev适用于分类和LLM-as-a-judge任务。

关键实体:公司:Type Safe.AI、OpenAI

FAQ:系统一模型与LLM有何不同?

系统一模型评估一个状态并产生带概率的结构化答案,而LLM预测下一个token并生成自由形式的文本。它们使用不同的后训练方法:RLCD用于校准决策,而RLHF用于人类偏好对齐。

FAQ Q:系统一模型与LLM有何不同?

FAQ A:系统一模型评估一个状态并产生带概率的结构化答案,而LLM预测下一个token并生成自由形式的文本。它们使用不同的后训练方法:RLCD用于校准决策,而RLHF用于人类偏好对齐。