HeadlinesBriefing favicon HeadlinesBriefing.com

Jevchat 将 Jev 变成聊天机器人

Hacker News •
×

Jevchat 通过在每一步询问一个问题来将 Jev 变成聊天机器人:给定用户的问题和截至目前为止的回复,下一个符号是什么?选项包括字母表加上停止发射的选项。Jev 返回每个选项的概率,采样器从该归一化分布中绘制下一个符号。追加、重复和停止,当绘制 STOP 时。有Several种字母表(包括截断的标记列表)和采样策略可用。想法是为了乐趣,成本有些不切实际,结果很滑稽。这是一个被 Claude 加速的实验。用户描述了采样算法、策略等,Claude 实现了它们。

设置:将您的 Jev 密钥放在与 pyproject.toml 同目录的 .env 文件中(git-忽略)作为 JEV_API_KEY。也接受 TYPESAFE_API_KEY。.env 中的值优先于导出的值,所以只需编辑文件即可切换密钥。命令:poetry run jevchat(交互式),poetry run jevchat ask "你认为人们需要水吗?", poetry run jevchat alphabets,poetry run jevchat bench。

回复以采样的方式出现,在一个面板中,实时显示生成速率(每秒符号数、每秒字符数、每次 API 调用的毫秒数、已用时间),以及 Jev 在上一步评分的最高几个符号。Ctrl-C 取消。第一次按压停止生成一次返回的请求中的请求返回;第二次按压立即中止。

模式:有两个东西可以交换:策略(-s/--strategy)和字母表(-a/--alphabet)。策略包括 choice(整个字母表上的一个问题)、bisect(缩小范围的 yes-no 问题)、buckets(许多问题跨字母表)、refine(buckets 然后是获胜者上的问题)。呈现包括 hypothesis(默认)和 symbol。

FAQ:Jevchat 是什么?

Jevchat 是一个工具,通过从 Jev 返回的概率分布中逐个采样符号,将 Jev 变成聊天机器人,使用各种策略和字母表。