HeadlinesBriefing favicon HeadlinesBriefing.com

Jev:25行Python实现本地LLM分类

Hacker News •
×

每个人都在谈论Jev作为下一个AI前沿,但作者展示了仅用25行Python即可实现,使用本地GGUF模型。脚本通过llama-cpp-python加载Qwen/Qwen3-0.6B-GGUF,定义分类选项(合法、垃圾邮件、钓鱼),并提取每个选项token的logits。随后使用numpy的logaddexp进行数值稳定的概率转换。示例显示钓鱼概率为0.885。作者认为Jev仅仅是带有校准概率的本地分类——快速、私密,无API调用,无合成数据,无RLCD训练。他们指出这是一种玩笑,并链接到更完整的开源实现:Open Jev、openjev-sglang和Open Jev on Diffusion Gemma。全部由Nobody Who开源。