HeadlinesBriefing favicon HeadlinesBriefing.com

TERMy:快速终端助手,无需LLM

Hacker News •
×

我热爱研发,你可能因为PJON(Padded Jittering Operative Network)而听说过我。这是一个我在2010年开始开发的网络协议,最近由苏黎世联邦理工学院(ETH Zurich)的Pius Sieber研究团队将其实现于硅片中。

我很高兴与您分享TERMy,一个基于NPC-Forge框架构建的终端助手。与当今构建的其他一切不同,TERMy不使用嵌入、机器学习或LLM。它在CPU上运行(甚至在Raspberry Pi Zero上),既可在终端中运行,也可在浏览器标签页中客户端运行,响应时间仅为毫秒级。它是一个愤世嫉俗但知识渊博的Linux终端助手,能将您的自然语言翻译成shell命令,而不依赖任何人工神经元。

自7月初以来,我有机会专注于个人项目两个月,正值AI价格飙升和补贴tokenmaxing结束的奇怪时期。我很好奇能否从零开发一个能够处理简单自然语言请求的终端助手。我记性不好,习惯了每月花不少钱让copilot“激活虚拟环境”或类似琐碎操作。

工作原理:当您输入提示时,它会通过一个用约1000行Python编写的轻量级NLU管道,实现以下步骤:1. 去除咒骂语、感叹词、鼓励、劝阻和感谢词(去除噪音)2. 情感分析 3. 精确匹配(非常快)4. 模板匹配(较慢)5. 概率匹配(更慢)。步骤5依赖IDF识别稀有词,BOW处理词序颠倒,以及IDF加权的Levenshtein距离安全处理拼写错误。权限门控硬编码在数据集中,并对所有潜在破坏性命令强制执行,因此本质上比让不可预测的LLM在您的机器上随意运行更安全。