花了2个月折腾出的TERMy,是个不用LLM的Linux终端助手。它的开发者做过PJON——一个2010年就启动的网络协议,最近苏黎世联邦理工学院还把这个协议做成了硅芯片版本。开发者自己记性差,之前用Copilot处理「激活虚拟环境」这种日常终端操作,每个月要掏不少钱。刚好那段时间AI价格涨了,代币补贴也没了,他就琢磨:这种小任务,真的需要万亿参数的大模型吗?
它不是AI助手,是规则驱动的工具
TERMy的核心是个约1000行的轻量Python NLU管道,和现在市面上的终端助手完全不同——它不靠嵌入、机器学习或者LLM,连人工神经元都没碰过。工作流程分五步:先去掉脏话、语气词这种噪音,然后做情感分析,接着是精确匹配、模板匹配,最后是概率匹配。概率匹配部分用了三个具体的统计方法:IDF识别稀有词,BOW处理词序颠倒的情况,还有IDF加权的莱文斯坦距离来容忍拼写错误。
它的运行门槛极低:哪怕是树莓派Zero这种小硬件,都能在CPU上跑,既能用在终端里,也能跑在浏览器标签里,响应速度是毫秒级的。还有个关键优势:权限控制是硬编码在数据集里的,所有可能的破坏性命令都会被拦截,这比那些不可预测的LLM安全太多——不会随便在你机器上乱执行危险操作。
解决的是「没必要用大模型」的小痛点
开发者做TERMy,不是为了颠覆谁,就是自己用着舒服。之前用Copilot每月花的钱,换成自己做这么个小工具,够折腾好久了。而且他发现,日常的终端操作大多是固定模式:删文件夹、找文件、压缩内容,都是有标准流程的,根本不需要大模型的泛化能力。
现在整个AI行业都在往大模型堆参数,好像不用LLM的工具都不算智能,但TERMy反其道而行之,证明了有些场景下,轻量的规则加统计方法,比大模型更高效、更省钱、更安全。
当我们总在说「工具要用上最先进的技术」时,TERMy提了个醒:很多时候,最适合的才是最好的。那问题来了:当我们只需要处理固定模式的小任务时,真的需要追着大模型跑吗?
素材来源:Hacker News (AI/LLM) · AI情报、大模型、AI智能体
查看报道原文

发表第一条评论吧