星光澄海 | BLOG

Jev:TypeSafe AI适配Agent循环的高速决策模型

上周TypeSafe AI发了第一款System One模型Jev,比它自己用GPT-6 Astra、Fable 5.1做的参考评测里,快193.6倍,成本低444.6倍。这些数字是实际场景中能拿到的较高端增益,不是实验室里的虚标。

Jev不聊天,专做Agent的小决策

很多人对AI的印象是聊天、写代码、总结,但Jev不是。它的作用是处理Agent循环里那些琐碎但关键的判断:比如该选哪个模型调用、输入的命令安不安全、哪段内容和任务相关、Agent有没有完成目标。这些小判断之前都是用通用大模型做的,既慢又费钱,Jev就是冲着解决这个痛点来的。

Jev的工作逻辑:一次请求,多类判断并行算

它的设计很务实,每次请求只收两个东西:非结构化状态(比如对话文本或JSON格式的任务数据),还有一个“类型化问题字典”。核心有三个现成的判断工具:Choice能从最多255个选项里挑一个,还返回每个选项的概率和置信度;Score是按预定的等级给状态打分;Noul直接输出一个0到1的数,判断某句话是真的概率。这些问题会并行处理,一次请求就搞定所有判断,不用像之前那样反复调用大模型。训练用的是RLCD,也就是强化学习校准决策,所以它的高置信度基本对应高准确率,不会随便给错结果。

给Agent开发者的实打实好处

创始人Diogo Almeida之前在OpenAI做过ChatGPT背后的指令跟随研究,这次做Jev,相当于把指令跟随的精准性,用到了专门的决策场景上。从响应时间看,通用大模型做端到端的判断要3到329秒,Jev只要70到500毫秒,差了几十倍。成本更是砍到原来的四分之一还不到——这对需要高频次做决策的Agent来说,是关键的落地门槛突破:不用再为每一次小判断付高额API费,Agent的响应也不会卡半天。

现在不少Agent项目还卡在成本、速度这些实际落地的门槛上,Jev这样的专门决策模型,会不会帮更多Agent从实验室走到真实的应用场景里?


素材来源:MarkTechPost · AI情报、大模型、AI智能体、AI应用落地
查看报道原文

发表第一条评论吧

支持 Markdown