
超越 Jev:15 个 System One 决策模型,把推理压缩成一次前向
System One 模型不再逐 token 生成答案,而是一次前向直接给出选择、分数或概率。Turing Post 梳理的 15 项研究,覆盖动态候选集、多模态、检索与选择性推理。
不是每个 AI 任务都需要一段回答。很多任务只需要一个决定。选哪个工具、把请求路由到哪里、某个条件是否成立、选中画面里的哪个框、要不要标记一个事件——这些都是有边界的判断,不是文章。System One 模型正是为此而生:输入状态、问题与候选答案,直接返回选择、分数或概率分布,通常只需一次前向。
这波讨论由 TypeSafe AI 的 Jev 带火。Jev 能并行回答多个带类型的问题,并返回带类型的决策。但 Jev 并不是唯一选项。下面这 15 项研究从不同方向扩展了同一个想法:候选集合会变化、选项顺序要稳定、多个问题要共享证据、输入可以是视频与音频、候选规模可以到百万级,以及当直接决策不够时如何按需追加推理。
对机器人研发者来说,这个话题没有看上去那么「纯软件」。把观测映射成动作的策略、在多个动作块里做选择的 VLA、判断是否需要重新规划的监督器,本质上都是决策问题,只是换了外衣。真正的问题是:这些决定应该逐 token 生成,还是直接打分?
System One 模型到底在做什么
这个词覆盖的是一类「做选择」的模型:利用已有信息,对可能的动作或结果进行选择、排序或打分。一个 System One 模型接收状态、问题与候选答案,然后返回选择、分数或概率分布,而不生成文本回答。
当一个 Agent 需要做大量小决定时,这一点尤其重要:选工具、路由请求、检查条件、解释观测。每件事都生成一段回答,会增加解码时间,还要求外围软件把自由文本重新解析成结构化值。直接打分把这两步都去掉了。它不保证决策正确,也不保证置信度可靠,但它删掉了一层本来就不属于决策本身的机械开销。
System One 与 System Two 的区别
System One 依据现有证据做直接判断,适合输出空间已经确定的有限决策,比如在工具之间选择、检测某个事件。System Two 则投入额外计算去处理问题,通常会生成中间推理、探索备选方案,或检查一个候选答案。这对需要多步依赖的决策有帮助,但会增加延迟与算力。
这个区分讲的是计算如何被使用,而不是一个模型聪明、另一个不聪明。混合方法可以对简单情况直接作答,把额外推理留给不确定的情况。下面有几个模型就是围绕这条边界设计的。
15 个模型一览
| 模型 | 主要方法 | 不同之处 | 适用场景 |
|---|---|---|---|
| Jeva | 候选打分 | 支持变化的候选集合,并能判断没有选项合适 | 动态决策任务 |
| Prism-1 | 独立打分 | 消除选项顺序与竞争选项的影响 | 要求稳定的多项选择 |
| Bongard | 共享编码 | 在多个判断之间复用同一份证据 | 对同一状态做多项判断 |
| Verdict | 多问题打分 | 用一次编码回答多个带类型的问题 | 文档分类与流程自动化 |
| VideoJev | 视频决策模型 | 在多个问题之间复用视频表示 | 视频理解与事件检测 |
| MJev-Spatial | 空间打分 | 预测关系、数值与图像坐标 | 视觉与空间推理 |
| AudioJev | 音频决策模型 | 不转写,直接从音频给答案打分 | 音频理解 |
| Intern-Decision | 结构化预测 | 一次前向给多个 JSON 字段打分 | 多模态结构化决策 |
| MetaEncoder | 双塔检索 | 预先计算候选表示,支持大规模匹配 | 百万级候选决策 |
| FastJEV | 推理优化 | 不重训练即可减少候选冗余计算 | 更高效的 JEV 推理 |
| SanSi | 循环决策模型 | 通过反复内部前向细化决策 | 可调算力、不生成文本 |
| StartLux-Decision | 决策与推理混合 | 置信度低时才追加推理 | 需要选择性深思的决策 |
| System X | 决策到文本的混合 | 直接选择不合适时生成文本回复 | 既要选择又要回答的 Agent |
| FunDM | 决策蒸馏 | 从冻结语言模型学一条更短的决策路径 | 更低成本的决策推理 |
| LAVOIR | 信息价值打分 | 预测「追问缺失信息」是否值得 | 信息不完整时的决策 |
决策架构
1. Jeva
Jeva 把请求与每个候选选项分别编码,再用缓存的选项表示更新请求。共享打分允许候选集合动态变化,对称聚合保证结果不受选项顺序影响,单独的覆盖率估计则用来判断「没有一个候选合适」。由于选项编码可以复用,多个请求共享候选时不必重复计算。
2. Prism-1
Prism-1 在相互隔离的注意力块中为每个候选打分,并共享位置索引,因此给某个选项打分的 token 看不到竞争选项。softmax 把独立分数转成概率。候选重排不再影响结果,新增一个选项也不会改变已有选项之间的相对几率——这是一条明确的选择一致性规则,而不是统计上的偶然。
链接: 论文
3. Bongard
Bongard 用 T5Gemma 2 编码器只读一次状态与指令,再把同一份编码共享给回答不同问题的多个解码分支。决策头直接输出候选概率,不生成文本。训练从监督判断逐步过渡到语义关系与动作结果,用多种反馈把同一份表示教得更通用。
4. Verdict
Verdict-MQ 只编码一次文档或案件,再从这份表示回答多个带类型的问题。结构化注意力掩码让编码状态不受问题影响,阻止问题之间互相干扰,也让选项顺序无关。紧急程度、归属、是否需要回复等判断因此共享同一次输入处理。
链接: 论文
多模态扩展
5. VideoJev
VideoJev 用共享头替代自回归答案解码,直接对视频证据打分,输出时间区间或文本选项。问题依次到来时,缓存推理复用已经算过的视觉表示;问题可以成组处理时,联合推理一次覆盖多个问题,避免反复扫描同一段视频历史。
6. MJev-Spatial
MJev-Spatial 复用预训练的 query / key 投影来给空间候选打分,不额外增加打分参数。它可以直接选择给定答案;数值估计与图像坐标则通过由粗到细的分类完成,在数值分箱与图像区域上逐级细化。每一次分类都是一次前向,用结构化预测替代生成式空间答案。
7. AudioJev
AudioJev 直接从波形与问题出发给候选答案打分,保留转写过程可能丢失的声学证据。训练时它把原始候选列表与重排后的列表配对,同时监督两者,并用对称 KL 散度对齐它们的概率分布。这样在推理仍是一次打分的前提下降低了顺序敏感性,不需要跑顺序集成。
8. Intern-Decision
Intern-Decision 接收文本与可选图像,把决策占位符嵌进一个完整的 JSON 结构。训练直接监督这些占位符;推理时用主干的语言模型头在一次因果前向中给所有字段打分。0.8B、2B、4B 三个规模都不需要先生成完整 JSON 再解析。
9. MetaEncoder
MetaEncoder 分别编码自然语言请求与候选答案,图像或视频可以作为额外证据。对比学习把两种表示对齐,把一个预训练多模态解码器变成用于决策的双塔编码器。候选表示可以预先算好,因此既能处理小规模闭集选择,也能在数百万个候选中检索,而不必为每个请求—候选对联合编码。
推理与效率
10. FastJEV
FastJEV 复用上下文状态,共享候选之间相同的前缀,并按各层对相对分数的影响裁剪候选路径。它保留完整上下文编码与全部候选,也不需要重训练。方法确实降低了计算深度,但前缀共享本身的开销可能让实测延迟上升——这提醒我们,「少算一些」不等于「更快完成」。
11. SanSi
SanSi 反复应用同一组 Transformer 层,并在每次循环后读取候选概率。训练会监督不同的循环预算,因此既可以在较早一轮就做决定,也可以继续用隐藏状态细化。它属于 System 1.5,而不是单次前向:循环要花算力,而且准确率见顶之后置信度仍可能继续上升。
12. StartLux-Decision
StartLux 把单次前向的 Instant 模型与「置信度低时才展开推理」的 AutoThink 模型分开。Instant 在全局注意力层使用双向注意力。AutoThink 把推理监督与强化学习结合:奖励决策概率的提升,惩罚过长的推理,从而把直接决策与选择性深思接在一起。
13. System X
System X 在直接决策读出之外增加了一个「文本回复」选项。当这个选项胜出,或置信度低于阈值时,模型直接复用已有的 KV cache 生成回复。这个混合结构把结构化选择与对话式回答连起来,同时避免再走一次 prompt 预填充。
14. FunDM
FunDM 用 KL 散度训练一个小型决策头去匹配冻结语言模型的答案概率,不需要正确答案标签。它通过缩短的主干同时读入问题与选项,再用决策头打分,不再使用原始语言模型头。其 Qwen3-8B 实现只保留 36 层中的 24 层,用少量准确率换取更高吞吐。
15. LAVOIR
LAVOIR 把「缺失信息」的候选补丁与答案选项放在一起。一次前向同时预测决策概率,以及针对每个缺失细节发问所能带来的预期提升。它在规则推导出的决策与澄清结果上训练,因此可以选择先问什么,而不是在证据不完整时硬给答案。
链接: 论文
这对具身智能意味着什么
本节是 RobotWorld 的延伸分析,不属于原文内容。
机器人控制栈的底层一直就是 System One 问题。平衡控制器不可能花 800 毫秒生成一段思维链,它必须立刻把状态映射成动作。这些模型改变的是更高一层:选择技能、挑选动作块、判断抓取是否成功、决定一次感知查询该问什么。
有四个直接对应关系。第一,动作选择可以写成对离散技能或动作原语的候选打分,从而把 token 解码从内环里拿掉。第二,VideoJev 与 MJev-Spatial 很自然地对上机器人感知:事件区间、空间关系、图像坐标,正是操作与导航栈需要的输出。第三,SanSi 与 StartLux-Decision 给出了一种可信的安全架构:有把握时快速作答,没把握时才付推理的代价。第四,LAVOIR 指向主动感知:在承诺一个动作之前,先要求再看一眼或补一个测量。
但这些都不会自动成立。候选仍然必须可枚举;连续动作空间需要离散化,或者需要一个能给连续候选排序的打分头;返回概率也不等于置信度已经校准;而且这些论文大多在文本、图像或音频上评测,不是闭环机器人控制。更有用、也更克制的结论是:对有边界的决策,直接打分可以去掉「解码再解析」这一层,而机器人栈过去一直在为它付费。
flowchart LR
S[观测或状态] --> E[共享编码器]
Q[任务或问题] --> E
C[候选动作或答案] --> H[打分头]
E --> H
H --> D{置信度是否足够高}
D -->|是| A[一次前向完成选择并行动]
D -->|否| R[追加循环或显式推理]
R --> A
A --> O[结果与新证据]
O --> H
局限与待解问题
第一个限制是结构性的:直接打分假设选项可以被枚举。对工具名、标签、事件区间和固定技能菜单来说没问题;对开放式生成和连续控制就很别扭,除非把动作空间离散化,或者另有一个候选生成器。
第二个是校准。输出概率分布,并不自动等于可信的置信度。本文列出的模型从不同角度处理它——Jeva 判断是否有候选合适,StartLux 把推理留给不确定的情况,LAVOIR 估计追问更多信息的价值——但没有一个能让校准变成免费项。
第三个是「算得少」不等于「延迟低」。FastJEV 是最清楚的例子:它降低了计算深度,但前缀共享的开销可能抬高实测墙钟时间。部署时必须测端到端延迟,而不只是看 FLOPs。
第四个是评测。目前的证据大多来自分类、视觉问答、文档流程与音频理解。闭环机器人会引入分布漂移、时序约束和失败代价,这些都不是静态基准能覆盖的。这个领域仍然需要「错误选择有后果、延迟也计入分数」的决策基准。
常见问题
什么是 System One AI 模型?
它们通过直接选择或给可能结果打分来做决策,而不是逐 token 生成文本答案。给定状态、问题和候选答案,它们通常能在一次前向中返回选择、分数或概率分布。
System One 与 System Two 有什么区别?
System One 用现有证据做直接决策;System Two 投入额外计算来推理、探索备选或检查答案。前者适合快速、有边界的决策,后者适合需要多步依赖的问题,也有一些架构把两者结合。
为什么 System One 模型对 AI Agent 有用?
Agent 要做很多小决策:选工具、路由请求、检查条件、解释观测。每个决策都生成文本会带来解码与解析开销,而 System One 可以直接返回结构化决策。
System One 模型一定比大语言模型快吗?
不一定。直接打分去掉了自回归生成,但真实延迟取决于架构、候选集大小、输入规模与实现。有些优化减少了计算量,却没有改善墙钟时间,FastJEV 就是例子。
System One 模型能处理图像、视频和音频吗?
可以。VideoJev 对视频事件与答案选项打分,MJev-Spatial 处理空间预测,AudioJev 直接从音频做决策;还有其他模型把文本与图像或视频结合,在结果之间选择。
System One 模型能处理复杂推理吗?
有些模型会在直接决策不足时追加计算。SanSi 通过反复循环细化隐藏状态,StartLux-Decision 能为不确定情况生成推理,System X 可以从直接选择切换到文本回答。
System One 模型如何处理不确定性?
不同架构做法不同。Jeva 估计是否有候选合适,StartLux-Decision 把额外推理留给不确定决策,LAVOIR 估计追问缺失信息是否能改善结果。但模型返回概率,并不自动意味着概率已经校准。
来源:Turing Post,Alyona Vert. 撰写的《Exploring System One AI Models Beyond Jev: 15 Outstanding Models》,发布于 2026 年 10 月 26 日(turingpost.com)。本文为原文完整翻译与改编,并包含明确标注的 RobotWorld 延伸分析;文中链接均指向原作者引用的论文、代码与模型权重。