Skip to content
←返回博客
超越 Jev:15 个 System One 决策模型,把推理压缩成一次前向
System OneDecision ModelAI智能体

超越 Jev:15 个 System One 决策模型,把推理压缩成一次前向

System One 模型不再逐 token 生成答案,而是一次前向直接给出选择、分数或概率。Turing Post 梳理的 15 项研究,覆盖动态候选集、多模态、检索与选择性推理。

Alyona Vert. / Turing Post2026年10月26日3 分钟阅读23次阅读
EN

不是每个 AI 任务都需要一段回答。很多任务只需要一个决定。选哪个工具、把请求路由到哪里、某个条件是否成立、选中画面里的哪个框、要不要标记一个事件——这些都是有边界的判断,不是文章。System One 模型正是为此而生:输入状态、问题与候选答案,直接返回选择、分数或概率分布,通常只需一次前向。

这波讨论由 TypeSafe AI 的 Jev 带火。Jev 能并行回答多个带类型的问题,并返回带类型的决策。但 Jev 并不是唯一选项。下面这 15 项研究从不同方向扩展了同一个想法:候选集合会变化、选项顺序要稳定、多个问题要共享证据、输入可以是视频与音频、候选规模可以到百万级,以及当直接决策不够时如何按需追加推理。

对机器人研发者来说,这个话题没有看上去那么「纯软件」。把观测映射成动作的策略、在多个动作块里做选择的 VLA、判断是否需要重新规划的监督器,本质上都是决策问题,只是换了外衣。真正的问题是:这些决定应该逐 token 生成,还是直接打分?

System One 模型到底在做什么

这个词覆盖的是一类「做选择」的模型:利用已有信息,对可能的动作或结果进行选择、排序或打分。一个 System One 模型接收状态、问题与候选答案,然后返回选择、分数或概率分布,而不生成文本回答。

当一个 Agent 需要做大量小决定时,这一点尤其重要:选工具、路由请求、检查条件、解释观测。每件事都生成一段回答,会增加解码时间,还要求外围软件把自由文本重新解析成结构化值。直接打分把这两步都去掉了。它不保证决策正确,也不保证置信度可靠,但它删掉了一层本来就不属于决策本身的机械开销。

System One 与 System Two 的区别

System One 依据现有证据做直接判断,适合输出空间已经确定的有限决策,比如在工具之间选择、检测某个事件。System Two 则投入额外计算去处理问题,通常会生成中间推理、探索备选方案,或检查一个候选答案。这对需要多步依赖的决策有帮助,但会增加延迟与算力。

这个区分讲的是计算如何被使用,而不是一个模型聪明、另一个不聪明。混合方法可以对简单情况直接作答,把额外推理留给不确定的情况。下面有几个模型就是围绕这条边界设计的。

15 个模型一览

模型主要方法不同之处适用场景
Jeva候选打分支持变化的候选集合,并能判断没有选项合适动态决策任务
Prism-1独立打分消除选项顺序与竞争选项的影响要求稳定的多项选择
Bongard共享编码在多个判断之间复用同一份证据对同一状态做多项判断
Verdict多问题打分用一次编码回答多个带类型的问题文档分类与流程自动化
VideoJev视频决策模型在多个问题之间复用视频表示视频理解与事件检测
MJev-Spatial空间打分预测关系、数值与图像坐标视觉与空间推理
AudioJev音频决策模型不转写,直接从音频给答案打分音频理解
Intern-Decision结构化预测一次前向给多个 JSON 字段打分多模态结构化决策
MetaEncoder双塔检索预先计算候选表示,支持大规模匹配百万级候选决策
FastJEV推理优化不重训练即可减少候选冗余计算更高效的 JEV 推理
SanSi循环决策模型通过反复内部前向细化决策可调算力、不生成文本
StartLux-Decision决策与推理混合置信度低时才追加推理需要选择性深思的决策
System X决策到文本的混合直接选择不合适时生成文本回复既要选择又要回答的 Agent
FunDM决策蒸馏从冻结语言模型学一条更短的决策路径更低成本的决策推理
LAVOIR信息价值打分预测「追问缺失信息」是否值得信息不完整时的决策

决策架构

1. Jeva

Jeva 把请求与每个候选选项分别编码,再用缓存的选项表示更新请求。共享打分允许候选集合动态变化,对称聚合保证结果不受选项顺序影响,单独的覆盖率估计则用来判断「没有一个候选合适」。由于选项编码可以复用,多个请求共享候选时不必重复计算。

2. Prism-1

Prism-1 在相互隔离的注意力块中为每个候选打分,并共享位置索引,因此给某个选项打分的 token 看不到竞争选项。softmax 把独立分数转成概率。候选重排不再影响结果,新增一个选项也不会改变已有选项之间的相对几率——这是一条明确的选择一致性规则,而不是统计上的偶然。

3. Bongard

Bongard 用 T5Gemma 2 编码器只读一次状态与指令,再把同一份编码共享给回答不同问题的多个解码分支。决策头直接输出候选概率,不生成文本。训练从监督判断逐步过渡到语义关系与动作结果,用多种反馈把同一份表示教得更通用。

4. Verdict

Verdict-MQ 只编码一次文档或案件,再从这份表示回答多个带类型的问题。结构化注意力掩码让编码状态不受问题影响,阻止问题之间互相干扰,也让选项顺序无关。紧急程度、归属、是否需要回复等判断因此共享同一次输入处理。

多模态扩展

5. VideoJev

VideoJev 用共享头替代自回归答案解码,直接对视频证据打分,输出时间区间或文本选项。问题依次到来时,缓存推理复用已经算过的视觉表示;问题可以成组处理时,联合推理一次覆盖多个问题,避免反复扫描同一段视频历史。

6. MJev-Spatial

MJev-Spatial 复用预训练的 query / key 投影来给空间候选打分,不额外增加打分参数。它可以直接选择给定答案;数值估计与图像坐标则通过由粗到细的分类完成,在数值分箱与图像区域上逐级细化。每一次分类都是一次前向,用结构化预测替代生成式空间答案。

7. AudioJev

AudioJev 直接从波形与问题出发给候选答案打分,保留转写过程可能丢失的声学证据。训练时它把原始候选列表与重排后的列表配对,同时监督两者,并用对称 KL 散度对齐它们的概率分布。这样在推理仍是一次打分的前提下降低了顺序敏感性,不需要跑顺序集成。

8. Intern-Decision

Intern-Decision 接收文本与可选图像,把决策占位符嵌进一个完整的 JSON 结构。训练直接监督这些占位符;推理时用主干的语言模型头在一次因果前向中给所有字段打分。0.8B、2B、4B 三个规模都不需要先生成完整 JSON 再解析。

9. MetaEncoder

MetaEncoder 分别编码自然语言请求与候选答案,图像或视频可以作为额外证据。对比学习把两种表示对齐,把一个预训练多模态解码器变成用于决策的双塔编码器。候选表示可以预先算好,因此既能处理小规模闭集选择,也能在数百万个候选中检索,而不必为每个请求—候选对联合编码。

推理与效率

10. FastJEV

FastJEV 复用上下文状态,共享候选之间相同的前缀,并按各层对相对分数的影响裁剪候选路径。它保留完整上下文编码与全部候选,也不需要重训练。方法确实降低了计算深度,但前缀共享本身的开销可能让实测延迟上升——这提醒我们,「少算一些」不等于「更快完成」。

11. SanSi

SanSi 反复应用同一组 Transformer 层,并在每次循环后读取候选概率。训练会监督不同的循环预算,因此既可以在较早一轮就做决定,也可以继续用隐藏状态细化。它属于 System 1.5,而不是单次前向:循环要花算力,而且准确率见顶之后置信度仍可能继续上升。

12. StartLux-Decision

StartLux 把单次前向的 Instant 模型与「置信度低时才展开推理」的 AutoThink 模型分开。Instant 在全局注意力层使用双向注意力。AutoThink 把推理监督与强化学习结合:奖励决策概率的提升,惩罚过长的推理,从而把直接决策与选择性深思接在一起。

13. System X

System X 在直接决策读出之外增加了一个「文本回复」选项。当这个选项胜出,或置信度低于阈值时,模型直接复用已有的 KV cache 生成回复。这个混合结构把结构化选择与对话式回答连起来,同时避免再走一次 prompt 预填充。

14. FunDM

FunDM 用 KL 散度训练一个小型决策头去匹配冻结语言模型的答案概率,不需要正确答案标签。它通过缩短的主干同时读入问题与选项,再用决策头打分,不再使用原始语言模型头。其 Qwen3-8B 实现只保留 36 层中的 24 层,用少量准确率换取更高吞吐。

15. LAVOIR

LAVOIR 把「缺失信息」的候选补丁与答案选项放在一起。一次前向同时预测决策概率,以及针对每个缺失细节发问所能带来的预期提升。它在规则推导出的决策与澄清结果上训练,因此可以选择先问什么,而不是在证据不完整时硬给答案。

这对具身智能意味着什么

本节是 RobotWorld 的延伸分析,不属于原文内容。

机器人控制栈的底层一直就是 System One 问题。平衡控制器不可能花 800 毫秒生成一段思维链,它必须立刻把状态映射成动作。这些模型改变的是更高一层:选择技能、挑选动作块、判断抓取是否成功、决定一次感知查询该问什么。

有四个直接对应关系。第一,动作选择可以写成对离散技能或动作原语的候选打分,从而把 token 解码从内环里拿掉。第二,VideoJev 与 MJev-Spatial 很自然地对上机器人感知:事件区间、空间关系、图像坐标,正是操作与导航栈需要的输出。第三,SanSi 与 StartLux-Decision 给出了一种可信的安全架构:有把握时快速作答,没把握时才付推理的代价。第四,LAVOIR 指向主动感知:在承诺一个动作之前,先要求再看一眼或补一个测量。

但这些都不会自动成立。候选仍然必须可枚举;连续动作空间需要离散化,或者需要一个能给连续候选排序的打分头;返回概率也不等于置信度已经校准;而且这些论文大多在文本、图像或音频上评测,不是闭环机器人控制。更有用、也更克制的结论是:对有边界的决策,直接打分可以去掉「解码再解析」这一层,而机器人栈过去一直在为它付费。

flowchart LR
    S[观测或状态] --> E[共享编码器]
    Q[任务或问题] --> E
    C[候选动作或答案] --> H[打分头]
    E --> H
    H --> D{置信度是否足够高}
    D -->|是| A[一次前向完成选择并行动]
    D -->|否| R[追加循环或显式推理]
    R --> A
    A --> O[结果与新证据]
    O --> H

局限与待解问题

第一个限制是结构性的:直接打分假设选项可以被枚举。对工具名、标签、事件区间和固定技能菜单来说没问题;对开放式生成和连续控制就很别扭,除非把动作空间离散化,或者另有一个候选生成器。

第二个是校准。输出概率分布,并不自动等于可信的置信度。本文列出的模型从不同角度处理它——Jeva 判断是否有候选合适,StartLux 把推理留给不确定的情况,LAVOIR 估计追问更多信息的价值——但没有一个能让校准变成免费项。

第三个是「算得少」不等于「延迟低」。FastJEV 是最清楚的例子:它降低了计算深度,但前缀共享的开销可能抬高实测墙钟时间。部署时必须测端到端延迟,而不只是看 FLOPs。

第四个是评测。目前的证据大多来自分类、视觉问答、文档流程与音频理解。闭环机器人会引入分布漂移、时序约束和失败代价,这些都不是静态基准能覆盖的。这个领域仍然需要「错误选择有后果、延迟也计入分数」的决策基准。

常见问题

什么是 System One AI 模型?

它们通过直接选择或给可能结果打分来做决策,而不是逐 token 生成文本答案。给定状态、问题和候选答案,它们通常能在一次前向中返回选择、分数或概率分布。

System One 与 System Two 有什么区别?

System One 用现有证据做直接决策;System Two 投入额外计算来推理、探索备选或检查答案。前者适合快速、有边界的决策,后者适合需要多步依赖的问题,也有一些架构把两者结合。

为什么 System One 模型对 AI Agent 有用?

Agent 要做很多小决策:选工具、路由请求、检查条件、解释观测。每个决策都生成文本会带来解码与解析开销,而 System One 可以直接返回结构化决策。

System One 模型一定比大语言模型快吗?

不一定。直接打分去掉了自回归生成,但真实延迟取决于架构、候选集大小、输入规模与实现。有些优化减少了计算量,却没有改善墙钟时间,FastJEV 就是例子。

System One 模型能处理图像、视频和音频吗?

可以。VideoJev 对视频事件与答案选项打分,MJev-Spatial 处理空间预测,AudioJev 直接从音频做决策;还有其他模型把文本与图像或视频结合,在结果之间选择。

System One 模型能处理复杂推理吗?

有些模型会在直接决策不足时追加计算。SanSi 通过反复循环细化隐藏状态,StartLux-Decision 能为不确定情况生成推理,System X 可以从直接选择切换到文本回答。

System One 模型如何处理不确定性?

不同架构做法不同。Jeva 估计是否有候选合适,StartLux-Decision 把额外推理留给不确定决策,LAVOIR 估计追问缺失信息是否能改善结果。但模型返回概率,并不自动意味着概率已经校准。


来源:Turing Post,Alyona Vert. 撰写的《Exploring System One AI Models Beyond Jev: 15 Outstanding Models》,发布于 2026 年 10 月 26 日(turingpost.com)。本文为原文完整翻译与改编,并包含明确标注的 RobotWorld 延伸分析;文中链接均指向原作者引用的论文、代码与模型权重。

作为亚马逊联盟会员,我们可能从符合条件的购买中获得佣金。