PAPER DEEP DIVE
EvoGroup:面向共享上下文的群体智能体自进化执行框架
EvoGroup 把群体智能体的运行框架本身作为进化对象。它从只有六个基础工具的最小框架出发,在共享上下文的多轮任务中记录轨迹与置信度,优先分析高置信正确、高置信错误和低置信样本,再通过自适应渐进披露与分桶归因提炼跨轨迹问题,并从表示、操作、干预和策略四个接口修订记忆、工具、中间件、提示词与技能。在 EverMemBench 留出集上,DeepSeek-V4-Flash 的 pass@1 从 71.07% 提升到 89.58%,超过 Codex 的 82.62% 和 Claude Code 的 85.83%;冻结后的框架在 GroupMemBench 上仍体现一定迁移能力,但模型差异与修订回归仍是主要限制。
研究背景与问题
长期协作中的群体智能体与单用户助手面对的任务并不相同。单用户记忆通常围绕个人偏好、历史事实和连续对话展开,而群体上下文同时包含多名成员的发言、角色关系、回复线程、时间变化以及被多人补充或推翻的结论。智能体若只保存若干语义片段,往往会丢失“谁在何时改变了哪个决定”这类关系信息。
现有记忆系统通常预先规定数据结构。向量数据库强调相似检索,知识图谱强调实体与关系,另一些系统使用树状层级、反思摘要或固定更新规则。它们的共同问题在于,记忆表示、更新方式和检索策略在设计阶段就被固定,遇到新的群体结构或任务分布时需要重新工程化。
EvoGroup 的出发点是把执行框架本身作为优化对象。所谓执行框架,是围绕基础模型组织工具、记忆、提示、技能、中间件与策略的运行时外壳。论文不直接训练基础模型,而是让框架从交互经验中积累可执行修改,形成一个逐步变强的框架序列。
这一设定带来一个关键问题:并非所有成功或失败样本都具有相同的进化价值。稳定成功的轨迹通常只说明当前框架已经会做,而“高置信却答错”“低置信却答对”“低置信并且答错”分别暴露系统性偏差、脆弱成功和已部分觉察的失败。EvoGroup 因此先用置信度和外部正确性做轨迹筛选,再决定分析预算投向哪里。
论文还把长轨迹分析视为成本瓶颈。完整轨迹包含大量工具调用、观察结果和跨成员上下文,直接塞入分析模型容易引入噪声。EvoGroup 采用自适应渐进披露,只先展示结构视图,再按需跳转到可疑片段,并用分桶汇总把单例问题提升为可修订的高层发现。
问题定义与执行框架
初始框架被记为 $H_0$。它只提供六个冷启动工具:文件枚举、文件读取、文本检索、文件写入、记录查询和文件创建。系统通过交互、筛选、分析和修订不断产生新框架,因此整个自进化过程可以写成一个框架序列:
$$H_0,H_1,\ldots,H_T.$$
在第 $t$ 轮,群体智能体使用当前框架 $H_t$ 回答共享上下文中的查询。一次交互不仅产生最终答案,还留下观察、推理、沟通和工具调用记录。对第 $i$ 个查询,轨迹定义如下:
$$\tau_i=(q_i,o_i^1,u_i^1,\ldots,o_i^{L_i},u_i^{L_i},a_i),$$
其中 $q_i$ 是查询,$o_i^\ell$ 是第 $\ell$ 步观察,$u_i^\ell$ 是对应的推理、通信或工具动作,$a_i$ 是最终回答。这个定义把“答案是否正确”扩展为“答案是怎样被框架生产出来的”,为后续定位问题阶段提供了可检查证据。
群体智能体同时给出主观置信度 $c_i$。论文用阈值 $\gamma$ 判断是否属于高置信回答,并用指示变量表示:
$$z_i=\mathbf{1}[c_i > \gamma],\qquad c_i\in[0,1].$$
当 $c_i\leq\gamma$ 时,智能体必须在看到标准答案或官方评分之前解释不确定性来源。这个顺序很重要:自反思发生在监督信号披露之前,因此文本反映的是智能体自身诊断,而不是根据结果倒推的合理化。
方法详解
一、置信度与结果联合筛选
外部评测器在交互结束后给出正确性 $y_i\in\{0,1\}$。把 $z_i$ 与 $y_i$ 交叉,可以得到四个集合:高置信正确、高置信错误、低置信正确和低置信错误。论文保留后三类进入诊断,而把常规的高置信正确轨迹放在较低优先级。
具体而言,高置信错误集合和低置信正确集合分别表示为:
$$\mathcal D_{\mathrm{CW}}=\{\tau_i\mid z_i=1,y_i=0\},\qquad \mathcal D_{\mathrm{UC}}=\{\tau_i\mid z_i=0,y_i=1\},$$
低置信错误集合则是 $\mathcal D_{\mathrm{UW}}=\{\tau_i\mid z_i=0,y_i=0\}$。最终进入分析的轨迹集合为:
$$\mathcal D_{\mathrm{sel}}=\mathcal D_{\mathrm{CW}}\cup\mathcal D_{\mathrm{UC}}\cup\mathcal D_{\mathrm{UW}}.$$
这一筛选并非简单的“只学错题”。低置信正确样本提供脆弱成功的线索,高置信错误样本暴露框架没有意识到的偏差,低置信错误样本则同时包含失败结果和智能体已有的部分诊断。三类信号分别对应不同的框架风险,比只用通过率或只用失败率更细。
图 1 给出 DeepSeek-V4-Flash 的进化曲线与留出集比较。左图显示在用于进化的数据上,框架从 $H_0$ 的 69.86% 上升到后续轮次的 82% 至 88% 区间;右图则把最终框架放到留出问题上,与记忆基线和人工设计框架比较。
二、自适应渐进披露
筛选之后,分析智能体需要处理可能很长的轨迹。完整轨迹一次载入会同时暴露大量无关观察,使模型难以定位真正造成偏差的动作。自适应渐进披露先隐藏完整内容,只给出阶段结构和局部索引,再根据可疑位置请求观察、动作、工具结果或通信记录。
对每条入选轨迹,分析智能体先判断行为从哪一步开始偏离可靠解法,再归因可能原因,形成详细诊断 $r_i^{\mathrm{det}}$。为了支持跨样本比较,系统随后把它压缩为只保留故障位置、原因和行动含义的简洁诊断:
$$r_i^{\mathrm{con}}=\operatorname{Compress}(r_i^{\mathrm{det}}).$$
渐进披露减少了无关上下文的干扰,也显著降低输入成本。论文报告,在五轮进化中,它与完整轨迹分析相比平均减少 42.5% 的分析时间和 41.5% 的 token 消耗。大多数节省来自输入长度而不是输出长度,说明收益主要来自“跳过无关内容”,而非让分析模型少写结论。
三、按查询语义分桶
单条轨迹诊断容易停留在实例修补。EvoGroup 让分析智能体根据查询语义推断类型标签 $g_i$,例如用户画像、时间推理或多跳关系,再把相同类型的简洁诊断放入同一桶:
$$\mathcal B_g=\{r_i^{\mathrm{con}}\mid g_i=g\}.$$
分析先在桶内寻找该类任务的共同问题,再比较不同桶的结果,形成高层发现。桶不是人工预定义分类,而是由分析模型根据查询语义生成。这个设计试图在“所有轨迹混在一起”与“每条轨迹完全独立”之间取得折中,使后续修订能够针对重复出现的失败模式。
四、四类修订接口
进化智能体不会直接重写整个系统,而是把修改分配到四个接口。表示接口改变记忆单元、实体关系、工作记忆和模型上下文的组织方式;操作接口增加或替换可执行能力及其实现,例如检索工具或查询算法。
干预接口在执行边界加入校验、转换和约束,例如在工具调用前检查参数、在返回前规范结果或验证最终答案。策略接口则改变操作选择、时机和顺序,包括提示、技能调用规则、检索参数、搜索策略以及操作组合。四类接口把“加一个工具”“改一段提示”“增加运行时检查”和“改变记忆结构”区分开,便于诊断结果与修改动作建立对应关系。
论文的分析显示,策略是最常使用的接口,占 DeepSeek-V4-Flash 修订的 50.00% 和 GPT-5.5 修订的 46.15%,其次是表示接口。一个合理解释是,群体上下文中的许多问题首先表现为检索组织、上下文选择和顺序控制问题,因此不必总通过新增代码能力解决。干预接口使用较少,说明许多更新可以在不增加额外运行时约束的情况下完成。
flowchart LR
A["Shared context and H_t"] --> B["Interaction
trajectories plus confidence"]
B --> C["Selection
CC / CW / UC / UW"]
C --> D["APD analysis
locate and jump"]
D --> E["Bucketed synthesis
semantic query groups"]
E --> F["Evolve agent
representation / operation / intervention / policy"]
F --> G["H_t+1"]
G --> B
图 2 的方法流程图:每轮由共享上下文交互开始,经置信度筛选、按需轨迹分析和分桶汇总,最后由进化智能体通过四类接口生成下一版框架。
实验设置与主要结果
论文使用 EverMemBench 做主要评测,按分层采样把 30% 作为进化集,70% 作为留出集;随后冻结进化得到的框架,直接测试未见过的 GroupMemBench。模型配置包括 GPT-5.5、DeepSeek-V4-Flash 和 GLM-5.1。对比对象包含 FullContext、Mem0、MemOS、A-MEM、MemRL,以及 Codex 和 Claude Code。
EverMemBench 的分数采用留出集的 1,680 道题计数对齐。论文特别说明,基线分数是从完整基准的类别准确率投影到留出集题数,并非在相同留出题号上重新运行。因此这张表适合观察总体差距,但不能等同于严格同题重跑比较。
| 模型 | 初始框架 $H_0$ | Codex | Claude Code | EvoGroup $H_*$ | 相对初始提升 |
|---|---|---|---|---|---|
| GPT-5.5 | 68.33% | 85.60% | 84.64% | 84.52% | +16.19 个百分点 |
| DeepSeek-V4-Flash | 71.07% | 82.62% | 85.83% | 89.58% | +18.51 个百分点 |
| GLM-5.1 | 68.27% | 77.92% | 76.55% | 83.63% | +15.36 个百分点 |
表 1:EverMemBench 留出集平均 pass@1。数值来自论文 Table 1;表中不把三类模型的比较混为一次同模型增益。
最有说服力的结果是 DeepSeek-V4-Flash:最终框架达到 89.58%,比初始框架提高 18.51 个百分点,并超过 Codex 的 82.62% 与 Claude Code 的 85.83%。GLM-5.1 也从 68.27% 提升到 83.63%,说明同一套进化流程可以在不同基础模型上产生有效修改。
结果并非所有模型都全面领先。GPT-5.5 的最终分数是 84.52%,高于其初始框架,却略低于 Codex 的 85.60% 和 Claude Code 的 84.64%。论文也明确承认这一例外。因此,更准确的结论是 EvoGroup 在所测三个模型上都产生显著自增益,但跨模型打败人工框架的结论只稳定成立于 DeepSeek-V4-Flash 与 GLM-5.1。
跨基准迁移进一步检验框架是否只记住了 EverMemBench 的题面。冻结后的 GPT-5.5 框架在 GroupMemBench 上从初始的 61.88% 提升到 63.89%,并高于 Codex 的 55.43%;DeepSeek-V4-Flash 则从 74.09% 降到 71.14%,虽然仍高于 Claude Code 的 66.98% 和最强记忆基线 42.68%,但低于 Codex 的 76.51%。
| 模型 | $H_0$ | Codex | Claude Code | 最强记忆基线 | $H_*$ |
|---|---|---|---|---|---|
| GPT-5.5 | 61.88% | 55.43% | 44.95% | 45.64% | 63.89% |
| DeepSeek-V4-Flash | 74.09% | 76.51% | 66.98% | 42.68% | 71.14% |
表 2:冻结框架在 GroupMemBench 上的 pass@1。数值来自论文 Table 4;最强记忆基线分别为 Mem0 45.64% 与 Mem0 42.68%。
这张迁移表比主表更能说明方法的边界。GPT-5.5 的冻结框架有所提升,但 DeepSeek-V4-Flash 出现 2.95 个百分点回退。作者将其描述为“仍保持较强表现但存在性能下降”,这一表述准确,却不能把跨基准结果概括成普遍无损迁移。
消融与机制分析
组件消融在 DeepSeek-V4-Flash 上进行。每次只把一个初始组件替换为进化版本,观察单独增益。工具带来 10.90 个百分点提升,提示带来 7.41 个百分点,记忆、中间件和技能分别只有 1.47、1.27 和 0.86 个百分点。全部组件合并后得到 89.58%,比初始框架高 18.51 个百分点。
| 变体 | pass@1 | 相对 $H_0$ 增益 |
|---|---|---|
| $H_0$ | 71.07% | 0.00 |
| 仅替换工具 | 81.97% | +10.90 |
| 仅替换提示 | 78.48% | +7.41 |
| 仅替换中间件 | 72.34% | +1.27 |
| 仅替换记忆 | 72.54% | +1.47 |
| 仅替换技能 | 71.93% | +0.86 |
| 全部进化组件 $H_*$ | 89.58% | +18.51 |
表 3:组件消融结果表明,工具与提示是最大的单点增益来源,但完整框架的组合收益高于任何单个组件。
值得注意的是,工具和提示分别只带来 10.90 与 7.41 个百分点,二者不足以解释 18.51 个百分点的总提升。这说明组件之间存在互补关系,但论文的组件消融没有给出完整交互矩阵,因此目前还不能精确分解“组合效应”来自哪些具体依赖。
过程消融更直接检验四阶段循环。移除轨迹筛选后,最终分数为 74.86%,峰值 75.69%,略高于起点 73.33%,但分析时间和 token 消耗更高。这说明分析全部轨迹本身也能带来一些进化信号,只是筛选让预算更集中。
把自适应渐进披露替换成完整轨迹分析后,最终分数降到 69.44%,低于初始值。移除分桶分析则得到最低的 67.08%。前者支持“长轨迹一次载入会引入噪声”的解释,后者说明跨轨迹汇总对于发现重复问题不可替代。图 3 展示的正是这三条过程消融曲线。
能力迁移分析显示,进化并不是单调替换。DeepSeek-V4-Flash 相邻轮次保持率超过 91%,回退率为 5.40% 至 8.36%;GPT-5.5 的保持率为 92.5% 至 94.3%,回退率为 5.7% 至 7.5%。每轮都有新题从失败转为通过,也有旧题从通过转为失败,说明框架修正是有取舍的局部搜索。
自反思分析给出一个更克制的结论。问题定位一致率分别达到 DeepSeek-V4-Flash 的 84.0% 与 GPT-5.5 的 74.4%,但原因归因一致率只有 49.2% 与 62.0%,诊断证据一致率更低,仅为 7.1% 与 16.8%。因此自反思适合作为定位线索,不能当作完整根因诊断。
分桶分析的有效性也存在上限。DeepSeek-V4-Flash 五轮中的发现正确率为 71.40% 至 100.00%,采纳率为 57.10% 至 66.70%,修复率为 41.40% 至 59.40%;GPT-5.5 的发现正确率保持 100.00%,但采纳率为 50.00% 至 87.50%,修复率为 33.30% 至 68.60%。发现“正确”并不意味着修改一定能修复所有受影响问题。
适用边界与局限
第一项限制来自评测可比性。EverMemBench 主表中的基线分数是完整基准类别准确率按留出集题数投影后的结果,不是在相同留出题号上重新执行。论文已经如实标注这一点,但读者仍应把主表理解为总体量级参照,而不是严格配对实验。要确认人工框架与 EvoGroup 的真实差距,仍需同题、同预算、同运行次数重跑。
第二项限制来自跨基准迁移的不稳定性。GPT-5.5 冻结框架在 GroupMemBench 上提升了 2.01 个百分点,DeepSeek-V4-Flash 却下降 2.95 个百分点,并且低于 Codex。共享上下文中的记忆组织存在明显模型依赖,某个框架在一种基础模型上有效,不保证以同样方式迁移到另一种模型或任务分布。
第三项限制来自诊断可信度。自反思的定位一致率较高,但证据一致率只有 7.1% 和 16.8%,说明智能体能大致指出“哪里出了问题”,却难以稳定说明“为什么”以及“有哪些轨迹证据支持”。如果后续修订直接信任自反思文本,可能把表面合理的解释固化成错误策略。
第四项限制来自修订风险。能力迁移表显示出每轮 5.40% 至 8.36% 的回退,分桶修复率最高也只有 68.60%。系统没有在论文中展示一个显式的全局回归门禁,例如只有新框架在固定回归集上不下降才接受更新。对于长期运行的群体智能体,这种“局部修复导致旧能力失效”的风险需要独立处理。
第五项限制是复现实验尚未完全开放。论文给出的代码仓库目前只有两行说明和许可证,没有六工具实现、分析智能体提示、进化智能体接口、数据切分或评测脚本。论文没有提供可直接核对的源码映射,因此本文只能审阅方法描述与报告结果,不能验证实现细节是否与文字完全一致。
此外,开放问答仍依赖评判模型。论文使用 GPT-5.6-luna 作为开放式答案评判器,这类评分会受到提示敏感性、评分标准和模型版本影响。若将 pass@1 当作绝对能力值,可能高估稳定程度;更稳妥的做法是同时报告人工抽检、评分器一致性和不同评判模型的敏感性分析。
结论
EvoGroup 的贡献不只是把提示改得更长,而是把记忆、工具、中间件、技能和策略统一纳入可修订的执行框架。置信度与正确性的联合筛选让系统优先分析高信息量轨迹,自适应渐进披露控制长上下文分析成本,分桶汇总则把单例诊断上升为面向任务类型的高层发现。
实验支持该方法在 EverMemBench 上跨三种基础模型获得 15.36 至 18.51 个百分点的自增益,也显示冻结框架在 GroupMemBench 上具有一定迁移能力。但 GPT-5.5 仍落后于人工框架,DeepSeek-V4-Flash 的迁移结果出现回退,加上代码尚未开放和评分器依赖,这些证据更适合支持“有前景的自进化机制”,而不是“已经普遍优于人工框架”的强结论。
对机器人或具身智能体系统而言,这项工作提供了一个可借鉴的运行时设计:把长期任务中的失败轨迹当作软件更新信号,但只在证据足够、回归可测且修改边界清晰时接受更新。群体记忆的难点最终不是保存更多文本,而是知道哪一条记忆改变了决策、由谁改变、在什么情境下仍然有效。



