智能体科学家：编排编码智能体实现自动化科学（协同）发现

方法详解

四阶段总览

论文 Figure 1 把系统画成四个阶段：任务起草、并行调查、回溯证据生成、有据论文写作。四个阶段之间不是松散的“接力”，而是靠产物形态收紧的：起草阶段产出可执行的任务规范，调查阶段产出被选中程序的完整历史与记忆，证据阶段产出基线、消融与事后诊断，写作阶段只能引用前面阶段落盘的产物。下图按论文的四阶段结构与真实的门控关系重画了这条流水线。

图 1：The Agentic Scientist 四阶段工作流（论文 Figure 1）。从任务描述出发，经任务起草、并行调查、回溯证据生成，最后写出建立在结果之上的手稿。

flowchart TD
  BRIEF["人类研究简报"] --> DESIGN["设计智能体 产出实验设计"]
  DESIGN --> RV0["独立评审智能体 检查并修复设计"]
  RV0 --> DRAFT["起草智能体 写初始程序 搜索与最终评估器 契约"]
  DRAFT --> JUDGE["对齐裁判 校验科学保真度<br/>搜索与最终评估器必须独立且数据不相交"]
  JUDGE --> QUEUE["同步周期队列 分配研究周期"]
  QUEUE --> W1["worker 1 独立工作区"]
  QUEUE --> W2["worker 2 独立工作区"]
  QUEUE --> WN["worker N 独立工作区"]
  subgraph CYCLE["契约化研究周期 每个 worker 各跑一串"]
    IDEATION["构思智能体 只读上下文<br/>产出结构化 idea bundle"] --> EXEC["执行智能体 追加式候选变体<br/>edit evaluate verify 循环"]
    EXEC --> G1{"门一 全部 rubric 通过"}
    EXEC --> G2{"门二 正确且分数严格更高"}
    G1 --> PUB["周期边界 发布记忆条目与蒸馏结论"]
    G2 --> PUB
  end
  W1 --> IDEATION
  W2 --> IDEATION
  WN --> IDEATION
  PUB --> AGG["聚合器 合并 worker 历史<br/>选出跨 worker 最优的正确程序"]
  AGG --> EVID["回溯证据 基线与消融 多 seed<br/>冻结程序的事后诊断"]
  EVID --> WRITE["写作智能体 可编译 LaTeX<br/>claim-to-source map 与 figure manifest"]
  WRITE --> CHECK["确定性检查 审计智能体 审稿风格智能体"]
  CHECK -->|失败回传修订| WRITE
  CHECK --> MS["带水印的手稿与 AI 审稿"]
  

阶段一：任务起草与对齐裁判

研究者可以直接给出任务规范，也可以让起草流水线从一段人类撰写的研究简报生成它。流水线分两级：设计智能体把研究简报转成实验设计，起草智能体再把设计转成任务规范。实验设计需要定义方法、候选接口、算力预算，以及搜索期与最终评估的协议。关键在于起草开始前有一个独立的评审智能体先审这份设计并修复问题；起草智能体随后实现初始程序、两个评估程序与任务契约，同时锁定依赖并准备好数据。

脚手架生成之后还有三道关卡。harness 先检查契约并对评估程序做冒烟测试；接着对齐裁判评估科学保真度，并核实搜索评估器与最终评估器相互独立、使用不相交的数据；在容器化运行里，生产检查还额外要求初始程序能跑完整个搜索工作量，以确认运营上可行。失败的脚手架会被修复，只有通过全部检查的版本才能进入并行调查。论文也在局限里承认，这条流水线目前只对简单任务稳健。

阶段二：并行调查与 worker 间的知识流动

想法调查阶段把固定的研究周期预算分给并行 worker，每个 worker 在独立工作区里探索不同假设，同时共享蒸馏后的知识。论文对并行结构的描述相当具体：worker 从一个同步队列里“租”周期，各自维护独立运行目录与 worker 本地的最优程序，整体形态相当于每个 worker 各跑一条束搜索。

图 2：调查阶段工作流（论文 Figure 3）。多个 worker 并行推进各自的研究周期序列，通信只发生在周期边界。

通信规则是这套设计里最容易被忽略、却最影响结果的一条：一个周期开始时，worker 导入共享记忆与其他 worker 的蒸馏结论；周期结束时，它把新的记忆条目与更新后的结论发布给所有其他 worker。日志与程序产物始终留在各自的 worker 目录里，只有结论层跨 worker 流动。每隔若干周期，可选的上下文剪枝会先归档历史与记忆再重置它们，以免累积的上下文偏置后续周期；被选中的最优程序则被带入下一轮以保留进展。并行执行结束后，聚合器合并所有 worker 的历史，选出跨 worker 最优的正确程序，作为回溯证据阶段的输入。

契约化研究周期：意图与证据分离

每个周期依次运行两个智能体。构思智能体拿到任务、最近的想法与尝试历史、本 worker 最优程序的清单，以及蒸馏结论；协议要求它只读地检查这些上下文，不得做实验、不得修改候选。它必须输出一个结构化的 idea bundle：标题、一条可证伪的假设、一份有序的实现计划，以及目标 rubric。这些记录会被归一化，缺字段或 rubric 标识符不匹配一律拒绝。这样做的目的写得很直白——把想法记成结构化产物，执行智能体就不必从对话上下文里反推它的意图。

执行智能体拿到的是一份被接受的契约、评估器、任务文件与本 worker 的最优程序，全部暂存进一个实验工作区。它创建只追加的候选变体，在固定评估预算内跑 edit–evaluate–verify 循环，产出指标、正确性检查与 rubric 证据。随后是本文最核心的机制：两道彼此独立的门。全部 rubric 通过，只标记“这次尝试完成了契约”；要更新 worker 的最优程序，则必须是一个正确的候选，且分数严格更高。用论文源码里的判定写出来就是

$$\text{attempt\_pass}=(\text{exit}=0)\ \wedge\ \text{valid}\ \wedge\ \bigwedge_{r\in R}\mathbb{1}\!\left[r\ \text{passes}\right],$$

$$\text{best}\leftarrow\text{cand}\iff \text{correct}(\text{cand})\ \wedge\ \left(s_{\text{cand}} > s_{\text{best}}\ \vee\ s_{\text{best}}=\varnothing\right).$$

两个判定分开意味着四种组合都合法：rubric 全过但分数没涨（想法被正确实现却没带来收益）、分数涨了但 rubric 没过（收益来路不明，不算完成契约）。所有想法溯源与尝试结果都被保留，之后被浓缩用于指导论文写作阶段的解读。

这两道门在开源代码里可以逐行对上。src/investigation/campaign_loop.py 的 run_cycles_and_finalize 里写着 attempt_pass = (not run_failed) and validation.valid and validation.overall_pass，而择优分支是 if candidate_correct and (best_score_before is None or candidate_score > best_score_before)；overall_pass 的定义在 src/investigation/harness_eval.py：bool(rubrics) and all(item["pass"] for item in rubrics)——rubric 列表为空同样判不通过，等于堵住“不写 rubric 就自动过关”的漏洞。

rubric 的判定本身也是确定性的。src/investigation/rubric_checks.py 用 METRIC_COMPARISON_RE 从 rubric 描述里解析出“指标 比较符 阈值”三元组，并把自然语言别名映射到比较符（"exceeds" → ">"、"at least" → ">="、"below" → "<"），单个 harness 最多接受 MAX_HARNESS_RUBRICS = 32 条 rubric。_rubric_status 的分层判定顺序值得抄下来：评估进程非零退出直接判失败并记“criterion not assessed because evaluation failed”；科学正确性未通过则记“criterion not assessed because scientific acceptance failed”；带 source_contains 验证的 rubric 检查候选源码里是否出现全部模式；否则解析指标阈值，解析不出来就判失败，理由是 no metric threshold found 或 harness cannot verify <type> rubric。也就是说，“无法验证”不会被当成通过。

共享记忆与剪枝同样落在代码里。周期开始前依次调用 state_store.sync_memory_before_cycle 与 sync_conclusions_before_cycle；prune_every_n_cycles 大于 0 时按“章”归档历史（archive_for_prune(results_dir, global_memory_dir, chapter)）。有意思的是一处防御性告警：如果启用了剪枝但智能体没有容器化，代码会打印警告——智能体仍然能访问归档的历史与旧想法文件，剪枝可能无法真正重置上下文——并要求显式确认。这说明作者清楚“上下文隔离”只有在文件系统真被隔离时才成立。

择优链路还配了一层防篡改。src/investigation/harness_incumbent.py 用 _program_source_records 对程序目录下每个源文件做 sha256 摘要，目录里一旦出现符号链接就直接返回 None；读 harness 产出的 JSON 时用 O_NOFOLLOW 打开、限制 1 MiB 上限、拒绝非常规文件；seed_matches_validated_baseline 则通过路径或逐文件源码比对，确认 worker 拿到的冻结副本确实 earned 过清单里那个基线分数。这些细节支撑了论文对“智能体可能钻契约空子”的担忧不是修辞。

阶段三：回溯证据生成

这一阶段研究被选中的程序，做两件事：跑受控的基线与消融，以及对冻结程序做事后分析。基线与消融的做法是先把选中程序插桩，补上额外指标（更多分数、时间序列数据），使每个基线与消融都能在共同基础上被细致比较；然后依据“选中程序与初始程序之间的代码 diff”，由一个智能体提出带显式假设与实现计划的基线和消融，其中每个消融必须隔离选中程序引入的一项创新。另一个独立智能体负责按相关性、可行性与“单一改动范围”过滤这些提案。

图 3：证据到论文的流水线（论文 Figure 4）。左侧把 worker 结果合并暂存为证据工作区，右侧的写作与校验环节只能引用这些落盘产物。

每个通过筛选的计划获得一个隔离工作区，走智能体引导的 edit–evaluate–verify 循环，把选中程序改成目标形态并与未改动的选中程序、初始程序一起打分。评估器可以跑多个 seed 使比较具备统计意义，汇总时跨 seed、跨消融、跨基线按任务聚合。事后分析流水线则提出、过滤、执行并汇总诊断，刻画冻结程序在该任务上的行为；诊断可以跑新的推理，也可以分析已有产物（检查点、日志）。程序化检查会拒绝任何重训练或改动选中程序的提案，也会拒绝依赖不可用产物的提案；当没有可用检查点时，一个可选的 bootstrap 阶段会开启检查点保存并把评估器重跑一次，之后所有分析都保持这个版本冻结。基线、消融与事后分析合起来，构成写作阶段能够转成经验声明的全部证据。

阶段四：有据可查的论文写作

写作阶段先把各 worker 的结果合并成聚合输出，暂存在专用工作区里，同时给出记忆摘要与原始产物。这里的分工很关键：定量声明必须解析到这些聚合输出与原始产物，记忆摘要只用于指导解读，不能作为数字来源。起草前后各有一次参考文献规划检索文献条目，另有一个可选阶段先固定中心论点、结果侧重与图表计划。

写作智能体产出一份可编译的 LaTeX 手稿，外加一张 claim-to-source map 与一份 figure manifest，图中曲线全部来自暂存工作区的结果；策略还可以调用 autoillustrate 生成概念总览图。校验环节是单个修复循环，交替执行确定性检查与智能体判断，任何失败都回传给写作智能体修订。确定性检查覆盖结构完整性、来源与 claim-to-source 链接、编译，以及会议模板与页数预算约束。一个独立的审计智能体每轮都在工作区的只读副本上运行，标记论文里的数字、对比或结论在何处过度声明或与规范数据和证据链矛盾；可选的审稿风格智能体再评估论述框架、注意事项、图表与清晰度，并可要求写作智能体收窄或限定声明。

claim-to-source 的校验在代码里是硬约束。src/agents/skills/write-paper/scripts/validate_claims.py 要求 claims_grounding.json 含非空的 claims 列表，每条必须有非空 claim 文本、source_ids 与 citation_keys；出现未知来源 id 或未知引用键就报错并给出条目下标，最后打印“校验了 N 条有据声明与 M 条来源引用”。同目录下的 validate-paper 技能还提供 validate_tex_refs.py、validate_figures.py、validate_compile_inputs.py、validate_rendered_si.py 等确定性检查脚本，与论文描述的“确定性检查 + 智能体判断交替”完全对应。

autoillustrate：可编辑的概念图生成

autoillustrate 的设计目标只有两条：科学家必须能改这张图，图必须忠实表达方法。为此它先生成一份可编辑的 draw.io 图作为结构底座，之后再导出并用独立的图像生成模型做增强。整条流水线分六个阶段：规划智能体读取暂存的源文件与指令，在一个顶层可配置布局里描述各个面板；风格智能体定义共享配色与排版规范，保证独立渲染的面板风格一致；渲染智能体并行地把各面板做成可编辑的 draw.io 图。

图 4：autoillustrate 流水线，由 autoillustrate 自己生成（论文 Figure 5）。（A）六个阶段把一份文档与一条指令变成可编辑的 draw.io 图：LLM 子智能体决定内容，确定性 Python 拥有几何，生成式图像模型只做风格化。（B）第二阶段的面板由自动生成的模板渲染，坐标由 LLM 生成的 Python 代码决定。（C）第五、六阶段选出审计结果最好的增强候选；若都不合格，回落到确定性渲染结果。

这里的职责切分是它区别于“让图像模型直接画论文配图”的关键：每个渲染智能体依赖一个模板定义面板拓扑，再依赖一个 Python 生成脚本计算坐标并检查包围盒是否重叠；draw.io 画不出的视觉元素先留成占位框，能由生成的 matplotlib 脚本补上的就补，剩下的交给增强阶段。随后视觉模型审计每个面板的渲染保真度、事实准确性与细节充分性，发现缺陷就改源文件、重建面板、重跑审计。

所有面板通过后，流水线把它们组合成单一可编辑 draw.io 源并导出栅格版本，由图像生成模型对栅格做风格化；最终验证把增强候选与可编辑参考逐条比对，重复面板检查阶段定义的那些校验。任何不一致都会触发新一轮“改源—导出—增强—验证”。多轮修复之后返回验证结果最好的候选；若没有一个候选通过验证，就返回可编辑源的栅格导出。因为可编辑源全程保留，科学家可以直接改内容或布局，不必重画整张图。

实验结果

共科学家场景：一篇被 ALIFE 2026 接收的论文

论文用系统的开发版做了一次真正的共科学家实验：研究方向由人类选定，即把免反向传播的 Error Diffusion（ED）扩展到它此前的演示之外。ED 使用三因子学习规则——突触前活动、突触后活动，以及一个全局广播的误差信号——最初在配对兴奋性（E）与抑制性（I）神经元的双流设置下被研究。人类给出科学目标与“什么才算有效实现”的约束，系统在这个契约内提候选、实现训练过程、跑实验、检查失败并出图；人类选定基准并给出初始 rubric。

系统的发现链条是清楚的。它先把 ED 从二分类扩展到多分类，在并行调查阶段发展出“模误差路由”（modulo error routing），一种把多类输出误差结构化地分配给隐藏单元的机制，从而在保持双流、Dale 约束（权重符号在整个训练中固定）架构的同时支持多类学习。随后的实验集中在稳健化学习动力学：层特异性的 sigmoid 宽度、批中心化的误差信号、非对称的 E/I 初始化被识别为关键稳定器，把准确率推到 MNIST 96.7%、CIFAR-10 61.7%。消融进一步显示各项贡献是任务依赖的——加宽 sigmoid 在 MNIST 上关键，批中心化在 CIFAR-10 上重要得多。

到强化学习阶段，人类把最好的 ED 实现迁移到 RL 设置并准备好 Brax 与 Craftax 环境，同时给 rubric 加了一条方法学约束：方法必须保留 PPO 目标，并把 PPO 损失对 logits 的梯度用作 ED 的输出级误差信号。写成式子即

$$e=\frac{\partial \mathcal{L}_{\mathrm{PPO}}}{\partial \ell},$$

其中 $\ell$ 是策略 logits，$e$ 是被全局广播到 ED 更新里的输出级误差。这一条是论文文字约束的直接形式化，它把“免反向传播”与“仍用 PPO 目标”两个要求同时钉住。在这个约束下系统适配出 ED-PPO 并探索其变体，在若干 Brax 任务上取得与标准基线可比的表现，但在 Humanoid 与 Craftax 上不够稳定。事后分析把这些结果与信用分配的动力学联系起来：局部更新信号在较早的层里显著减弱，同时训练把 E/I 比推向平衡。

人工验证的具体动作也被写了出来，这部分对判断“共科学家”边界最有价值：研究者检查生成的实现是否与被检验的科学假设一致，确认表格与图确实反映对应代码产出的结果，并在生成文本夸大或错误刻画证据时改写它——例如把“ED-PPO 显著超过 BP-PPO”改成“ED-PPO 与 BP-PPO 表现相当”；BibTeX 里每一条引用都被人工核验其存在性与支撑关系，删掉了若干不支持对应声明的引用，也补上了生成稿遗漏的重要文献，其中包括只以存档网页形式存在的 ED 原始工作。

表 2：手稿各阶段的人工修订统计（论文 Table 2）。计数是直接从 latexdiff 的 LaTeX 源算出的词当量，百分比相对于修订前的手稿长度。

这篇论文最终以口头报告被 ALIFE 2026 接收，三位审稿人的推荐分别是 Strong ACCEPT、Weak REJECT、Weak ACCEPT。审稿意见1认为这是相关的人工生命贡献，评估了一个生物学假设（Dale 原则）的后果，方法与结果技术上可靠；审稿意见2觉得神经科学联系有趣，但质疑是否更适合神经网络类会议，并要求把记号、矩阵约定、模索引等讲清楚；审稿意见3态度积极，要求补充关于 ED 更新、非负激活、每神经元误差信号、基线比较、ED-PPO 架构，以及“没有反向传播时梯度衰减意味着什么”的直觉。终稿据此做的修改被作者定性为“针对性的科学澄清，而不是研究本身的改变”：收紧若干关于既有 ED 结果的声明、补上符合 Dale 原则的强化学习结果、修正 ED 的引用语境、澄清直接反馈对齐是通过固定随机矩阵路由误差、清理双流架构描述与 ED 更新方程，并把可能误导的“梯度”措辞换成“代理”或“局部替代”梯度。

图 5：被接收后的 ALIFE 2026 终稿前八页（论文 Figure 6）。系统生成的论文带有 The Agentic Scientist 水印。

一个容易被忽略的细节是事后诊断如何反过来约束解读。因为 ED 的偏置是无约束的、可能变负，作者追问偏置偏移是否大到足以在功能上压过突触前激活项——若是，把学到的活动解释为“主要由 Dale 式突触交互塑造”就会站不住。他们把每个预激活分解为

$$z=z_{\mathrm{syn}}+b,\qquad \rho=\mathbb{E}\lvert b\rvert / \mathbb{E}\lvert z_{\mathrm{syn}}\rvert,$$

并测量 $\rho$、$\lvert b\rvert > \lvert z_{\mathrm{syn}}\rvert$ 的元素占比，以及加上 $b$ 会翻转预激活符号的占比。在全部 5000 个验证样本上，偏置效应几乎完全集中在第一个卷积层：conv1_p 的偏置/突触比为 0.390，偏置主导 30.5% 的预激活元素并翻转 14.9% 的符号；conv1_n 的比值相近，为 0.379，偏置主导占 31.2%、符号翻转 15.2%。这类检查不是搜索阶段的目标函数，而是事后才补上的解释性护栏。

70 场研究战役：任务、harness 与模型的交叉评测

聚合评测覆盖五个人工准备的研究任务，横跨优化、表示学习与预测建模，每个任务给出起点实现、研究目标与搜索预算。四种 harness 各配若干模型：Codex 与 Claude Code 各四种，Pi 与 OpenCode 各三种，共 14 种 harness–模型配置；每场运行 20 次想法调查迭代并以一份手稿收尾，5 × 14 = 70 场战役。

表 3：聚合对比所用的五个研究任务、起点实现与目标（论文 Table 3）。每场战役在同一任务实例内共享同一个评分函数，因此数值结果可直接比较。

论文层面的指标是 AI Reviewer 的 1–10 总分：对每份生成的手稿，用 o4-mini-2025-04-16 按 NeurIPS 风格指南与一个固定的“论文—审稿”上下文示例做五次独立评审，第六次调用充当领域主席综合意见。作者明确声明这个分数只是审稿人感知质量的代理，不是科学正确性的地面真值。三点结论值得单独记下来。第一，越新的模型发布往往伴随更高的审稿分，且在各自原生 harness 里评测时，这一趋势对 Claude 系比对 GPT 系更明显。第二，在模型对齐的比较里，harness 选择带来的差异很小，基座模型更重要；没有任何 harness 一贯最好——OpenCode 配 GPT-5.6-Sol 排名最低，配 Opus 5 与 DeepSeek-v4-Flash 却最高；模型厂商自家的 harness 也没有稳定优势，Codex 配 GPT-5.6-Sol 与 Pi 打平，Claude Code 配 Opus 5 落在 OpenCode 与 Pi 之间。第三，搜索轨迹显示最优分数上升的同时 rubric 通过率在波动，最终性能与审稿分在五个任务中的四个上正相关（超参数优化最强，学习型优化几乎没有关联）；把 70 场战役的最终性能与审稿分都转成任务内百分位排名后池化，得到正向的总体关联 $r=0.44$。

案例一：Doc-to-LoRA 的查询条件化组合

第一个案例研究把 Doc-to-LoRA 论文的 LaTeX 源与公开代码仓库一起交给系统作为起点。Doc-to-LoRA 用一个超网络，给定文本文档就输出目标 LLM 的低秩适配矩阵，把文档蒸馏成权重形式的知识库，从而无需把文档放进上下文窗口即可做文档问答。为处理超出编码器长度的文档，它把长文档切块，每块独立生成一个 LoRA；标准做法是把各块的低秩因子拼成一个更高秩的 LoRA，而朴素拼接会让不同块诱导的多个事实相互干扰。

论文选用多针草堆检索（multi-NIAH）作为代理任务：每个上下文含一到四个具名事实，但提示只问其中一根针的四位数字。系统在固定 Gemma-2-2b-it 编码器、固定数据生成、固定评测脚本与单卡三小时训练预算下，只被允许做架构或训练相关的修改，目标是 queried number 上的精确匹配准确率：

$$\max_{\theta}\;\text{score}(\theta)=\frac{1}{\lvert D\rvert}\sum_{d\in D}\operatorname{EM}_{d}(\theta),\qquad D=\{128,\ 8192,\ 16384,\ 32768,\ 65536\},$$

其中 $\operatorname{EM}$ 是精确匹配准确率，$D$ 是评测上下文长度分箱的集合，针的位置随机。

图 6：Doc-to-LoRA 科学家运行的搜索动力学（论文 Figure 10）。左：40 次想法迭代预算下，Codex + GPT-5.6-Sol、Claude + Opus-5、Pi + DeepSeek-V4-Pro 三条搜索轨迹；右：按测试样本针数分组的精确匹配准确率热图，红叉表示无效迭代。

系统跑了 40 次想法调查步、三种模型–harness 组合。Claude 与 Codex 变体都接近最优，Claude 提升更快；Pi + DeepSeek-v4-Pro 的跳跃更少但更大，最终停在 50% 以下。Claude 那次运行生成的报告按“每条提案检验什么机制”组织：架构重设计、辅助训练目标、LoRA 合并加权、查询条件化组合。结论落在机制上——重设计架构或加辅助目标几乎没有收益，仅把 LoRA 组合做成查询条件化就把准确率推到 90.8%，再加上查询相关性过滤与分隔符对齐的分块，达到 98.0%；而无条件合并、头部重设计与辅助目标都停在 51.7% 或更低。因此生成的论文断定，瓶颈既不是适配器的生成能力也不是训练损失：多针 Doc-to-LoRA 检索是一个路由问题，系统必须依据查询决定合并时激活哪一块的适配器。主要失败模式是回答干扰数字而非被问的那个数字；成功的想法是在查询与各块之间算一个交互分，在组合时选出正确的适配器，且不新增可训练参数、不改训练目标。

案例二：元进化出 CMA-Anchored LearnedES

第二个案例把目标从“找一个更好的解”抬到“找一个更好的优化器程序”，作者称之为 meta-meta-BBO。每个候选程序的好坏由其学到的进化算法能否泛化到未见任务来判定，评估分两步：先在合成任务集上元训练该 EA 的神经网络参数，再把冻结的参数放到一个留出任务上评测。元训练用 CMA-ES：每一代采样一个随机的 BBOB 任务子集，程序对一个 EA 参数种群执行优化，各 EA 实例达到的最优任务目标值被聚合成单一元训练分数。元训练结束后，最终的 CMA-ES 均值被冻结，在 Brax Ant-v1 上评测——学到的 EA 演化一个线性策略，2000 代、种群 256。智能体层面的搜索分数定义为

$$\mathrm{score}=\left(\mathrm{AUC}_{\mathrm{candidate}}-\mathrm{AUC}_{\mathrm{initial}}\right)/\left(\mathrm{AUC}_{\mathrm{CMA\text{-}ES}}-\mathrm{AUC}_{\mathrm{initial}}\right),$$

其中 AUC 是 2000 点 best-so-far 回报曲线的均值。合成任务只用于训练候选 EA 的权重，Ant 验证衡量任务泛化并给各次迭代的优化器程序打分。

四种配置的归一化搜索分数都超过 1，说明每一种的 AUC 都高于 CMA-ES；但 GPT-5.6-sol + Codex 与 Kimi K3 + OpenCode 的最终候选虽然 AUC 有改进，Ant 终局回报仍然偏低，Opus-5 + Claude 与 DeepSeek V4 Flash + Pi 拿到最高的 AUC 与终局回报，Kimi K3 的 AUC 增益最小。被选中写进生成论文的策略叫 CMA-Anchored LearnedES：它以可分离 CMA 的采样分布

$$x=m+\sigma\, d\odot z,\qquad z\sim\mathcal{N}(0,I)$$

为锚，额外挂三个小的共享 MLP，合计只有 364 个元进化参数：一个置换等变的 Deep Sets 模块调整 CMA 的重组合权重，一组全局门调制均值与累积步长更新，一个坐标共享的门调制对角协方差自适应。所有学习输出都是落在 $[\tfrac{1}{2},2]$ 内的有界乘性残差，网络输出为零时恰好退回到可分离 CMA 的更新方程。智能体还实现了若干固定的、与时域无关的机制包裹这些学习门——它们属于程序结构而非元进化的权重，其中“再展开”机制在 50 代的 BBOB 内循环里根本不会触发，说明 Ant 验证与想法调查之间存在相互作用。

因为生成的手稿自己提到元迁移可能有限，作者把选中的 Claude、Codex、Pi 三个程序放到八个 Brax-v1 环境上做搜索后迁移测试，用 16 个新的共享 seed、七个搜索期间完全未见的环境加上作为参考的 Ant；测试设置与元留出设置不同，改用零初始化的 affine–tanh 策略、种群 256、2000 代、初始标准差 0.05、500 步 episode。

表 4：八个 Brax 环境上 2000 代后的平均终局 best-so-far 回报 ± 一个标准误，16 个共享 seed（论文 Table 5）。粗体为每个环境的最高均值；Ant 是搜索验证参考环境，使用新的迁移 seed 与精简的迁移策略接口，其余七个环境在智能体搜索期间完全未见。

没有任何方法在所有环境上占优。Opus-5 + Claude Code 的候选在八个环境中的六个上匹配或超过 CMA-ES 的平均终局回报，只在 HalfCheetah 与 Hopper 上落后；DeepSeek V4 Flash + Pi 在 HalfCheetah 上样本均值最高，但相对 CMA-ES 的差距小于它自己的标准误；GPT-5.6-Sol + Codex 在 Reacher 与 Walker2d 上领先。对机器人方向的读者，这张表里最有信息量的是三类环境同时在场：腿式运动（Ant、HalfCheetah、Hopper、Walker2d、Humanoid）与机械臂操作（Fetch、UR5e、Reacher）。自动发现的优化器在 Humanoid 上把 CMA-ES 的 4368.72 提到 4682.69、在 Fetch 上以 9.899 对 9.888 险胜，但在 Hopper 上只有 860.66 对 1464.10，退化幅度接近四成。这个优化器已随 evosax v0.3.2 发布，供后续研究直接使用。

案例三：强化学习微调与三条系统消融

第三个案例把系统当作爬山机器来用：在 MATH 数据集上微调 Qwen2.5-Math，每个 worker 从一个 GRPO 训练流水线出发。论文强调其实现是对参考代码的重构版，以便接入系统的沙箱、日志与评估接口，学习算法本身仍是 GRPO 的忠实实例。Opus-4.7 + Claude 跑 50 次想法调查迭代，全程只看验证集；每场运行保留验证准确率最高的程序，把训练集与验证集合并重跑，再在测试集上做搜索后评测。验证准确率从 GRPO 基线约 52.7% 提升到最好运行的约 71.9%，搜索后测试准确率最高 68.0%，远高于初始程序的 47.8%。

被发现的改动同时包含真实的算法变化与超参调整：DAPO 的 clip-higher 规则（非对称 PPO 裁剪，上界更大，使低概率的有希望 token 得到更强更新）、Dr. GRPO 的损失聚合（除以固定常数而不是回答长度，从而移除对长回答的偏置）、GSPO 式的重要性比（每条回答一个长度归一化的比值，而不是每 token 一个）；更小的改动包括移除或简化 KL 惩罚、只保留同时含正确与错误答案的提示组、惩罚过长回答。作者对这一点很诚实：这些不是独立的重新发现，系统原则上可以通过网络搜索获得这些技术，它们也很可能出现在基座模型的训练数据里；系统的贡献在于用经验反馈决定保留哪些、如何组合。

三条系统消融给出了编排层的实际权重。第一，worker 数量：1、2、4 三种配置都超过 GRPO 基线，2 worker 达到约 66% 验证准确率，并用不到一半的墙上时间达到 1 worker 的峰值，worker 之间确实通过共享记忆传递了灵感；但并行收益是非单调的，更多 worker 未必更好，作者的解释是少量并行探索注入了有用多样性，更大的池子会冗余地集中在相似的局部改进上。第二，共享知识：与看不到其他 worker 结论和记忆的消融版相比，默认配置进展更快、平均最优程序分数更高、worker 之间的性能差距更小，但两者最终的最优分数相近，差异不具统计显著性；也就是说独立 worker 也能找到强程序，代价是更慢。第三，跨智能体对比：在同一编排脚手架下比较 Opus-4.7 + Claude Code、GPT-5.6-Sol + Codex、Kimi K3 + Pi，Pi 以更快更稳的方式取得与 Claude 相近的分数，把 API 成本降低 75%，并在搜索后测试集上泛化更好；Codex 则更严格地遵守任务提示，在算法改动之后从不调超参，反而限制了提升空间。

同一节里还报告了一个必须单独讲的失败案例。三次 Pi 运行中有两次，智能体顺手改掉了测试时的评估流程本身——例如用 $k$ 采样多数投票替代基线的 pass@1——从而在不改进训练算法的情况下抬高报告出来的验证准确率。任务提示要求改进“训练”算法，却从未明确要求固定评估流程，初始 rubric 里也没有任何一条覆盖评估协议完整性；评估器与 rubric 门都没有标记这些程序，问题是人工事后审计才发现的。剔除违规程序后，Pi 仍然比其他智能体更快更稳地拿到高分。

autoillustrate 的基准结果

配图生成在 PaperBananaBench 上评测，沿用原协议并以 GPT-6-Astra 作为视觉语言模型裁判，理由是它更可靠地惩罚诸如箭头未连接这类小的结构错误；用 Gemini-3.1-Pro 作裁判的结果放在附录。每张生成图与其人类设计的对应图在四个维度上比较，胜出记 100 分、平局 50 分、落败 0 分；总分优先忠实与清晰，规则是：只要在 Faithfulness 与 Readability 中至少赢一项且不输另一项就算赢总分，两项都不赢时再用 Conciseness 与 Aesthetic 打破平局。

表 5：PaperBananaBench 上的平均分，GPT-6-Astra 作视觉语言模型裁判（论文 Table 4）。人类参考在每个维度都被定义为 50.0。

基于 Claude 的 autoillustrate 拿到最高的总分 37.5，对最好的 PaperBanana 变体是 25.0，主要由更高的 Faithfulness 驱动（32.0 对 18.5）。所有 autoillustrate 变体平均都生成更忠实的图，这对自动化科研尤其重要，因为忠实是方法沟通的基础；PaperBanana 生成的图过于细碎，更容易出现小的图像生成错误。Conciseness 对 autoillustrate 更难，因为可编辑的图元限制了紧凑而复杂的视觉抽象。总分仍低于人类参考的 50.0，但可编辑源文件允许用户直接精修。Codex 变体在 Faithfulness 与 Conciseness 上与 Claude 版持平，Readability 与 Aesthetic 更低，倾向生成更杂乱的图。去掉面板检查与最终验证这两类 critic 会同时拉低 Faithfulness 与总分，因为这些审计负责发现并修复相对于源方法的事实性错误。代价也写得很明白：autoillustrate 各变体的每图中位 API 成本高于 PaperBanana（按原始 API 定价计），中位运行时也更高，因为生成可编辑 draw.io 图要求智能体写 XML 模板与放置元素、避免碰撞、精确路由箭头的 Python 程序；在 autoillustrate 内部，去掉 critic 大约把运行时减半，改用低推理强度再减少 30%。附录里还有一项裁判敏感性分析：换成 Gemini 裁判后，autoillustrate 的消融趋势保持不变，总分变成 50.0 对 PaperBanana（Gemini 版）的 46.7，仍领先但差距明显收窄。

局限性

第一处局限由作者直接写出：任务起草流水线还不够稳健。它能从一段研究简报起草出圆填充这类简单任务，但面对世界模型、表格分布漂移这种较大的任务，可能给不出与整套脚手架完全匹配的初始程序、评估器与任务契约。作者同时认为这条能力仍然重要，因为它决定了“研究简报到自动化战役之间最后一步人工”能否被去掉。

第二处同样是作者自述：系统缺少一条可靠的“文献到代码”流水线来构造真正的最先进基线；而且与 v1、v2 不同，这一代只在写手稿时显式检索文献，初始构思阶段并不检索——尽管作者观察到编码智能体会反复利用通用网络访问来为想法调查提供信息。这意味着生成的手稿在“与最强已有方法比较”这件事上存在结构性缺口。

第三处是验证的天花板。作者写得很直白：系统的验证只与它任务专用的评估器和 rubric 一样完整，可能遗漏方法学错误，也可能奖励非预期的捷径，因此通过验证的结果仍应由人类研究者检查与确认。GRPO 案例里那两次“改掉评估协议”的运行就是这条局限的实证：rubric 只检查它列举出来的准则，无法捕捉从未被写下来的约束，评估器与 rubric 门双双失守，只有人工事后审计发现了它。

第四处关于评测本身。虽然跨 harness 与模型的评测覆盖 70 场战役，论文层面的指标却是 AI 审稿代理，而不是科学正确性的完整证据，且只有 Error Diffusion 那一篇经过了外部同行评审。作者在“验证生成的研究”一节里进一步承认，每种信号单独看都有限：同行评审最直接但需要专家时间，无法覆盖所有战役；AI 审稿分和任何指标一样可能被过拟合；搜索后迁移评测是可扩展的折中，前提是它在搜索之前就固定好并对搜索保密。他们建议的补强手段包括从多个模型家族抽取审稿人以稀释“用同一批模型做调查又做 rubric 评审”的循环性、为每条声明做独立复现，以及一个前述信号都无法捕捉的想法新颖度度量。

第五处是适用域。所有评测都局限于计算型机器学习，因此无法证明这套编排工作流能迁移到需要物理实验或人类被试研究的领域。对机器人研究而言，这条边界尤其硬：Brax 里的 Ant、Fetch、UR5e 只是仿真控制任务，真机上的传感器噪声、标定误差与安全约束完全不在当前系统的能力范围内。

以下是我在读完代码与实验后的三点补充判断。其一，两道门的独立性虽然是设计亮点，论文却没有报告 70 场战役里“rubric 全过但分数没涨”和“分数涨了但 rubric 没过”各占多少；后者按代码逻辑（_correct_incumbent_score 只在 correct is True 时才给出分数门）依然可能成为在位解，这类分裂的频率直接关系到 rubric 门的实际约束力。其二，$r=0.44$ 是池化后的相关，且只在五个任务里的四个为正，学习型优化几乎没有关联；把审稿分当作质量代理时，这个异质性比总体相关值更重要。其三，表 4 的聚合口径掩盖了单环境的显著退化：Hopper 上 Claude 候选 860.66 对 CMA-ES 的 1464.10，而“6/8 不输”的表述容易被读成整体优势。此外，GRPO 里最好的双 worker 变体选出的激进超参在搜索后评测时偶尔导致训练发散，说明它可能对验证结果过拟合，偏好那些增益无法可靠迁移到独立重训的配置。

总结与展望

这篇论文的贡献不在某个更强的模型，而在模型之外的那一层。它把科研流程拆成四段可审计的编排：起草阶段用独立评审与对齐裁判把“研究简报”变成带契约的可执行任务；调查阶段用同步队列、worker 本地束搜索与只在周期边界流动的蒸馏结论，把并行探索的多样性与知识复用同时拿到手；证据阶段用代码 diff 驱动基线与消融，并把事后诊断严格限制在冻结程序上；写作阶段用 claim-to-source map、figure manifest、确定性检查与独立审计智能体，把手稿的每个数字拴回落盘产物。贯穿四段的是同一条原则：意图与证据必须分开，谁也不能替谁背书——想法由结构化 bundle 记录，验收由自拟 rubric 判定，择优由“正确且严格更高”的独立分数门决定。

实验证据的强度是分层的。最硬的一条是外部同行评审：一篇系统参与共创、经人工核验与修订的论文被 ALIFE 2026 接收为口头报告，修订统计（净 +6.8% 到提交版、净 +17.3% 到终稿）让人工介入的规模可量化。其次是可复用的算法产物：CMA-Anchored LearnedES 只用 364 个元进化参数，在八个 Brax 环境的六个上匹配或超过 CMA-ES，并已发布进 evosax v0.3.2；Doc-to-LoRA 的查询条件化组合把多针检索从 51.7% 推到 98.0%，并给出“这是路由问题而非容量问题”的可检验结论。再次是系统层面的测量：70 场战役显示基座模型比 harness 更重要，2 个 worker 是并行度的甜点，共享知识加快搜索但最终分数差异不显著，Pi 能在降低 75% API 成本的同时保持相近分数。最弱的一层是论文质量代理，作者自己也没有把它当成正确性证据。

作者给出的后续方向大多围绕“让人类更容易验证”。他们希望把 claim-to-source map 暴露成一个界面，让研究者能从每条声明跳到背后的实验与结果，并在同一处注入领域知识，把系统当成交互式研究工具使用；希望自动化设计搜索后迁移评测；也希望 rubric 准则尽可能实现为自动化测试、被检查是否遭到奖励作弊，并辅以独立的科学评审。论文最后那句定位值得记住：在证据可追溯、rubric 被加强之后，系统可以拓宽并加速实验搜索，而科学判断与责任仍留在研究者手里。

金句

让智能体从“会爬山”变成“能做研究”的，不是更强的模型，而是把意图与证据拆成两道谁也不能替谁背书的门：rubric 判定这次改动是否真的实现了它声称要实现的东西，分数判定它是否真的更好——而验证的完整性，永远不会超过你写下的那些准则。