Skip to content
←返回博客
AI 在加速 AI 研发吗?METR 对 Anthropic 的高权限独立评估
AI R&D AutomationFrontier AIAI Evaluation

AI 在加速 AI 研发吗?METR 对 Anthropic 的高权限独立评估

METR 在 Anthropic 进行十一周高权限评估,估计明确定义任务的能力增速约为历史两倍;报告同时揭示 AI 归因、瓶颈与删改权带来的证据边界。

METR / Tom Cunningham, Nate Rush, Parker Whitfill, Hjalmar Wijk2026年11月5日5 分钟阅读40次阅读
EN

先看证据边界,再看结论。这不是一份普通的能力评测。Anthropic 向 METR 开放了比常规外部评估更多的内部数据,但同时保留了单方面删改所有非公开信息的权利。METR 可以公开最高层的风险判断,却无法公开对判断影响最大的大部分证据。Anthropic 将删改解释为移除可能加速其他 AI 开发者的机密信息。无论这个理由是否合理,公开读者面对的现实都是:能看见主要指标和若干稳健性检验,却无法独立复核支撑 METR 判断的最强证据。

2026 年 8 月 12 日至 10 月 29 日,METR 投入约 2.5 个全职人力,在 Anthropic 内部进行了十一周的高权限评估。评估围绕三个问题展开:Anthropic 内部模型能力的增长率是否加快;如果加快,AI 在多大程度上是原因;未来一年是否存在足以阻止继续加速的瓶颈。METR 审阅了内部模型基准、算法效率、训练算力、员工调查、内部报告、代码活动、推理支出、未来模型预测,并访谈了约十五名员工。METR 没有直接查询未公开模型,也没有像内部员工一样自由浏览系统和观察日常工作。

核心估计是:截至 2026 年 10 月,Anthropic 在定义明确的任务上提升模型能力的速率,可能约为 2024 年 3 月至 2025 年 10 月期间的两倍。这里的“两倍”必须按增长率理解。它不表示模型能力翻倍,不表示每项任务耗时减半,也不表示过去一年的进展完全由 AI 造成。它的含义是:2025 年 10 月后的估计增长斜率约为此前斜率的两倍。主指标 AECI 的 95% 置信区间是 1.5 至 2.8 倍;METR 的整体主观不确定性更大,认为真实值接近 1.3 倍或 3 倍都不奇怪。

Anthropic 模型的 AECI 分数在 2025 年 10 月后变陡,后段斜率约为前段的 1.9 倍。
METR 的 AECI 主拟合按“多数 Anthropic 员工可以使用该快照”的日期排序。2025 年 10 月前约为每年 15 个指数点,之后约为每年 29 个指数点。橙色内部模型是 METR 估计高于公开系统卡估计的主要原因。

一、先用一页看懂结论

METR 估计,自 2025 年 10 月起,Anthropic 的 AECI 趋势出现了 1.9 倍加速,95% 置信区间为 1.5 至 2.8 倍。AECI 是 Anthropic 版本的 Epoch 能力指数,把多个基准的结果合成为一个潜在能力分数。如果接受这个估计,Anthropic 过去一年取得的基准进步大约相当于此前两年的进步,粗略对应 Claude 2.1 到 Sonnet 4.5 之间的变化。

这个结果不是只靠一种回归设定得到的。METR 更换了模型快照、基准集合、正则化和连接函数,大多数设定仍给出接近两倍的估计。敏感性最大的是连接函数,不同任务难度分布假设下会从 1.1 倍变到 2.9 倍。把其他前沿模型也纳入后,估计降至约 1.4 倍。Anthropic 的 Haiku 5.5 系统卡报告 1.7 倍;METR 更高,主要因为纳入了更新的未公开模型。

主要数字及其能说明与不能说明的内容
估计 数值 含义 主要限制
AECI 主估计 1.9 倍,95% 置信区间 1.5 至 2.8 倍 2025 年 10 月后的增长斜率除以此前 Anthropic 趋势。 AECI 可能编码了特定基准假设,也未必对应复杂真实工作。
METR 对总体能力增速的主观判断 约 2 倍,1.3 倍和 3 倍都仍可能 限定于定义明确的任务,而非所有研发活动。 团队内部仍有分歧,对更模糊任务的迁移不确定。
纳入全部前沿模型 约 1.4 倍 Anthropic 单独趋势的加速高于跨模型趋势。 Anthropic 在 2025 年前可能低于前沿,历史斜率偏低。
METR 对当前 AI 贡献的猜测 或许约 80% AI 可能解释当前加速的大部分。 这是综合判断,不是被识别出的因果系数。
最新模型的 Slack 自报 约 12 倍 员工认为 AI 让个人工作快了很多。 样本自选、投入很低,个人提速不等于组织加速。

报告最重要的否定性发现与训练算力有关。METR 表示,它获得了有说服力的证据,可以排除“训练算力的增长率本身突然加快”作为能力加速的主要原因。这不意味着算力不重要,而是说观察到的能力曲线弯折不能简单归因于 Anthropic 突然提高了训练算力的增长斜率。支持这个判断的具体证据被删改。

最有风险含义的发现与复利效应有关。METR 没有找到算法、训练算力、实验算力或数据方面会在未来十二个月内形成硬约束的证据,但它多次随着新信息改变判断,因此信心不高。如果更强的模型能改进制造下一代模型的工具,而关键投入又没有立刻见顶,能力增长本身就可能继续加速。正因如此,1.9 倍不只是一个历史统计量,它还提示未来趋势可能比当前斜率更陡。

二、为什么机器人研究者也应当关心

这项研究测量的是 Anthropic 的软件和模型研发流程,不包含机器人。报告没有估计操作、行走、导航或仿真到现实迁移的加速幅度。它与具身智能的关系是基础设施层面的,而不是把语言模型研发数据直接外推到机器人。

第一层关系是模型组件。前沿模型越来越多地承担机器人的感知、语言理解、任务规划、策略生成和失败解释。模型能力、实验吞吐、评测设计和算力配置的变化,会影响构建具身系统所依赖的工具链。第二层关系更直接:机器人学习本身包含大量代码、数据处理、仿真变体和训练配方迭代,这些环节可能被 AI 工具显著加速。

METR 的访谈描述了这种机制。一名研究者估计,从想法到实验的时间缩短了约 80%。另一名说,工作如今受想法和算力限制,不再主要受写代码限制。还有研究者表示,过去需要一两天实现的实验,现在可以快速并行尝试。这些说法支持“单位研究人员能做更多实验”,但尚未证明整个组织的有效研发产出也同比例增长。

不能把这种速度直接搬到机器人。物理实验仍受硬件可靠性、制造周期、安全审查、机器人机时和数据采集成本约束。代码环节加速后,约束可能转移而不是消失。如果组织生成候选策略和评测方案的速度远高于真实验证能力,软件加速反而会产生更多未经验证的候选。METR 区分个人提速、输入增长和最终能力增长速度,这个框架对机器人研发尤其有价值。

治理层面的启示同样明显。一家实验室可以发布能力曲线,同时不公开最有助于解释曲线的内部证据。随着模型研发自动化与物理系统安全论证发生交集,外部评估不能只看一个干净的基准分数,还需要理解实际研发回路。如果决定性的观察无法被描述或复核,报告就很难被称为独立可审计。

三、到底怎样定义“加速”

METR 把问题拆成三种增长率。历史增长率是趋势变化前的斜率;当前增长率是 2026 年 10 月附近的斜率;反事实增长率是如果 Anthropic 不能使用 AI,在同一时点原本会有的斜率。前两者可以从数据估计,第三者必须推断。

设能力指标为 $C(t)$,其指数增长率为

$$g(t)=\frac{d}{dt}\log C(t).$$

观测到的历史加速比是

$$A_{\mathrm{historical}}=\frac{g_{\mathrm{current}}}{g_{\mathrm{historical}}}.$$

更接近“由 AI 造成的加速”的表达式是

$$A_{\mathrm{AI}}=\frac{\log g_{\mathrm{current}}}{\log g_{\mathrm{counterfactual}}}.$$

第二个公式沿用了报告中的指数示例。如果某指标原本每年增长 3 倍,要在一年内完成原本两年才能完成的进展,增长率必须变成每年 9 倍,因为 $3^2=9$。在对数尺度上,加速比是 $\log 9 / \log 3=2$。公式的作用是迫使分析明确写出反事实,并不表示所有能力增长都严格服从指数模型。

最常见的误读,是把增长率之比当成水平值之比。2 倍加速不表示 2026 年 10 月模型比旧模型有用两倍,也不表示每个员工生产率翻倍。它只表示测得的能力改进速率大约翻倍。另一个独立问题才是:自 2025 年 10 月以来累计取得的进展中,有多大比例可归功于 AI?累计归因通常低于瞬时归因,因为 2025 年末的非 AI 因素也发挥了作用,而 AI 的影响可能随时间增长。

AECI 主模型采用带一个断点的分段线性拟合。公开模型按其最后一批多数员工可用的快照日期计算,而非按后续公开发布日期;未公开模型采用获得较大内部使用量的快照。主设定的断点估计为 2025 年 10 月 7 日。每个前沿快照等权,置信区间通过按模型分层、对基准分数进行有放回抽样得到。这个区间没有包含“哪些模型算前沿”的模型选择不确定性,因此报告另外做了快照选择检验。

权限很广,但并非无中介。METR 可以请求任何它认为相关的信息,Anthropic 可以逐项批准或拒绝。双方经常协商到一个折中:信息量足够、敏感度可接受、提取成本也可控。METR 说实际权限超过最初预期,但这不是员工级访问。团队不能自由浏览内部系统、旁听讨论或直接查询未公开模型,信息管线主要经由少数 Anthropic 技术人员和预先选出的数据与文档。

四、AECI:约两倍的弯折如何得到

AECI 把多个基准结果映射到统一潜在能力尺度。模型在某个基准上的得分被视为潜在能力与题目难度的函数。主估计采用逻辑斯蒂连接函数,它假设题目难度大致对称、尾部按指数衰减。如果难题目有很长的厚尾,对数对数连接可能更合适;如果容易或可猜中的题目过多,互补对数对数连接可能更合适。

三种连接函数,分别把潜在模型能力与题目难度映射为基准得分。
连接函数编码了“一个基准里的题目难度如何分布”的假设。即使潜在能力相同,不同连接也会预测不同的得分曲线。

主结果是 1.9 倍,但连接函数带来的不确定性很大。互补对数对数设定给出 1.1 倍,区间为 0.8 至 1.5;柯西连接给出 2.8 倍;对数对数连接给出 2.9 倍;数据学习的双尾连接给出 2.6 倍。除柯西连接外,不同设定的样本外拟合优度很接近,数据本身不能决定哪一种难度分布才是真的。METR 保留逻辑斯蒂主设定,是因为 Epoch 和 Anthropic 默认使用它,而不是因为其他可能性已经被排除。

AECI 对任务难度分布假设的敏感性
连接函数 任务分布直觉 估计加速 样本外决定系数
标准逻辑斯蒂 题目难度对称,尾部指数衰减。 1.9 倍 [1.5-2.8] 87.2%
概率单位 简单题和困难题的尾部都更短。 1.8 倍 [1.3-2.7] 87.1%
柯西 两端都有更厚的尾。 2.8 倍 [2.0-4.1] 86.1%
互补对数对数 简单题具有长尾。 1.1 倍 [0.8-1.5] 87.1%
对数对数 困难题具有长尾。 2.9 倍 [2.1-4.9] 86.9%
数据学习的双尾族 从全部数据估计两端尾部。 2.6 倍 [1.8-4.1] 87.0%

快照和基准选择带来的变化小一些。只取每个模型的最高快照得到 1.9 倍,只取第一个快照得到 2.2 倍,全部快照得到 1.9 倍。去掉视觉基准得到 2.2 倍,只保留 Claude 判定与 AI 研发相关的基准得到 2.0 倍。去掉平均随 AECI 下降的基准、逻辑拟合低于 50% 的基准,或在一个基准达到 85% 后停止使用,结果都仍约为 1.9 倍。正则化变化给出 1.9 至 2.1 倍。另有一组因被删改原因而选择的模型子集同样得到 1.9 倍,但公众无法检查这张图。

测量工具有两个明确问题。第一,Model 4 在它参加的全部十五个 AECI 基准上都超过 50%;九个月前的 Opus 4.6 仍有许多基准低于 50%。基准一旦变得太容易,就无法长期区分能力。METR 在题目达到 85% 后将其剔除,主加速仍然为 1.9 倍,但未来区分能力明显下降。

第二,评测允许使用的 token 可能不够。一个典型内部任务大约使用 250 万输入 token 和 7.2 万输出 token,代理式编程任务约使用 1000 万输入和 9.4 万输出 token。这个预算高于部分公开评测,但 METR 猜测继续增加推理 token 仍可让分数提高几个点。如果新模型从额外推理中获益更多,当前加速就会被低估。由于缺少覆盖所有模型的完整支出收益曲线,报告无法定论。

前沿模型基准分数在对数几率尺度上的分布,其中十五个用于 Model 4 的基准被突出显示。
Model 4 使用的大多数基准在对数几率空间内近似线性,符合逻辑斯蒂假设。METR 仍标记了三个明显偏平或凹的拟合,并提醒 Model 4 在全部相关基准上都已高于 50%。

全部前沿模型的比较尤其关键。把 Anthropic 内部模型与其他前沿模型放在一起时,估计降到约 1.4 倍。一种解释是 Anthropic 在 2025 年的一部分时间里低于行业前沿,因此历史斜率异常低;这会使单独分析 Anthropic 得到的 1.9 倍偏高。另一种解释是 Anthropic 过去对基准优化较少,早期横截面趋势过陡,于是 1.4 倍偏低。报告无法完全裁决。历史分母是主结果不确定性的核心来源,而不是一个可以忽略的脚注。

过去系统卡曾提出另一种可能:Mythos Preview 附近出现一次性的水平跃迁,随后能力又回到旧趋势。METR 认为新增内部模型使“永久斜率变化”比“一次性跳升”更可信。但这个判断仍部分依赖只有 METR 和 Anthropic 能看到的快照。

 METR 在不同基准校准、模型纳入和趋势建模选择下的加速估计比较网格。
比较网格显示,基准校准、模型纳入、日期处理和时序模型都会改变估计。与公开系统卡最大的不同,是加入近期内部模型并将趋势限定在 Anthropic。

五、归因:为什么猜测 AI 约占 80%

看见加速比解释加速容易。METR 检查了训练算力、招聘、数据改进、算法发现、组织变化以及其他瓶颈的缓解。它认为证据不支持“训练算力增长率突然加快”是主要原因,但除此之外没有决定性答案。Anthropic 内部员工对原因也没有共识。

METR 当前的主观判断是:2026 年 10 月的加速中,多数可能来自 AI,或许约为 80%。这个数字不是回归系数,而是对访谈、自报、内部分析、员工行为和被删改证据的综合。METR 同时认为,2025 年末的加速明显受到非 AI 因素影响。招聘、组织调整、研究选择和瓶颈缓解可能先启动了趋势,AI 的份额随后才上升。

示意性拆分观测到的加速、可由 AI 解释的部分以及其他原因。
METR 把观测到的增长率变化与没有 AI 时的反事实增长率分开。报告对训练流程各阶段瞬时和累计 AI 贡献的详细估计均被删改。

瞬时贡献和累计贡献不能混为一谈。假设 AI 解释了今天加速的 80%,不代表 2025 年 10 月以来全部进展的 80% 都来自 AI。早期进展可能更多来自其他变化,AI 的份额则逐步上升。反过来,即使当前瞬时份额较小,只要加速率持续提高,累计效果也可能很大。访谈中的研究者经常没有区分这两个概念,因此 METR 没有把某一句“这是 AI 带来的”直接当作瞬时增长比。

报告的核算框架从可观测能力出发,向回追溯到预训练和强化学习,再追溯到算法、数据质量和算力。它要求分析者指出哪一层输入的增长斜率发生变化,而不是从一条总曲线直接断言因果。METR 说完整报告使用了这个框架,但相关应用和详细估计被删改。公开版本保留了论证骨架,却没有保留可以重算结论的证据。

把算法、数据质量和算力连接到预训练与强化学习强度,再连接到能力的核算框架。
核算是分解框架,不是自动识别因果的方法。它从能力回溯到预训练和强化学习,再回溯到算法、数据与算力等输入。

一个容易被忽略的解释是边际收益递减。AI 提高研究人员生产率,但组织仍受收益递减约束时,更多产出可能维持更高斜率,却不一定让斜率持续上升。总体速度真正加速两倍,通常要求输入数量、输入生产率或配置方式发生相当大的变化。METR 担心复利,是因为 AI 能同时提高研究生产率和研究工具的制造速度。同一反馈回路在一年期比较里可能只是一次弯折,在增长率的导数上却可能很大。

因此,80% 应被理解为一个高度压缩的定性判断:METR 认为 AI 是当前最大贡献者,但不认为其他原因消失,也无法识别精确反事实。报告说现有证据“与较大的 AI 贡献相容”。相容比受控因果识别弱得多。

六、访谈和自报:有信息量,但不是捷径

METR 与 Anthropic 访谈了多名研究者,询问 AI 如何改变其工作。访谈长度和深度不一,回答经常混合个人与团队、累计与瞬时、局部与公司整体等不同口径。METR 使用 Claude 汇总并分类引语。公开表中的十一人里,两人明确支持其所在领域出现 2 倍或更高加速,三人倾向支持,四人模糊或无法判断,无人倾向反对,两人不支持。这是效果存在的线索,不是干净的分布估计。

去除敏感细节后的访谈证据概览
研究者 代表性证据 METR 分类
研究者 A 支持超过 2 倍,称从想法到实验的时间减少约 80%,工作已受想法和算力而非代码限制。 支持
研究者 B 把体验比作拥有博士后和研究生,估计个人生产率约为 3 倍。 支持
研究者 C 实验提案可以直接指向代理线程,实验组织成本快速下降。 倾向支持
研究者 D 过去每个想法需要一两天实现,现在可以并行尝试大量实验。 倾向支持
研究者 E 通过向代理批量提交想法,发现了一些原本不会尝试的方向。 倾向支持
研究者 F 把斜率变化的 50% 至 80% 归因于 Claude,同时强调招聘和想法去风险。 边界
研究者 G 认为自动化和招聘是两大贡献,但没有给出稳定比例。 模糊
研究者 H 观察到可同时尝试更多实验,未量化反事实。 模糊
研究者 J 描述编码和实验先后变得可用的阶段,但口径混合。 模糊
研究者 K 认为招聘可能是最大原因。 不支持
研究者 L 承认软件工程显著加速,但仍估计 AI 只贡献 15% 至 20%。 不支持

最有冲击力的引语很具体。一名研究者说,AI 加速比其他所有效应加起来更大;另一名说,很难认为自己的生产率没有提高三倍;还有人估计从想法到实验的时间缩短了 80%,并称代码不再是主要瓶颈。这些说法可以合理理解为局部瓶颈变便宜了。它们不能单独证明组织的能力增长斜率翻倍,因为节省下来的时间可能被低价值实验消耗,协作成本可能上升,下一阶段也可能出现新的物理或审查瓶颈。

Anthropic 的 Slack 民调提供第二条更弱的线索。员工用表情投票,估计最新模型给自己的提速倍数。2026 年 10 月能力最强的内部模型平均自报约 12 倍。METR 明确称其为非常宽松的证据:回答者自选,投票投入很低,个人可能把某一步骤节省的时间误当成整体产出价值。12 倍不能替代 1.9 倍的 AECI 估计。真正与“加速”有关的是个人提速的增长率是否变化,以及其中多少能进入组织的总产出函数。

Anthropic 员工对模型提速倍数的非正式自报,从 2025 年初持续增长到 2026 年 10 月约 12 倍。
自报序列在 2025 至 2026 年持续上升。METR 只把它作为方向性证据。个人提速比与组织加速比是两个不同量。

报告还检查了完全自主贡献。AI 尚未在最重要的端到端训练环节承担很大份额,但研究者描述了若干“生命迹象”。内部报告以及“相关任务是人工还是 AI 完成”的定量分析,支持自主性可能扩大的判断。具体证据和各训练环节估计被删改。这个区分很重要:辅助提速已经可见,自主加速则是一种阈值风险,可能改变趋势本身,而不只是抬高增长水平。

七、瓶颈、饱和与复利风险

METR 检查四类输入是否会在未来一年阻止快速进展:算法、训练算力、实验算力和数据。它没有找到令人信服、会在十二个月内形成约束的瓶颈,也没有发现强到足以排除再次加速的边际收益递减。结论是概率性的。随着新信息出现,团队对若干约束的理解数次改变,Anthropic 又删改了具体瓶颈分析。

更准确的理解是:在受限权限下,没有发现证据,不等于证明了不存在瓶颈。如果公司受芯片、电力、数据质量或可靠评测能力限制,更好的编程代理可能增加提案数量,却不能增加通过验证的有效实验数量。反过来,如果代码实现确实是主要局部瓶颈,解除它会释放很大短期提速,同时让新的约束暴露出来。访谈支持部分团队出现第二种模式,但不足以证明公司整体不会撞上上限。

复利比点估计更重要。假设每一代模型都改进下一代模型的研发工具,能力就会反向进入能力的生产函数。系统可能先表现为温和加速,随后加速变大,尤其是在研究工具本身的改进也在加速时。METR 认为这是显著风险,但没有声称已经测到一个失控回路。它说,如果增长率还在上升而非稳定在新斜率,风险会更严重。部分被删改证据使连续或双曲增长更可信,但公开报告无法展示这些证据。

基准饱和是另一面。模型几乎解决全部现有测试时,AECI 可能恰好在研发过程发生变化时失去区分力。Model 4 在所有测试基准上超过 50% 是测量工具的警告,不是能力停止增长的证据。METR 的饱和检验仍得到约 1.9 倍,缓解了眼前问题,却降低了对历史基线和未来外推的信心。

真实世界影响更难。AECI 主要覆盖可自动评分的定义明确任务。真实研发充满模糊目标、硬件失败、隐性知识、产品约束和协调。如果基准加速而混乱任务没有同步加速,报告高估实际研发影响。如果能力通过阈值产生作用,例如达到可自动完成整套工作流的水平,AECI 又可能低估突然出现的现实影响。METR 认为两个方向都合理,没有把它们折算成一个看似精确的净修正。

八、权限、删改与独立复核的边界

按外部模型评估的一般标准,这次开放相当罕见。Anthropic 提供了内部模型基准、样本任务、评分规则答案、代理支出、历史算法效率、预训练与强化学习强度、算力利用率和推理效率、人员归因、训练算力、内部调查、代码与拉取请求、推理支出、自主研究文档,以及约十五次访谈。两名与 METR 接触最多的员工,被描述为 Anthropic 内最了解 AI 研发加速测量的人。

但高权限不等于自主。METR 从未直接访问 Anthropic 系统,大部分数据经由少数技术人员传递,请求可以被拒绝,也不能直接查询未公开模型。对“对抗欺骗”的稳健性由此受限:如果主要联系人提供了连贯但不完整的画面,METR 很难自行发现缺失背景。METR 说,与另外约十五名由它选择的员工访谈时,没有发现系统性不一致,因此认为 Anthropic 主动欺骗的可能性极低。它同时承认,更充分的员工级访问会显著提高评估深度。

删改问题更尖锐。METR 的完整报告约一百页,公开文章能讲最高层结论,却无法展示最强证据、各训练环节的详细归因、未来模型预测,以及独立重建结果所需的方法细节。下表就是报告自身列出的“内部看到什么”与“公众看到什么”。

向 METR 开放的证据与公开描述的对照
证据类型 提供给 METR 公开描述
内部模型基准能力 是 是
关键中间能力指标 是 否
算法进展估计 是 否
AI 贡献证据 是 部分
关键研发投入指标 大部分 否
瓶颈细节与预测 部分 否
员工访谈 是 部分

Anthropic 将删改描述为移除可能加速其他开发者的机密信息。METR 同意被删材料属于机密,且可能对竞争者有价值,但同时指出其中很多内容层级很高。METR 没有断言所有删改都无正当理由;它说自己不适合权衡企业商业利益与公众理解 AI 风险的利益。它的批评更窄也更硬:公众无法独立判断决定结论的证据。

AI 评估论坛的 AEF-1 检查表中有两项关键要求得到“否”。第一,评估者没有公开足够的方法细节,供独立复核。第二,提供者拥有删改结果、从而可能隐藏令人担忧发现的权力。METR 还在“评估者自行通过直接系统权限运行评测”和“提前取得向目标受众披露必要结果的充分权利”上填了“否”。这些不是程序性小瑕疵,而是说明报告应当被引用为一项受限判断,而不是完整可复现的证明。

原合同还包括核查能力与安全用途之间的算力分配。Anthropic 在项目中途取消了这个部分,METR 尚未得出实质结论。Anthropic 表示希望暂时把合作聚焦于风险评估,之后再重新讨论算力核查。于是公开评估无法回答一个基本治理问题:公司声称的安全投入,是否对应实际分配的稀缺算力。

METR 还披露了一项利益冲突。一名团队成员曾与 Anthropic 讨论职位、收到录用通知并拒绝,同时作为前员工持有竞争公司的股份。此人纳入评估的全部工作都由无冲突成员复核并由后者对准确性负责。项目团队无人持有 Anthropic 股份。METR 更新后的利益冲突政策会要求此类情况直接回避。披露不会自动否定结论,但必须进入记录,因为报告要求读者信任机构判断。

分析过程本身也有对抗风险。Claude 参与了 METR 收到的大量数据收集与分析,撰写了不少被审阅文档,也参与了 METR 自己的大部分分析。这可能形成共同模型偏差:证据生产者和评估者用同一模型整理出同一种解释。METR 用人工访谈做一致性检查,没有发现系统偏差模式。这提供了一定保护,但不能证明模型中介的分析天然独立。

九、哪些错误会让结论偏高或偏低

METR 列出了可能低估加速的情况。第一,增长率可能仍在上升。AECI 没有呈现明显的双曲线,但被删改证据让持续加速更可信。如果真实过程的导数在增加,单一后段斜率会低估瞬时加速,也会明显低估未来。第二,自主贡献可能比评估者以为的更近。一旦人类瓶颈被移除,能力可能跳变而非平滑增长。第三,现实影响可能呈阈值形态。模型基准逐步提高,却在某个节点突然足以完成整类工作。

也可能高估。非 AI 因素可能解释更多曲线弯折;AECI 可能更擅长定义明确的干净任务;Anthropic 的历史趋势可能因低于前沿而异常低,令分母变小、比值变大;基准加速也可能部分来自针对评测分布的优化,而非普遍有用能力。报告把这些保留为真实竞争假设,而不是在给出建议后顺手否认。

测量滞后同时存在于两个方向。METR 只能在训练结束后观察模型快照,因此能力结果相对产生它的研究实践滞后约一个训练周期。这会隐藏最近的生产函数变化,也可能让一次短期爆发看起来像长期趋势,因为下一代训练结果尚未出现。十一周足以完成访谈和分析,但不足以单独确定多年动态。

最后,反事实从未被识别。METR 能比较观测到的前趋势与后趋势,却不能观察 Anthropic 在没有 AI 时会取得什么结果。招聘、数据、算法、算力、组织重点和随机研究结果同时变化。报告用多源证据组合弥补单一模型的不足。对于探索性高权限评估,这是合理方法,但 80% 的归因不应获得与 1.9 倍描述性比值相同的信心。

十、未来评估应满足的治理清单

这份报告最有用的启示,不是所有 AI 实验室一定在按两倍速度加速,而是可信的加速评估必须同时具备权限、反事实和公开证据。把 METR 的成功与失败转化为后续要求,可以得到以下清单。

  1. 提供员工级访问,而不只是整理好的数据集。 评估者应能按问题继续追踪、检查相邻文档、观察内部争论,并发现自己原本不知道需要索取的材料。
  2. 预先定义观测、历史和反事实增长率。 公开模型、断点搜索、日期规则、基准选择规则,以及瞬时归因与累计归因的区别。
  3. 禁止提供者单方面删除决定性证据。 删改可以保护真正机密,但目标受众仍必须能检查支撑核心结论的推理。拥有隐藏不利结果的权利,与独立复核不相容。
  4. 发布可复现的合成或隐私保护数据。 若内部原始指标不能公开,至少应公开保留关键增长比值、允许独立重算的变换结果。
  5. 访谈独立抽取的样本。 主要技术联系人很重要,但评估者应自行选择其他员工,记录分歧,并保留反证。
  6. 同时测量多类瓶颈。 编码速度、实验吞吐、训练算力、数据质量、评测能力和物理验证不能被折叠成一个生产率数字。
  7. 专门测试自主阈值。 辅助提速和端到端自动化是不同风险。应跟踪关键流程中可在无人类负责人情况下完成的阶段,而不只是调查节省时间。
  8. 保留算力分配审计。 如果评估者无法核查训练、推理和安全研究的算力配置,安全论证就是不完整的,尤其当初合同已经承诺核查时。
  9. 发布可证伪计划。 明确哪些未来观察会降低估计:AECI 放缓、数据或算力约束真正生效、自主任务份额不增长,或非 AI 投入足以解释趋势。
  10. 把报告视为风险信号,而不是认证。 高权限评估可以改善判断,但仍可能不可复现。用于政策或投资决策时,置信范围必须与点估计一起出现。

十一、下一步应该观察什么

对 AI 实验室而言,关键观察包括:2025 年后的斜率是否维持在约两倍;增长率本身是否继续上升;新模型是否让 AECI 更加饱和;自主贡献是否从“生命迹象”变成对主要流程的可测量所有权。单个模型发布无法回答这些问题,连续、日期规则一致、基准覆盖稳定的快照序列才可以。

对机器人和物理 AI 而言,关键不是假设软件加速会一比一迁移,而是建立自己的测量链。机器人学习回路中哪些环节确实被 AI 加速?当真实机时固定时,代码生成能否缩短总周期?更好的模型是否改善数据选择、失败分析、仿真设计和策略迭代?组织得到的是更多经过真实验证的行为,还是更多尚未验证的候选?这些问题能让 METR 框架发挥作用,同时不越过它真实的适用范围。

最终可以给出三层结论。经验层较强:Anthropic 的内部基准趋势看起来在 2025 年 10 月后向上弯折,最可能的比值接近两倍。因果层较弱:AI 很可能是主要贡献者,或许占当前贡献的多数,但非 AI 因素和测量误差仍然很大。治理层最明确:公众无法独立复核最影响 METR 风险判断的证据,因为 Anthropic 保留并行使了大范围删改权。

这三层组合起来,才是报告真正的发现。一家公司可能正在加速自身的 AI 研发,同时公开足够多的汇总证据引发担忧,却没有公开足够证据让外部独立裁决。对于前沿 AI,以及未来依赖前沿模型的具身系统,要求不能只停留在“更快地给出一个数字”,还必须包括“让外部看见数字背后的机制”。

原文与引用

原文报告:Independent Assessment of AI R&D Acceleration at Anthropic in October 2026,METR,2026 年 11 月 5 日。作者为 Tom Cunningham、Nate Rush、Parker Whitfill 与 Hjalmar Wijk。

本文是对公开报告的完整编辑改编,并在每项主要发现旁保留删改与访问限制。数值估计、置信区间、访谈摘要和流程细节均来自 METR;关于机器人及物理 AI 的部分属于编辑解读,不是原报告直接测量的结论。

作为亚马逊联盟会员,我们可能从符合条件的购买中获得佣金。