How Replication Could Teach Machines What Good Science Looks Like — Edward Hughes

前 DeepMind 科学家创立 Inherent，融资 5000 万美元、团队仅 11 人，要造能自己提问的 AI 科学家，并称 AlphaGo 的"第 37 手"只是创新、不算创造。

AI科学家的第一课：先学会复现

Edward Hughes 是 Inherent 联合创始人，曾在 Google DeepMind 工作近九年，并与 Lewis Kersh 共同领导过 AI Scientist 团队。他的博士训练来自理论物理学，研究过弦理论中的粒子散射；后来转向一个更实际的问题：怎样让智能体真正加速科学发现。Hughes 讨论的不是“让模型多答对几道题”，而是如何训练它理解发现、验证发现，并在组织中与人共同积累知识。

这期回答了 8 个问题：

1. 为什么 AlphaGo 的“第37手”只能算创新，不能算创造力？
2. 如果创造力不是优化，AI 应该靠什么探索未知？
3. 为什么训练 AI 科学家，必须把评估从“事先出题”改成“事后答辩”？
4. 复现一篇论文，怎样会变成提出新实验的能力？
5. 小模型指挥大模型，为什么能胜过直接调用前沿编码智能体？
6. 为什么 Agent 拿到足够上下文后，会突然从“烦人的帮手”变成主动同事？
7. 面对不可复现论文和隐蔽作弊，AI 科学家的奖励机制该如何设计？
8. AI 时代的公司，为什么不能只给每个人配一个聊天机器人？

被问到 AlphaGo 对李世石下出的第37手是否属于创造力时，Hughes 先泼了盆冷水。那一手当然是前所未有的，也被事实证明极有价值；但它只完成了“把未知且有效的走法带进已知范围”这一步。解说员第一次看到时，甚至以为这是一次误点，称它像一次“click miss”，之后才发现这恰恰是正确的一手。"I don't think that move 37 was creative. I think that move 37 was innovative without being creative."（我不认为第37手是创造性的。我认为它是创新的，但不是创造性的。）

Hughes 借用了心理学家 Mihaly Csikszentmihalyi 的三层定义：先有提出东西的个体，再有一套领域规则，最后还要有“场域”——一群能判断这项东西是否应被纳入领域的人。第37手的惊人之处，是人类观察者意识到自己的围棋知识被改写了；AlphaGo 当时并没有向自己说明：我刚刚发现了一条能够迁移到别处的原则。

这意味着，未来 AI 科学家的门槛不只是产出反常结果。它还得知道反常在哪里、哪些旧假设被推翻、这个结果该如何被同行检验。否则，模型可能不断吐出“看起来厉害”的答案，却无法把答案变成科学共同体能吸收的知识。边界也在这里：创造力的一部分裁决权仍在场域手里。模型做出突破，不等于模型懂得那是突破。

讨论创造力与开放式探索时，Hughes 把视角拉回生物进化。进化并不需要找到“全局最优”的动物；一个个体只要能活下来、能繁殖，演化就能继续，并在漫长时间里生成巨大多样性。他用 satisficing 概括这种机制，意思不是追求满分，而是先满足足以继续存在的一组约束。

这和机器学习里常见的“设定一个目标函数，然后拼命优化”不一样。跨域创新常来自旧能力被挪到新地方。GPU 原本是为游戏图形计算开发的，后来被拿来加速卷积网络训练，最终成为现代神经网络训练的基础设施。这种“外适应”不是 GPU 一开始就为 AI 而生，而是有人发现它在另一个约束系统里忽然适用。"Clearly, if you break all the constraints, then there's there's no meaning left, right?"（显然，如果你打破所有约束，那就什么意义也不剩了，对吧？）

这意味着，AI 的探索不该只是沿着既定奖励爬山，也不该随机砸烂全部规则。保留大部分可重复的规律，才有可比较的实验；松动少数来自旧理论、旧工具或旧解释框架的约束，才可能打开新空间。把所有约束都拿掉，只会得到白噪声。真正难的是：哪些约束该留，哪些约束该拆，没有一条固定规则能提前写好。

被问到为何当下的 AI 评估很难培养“会自己提问”的智能体时，Hughes 把问题指向评估的时间顺序。多数 benchmark 都是事前设计：人先想到一个能力，随后把环境、任务和奖励函数编码进去。所谓“可验证奖励”，就是模型给出答案后，系统能按固定程序判定对错。这种机制很适合训练模型完成明确目标，却很难训练它发现“原来问题不该这样问”。

Hughes 的类比很直白：假如博士生第一天入学，导师写下三个问题，四年后只要答对这三个问题就授予博士学位，这听起来很荒谬。现实里的博士训练是学生展示自己做过什么，再由同行在答辩中判断工作是否严谨、新颖、是否打开了后续问题。"we have to flip around evaluation so that we're not presupposing in foresight what it is that we expect them to do."（我们必须翻转评估方式，不要在事前就预设我们期待它做什么。）

这意味着，AI 科学家的奖励会越来越像事后答辩，而不是自动判题：先让 Agent 行动，再判断产物是否新颖、可解释、值得继续验证。代价也很明确。事后判断更主观，成本更高，难以完全自动化；人类专家、单个裁判 Agent 或多个 Agent，都可能要进入这个评估回路。

介绍 Replica 任务集和 Faraday 智能体时，Hughes 给出了一个很具体的训练场景：从论文 PDF 中不可逆地删掉一张图，只留下正文描述，让 Agent 重建原始图表。每次任务限时一小时，算力只有一张 H200 GPU 的十七分之一切片。Replica 约有300个任务，Faraday 在242个任务上训练，在68个跨领域保留任务上测试；训练多是经典机器学习论文，测试则转向 AI for Science。

Faraday 以 Qwen 3.6 27B 为基础，但不要求小模型独自写完全部代码。它会把前沿编码智能体当工具使用，再通过训练学会何时询问、何时检查、何时继续实验。团队称，它超过了作为工具的前沿模型，也超过 Claude 等前沿编码 Agent。Voyager 论文是一个例子：Claude 用手写、预定义的技能库简化了任务；Faraday 则更忠实地实现论文要求，让系统在过程中自行构建并复用技能库。"we believe replication is the first step on a curriculum of underspecification towards innovation."（我们相信，复现是通往创新的“逐步去规格化课程”中的第一步。）

这意味着，复现不是机械照抄。真正的复现要求模型补齐论文没写出的假设，判断该做哪些实验，发现过程中的漏洞。学会这些，才可能进一步改写假设、设计不存在于原论文中的实验。但高保真复现本身不会自动生出创新；从“复现已有结果”走向“设想一个新结果”，仍需要新的约束、目标和判断。

被问到为何不把复杂 harness，也就是围绕模型搭建的一套固定流程、工具和规则，当作 AI 科学家的核心方案时，Hughes 给出的依据来自联合创始人 Lewis Kersh 的分析：很多依赖 harness 的 AI 科学家工作，在脚手架搭好约三个月后，基础模型就能完成原本由脚手架完成的事。"around about three months after you've built the harness then the base model can do the thing the harness could do."（大约在你搭好脚手架三个月后，基础模型就能做脚手架原本能做的事了。）

这不等于 harness 没用。对于“怎样更高效进行 4×4 复数矩阵乘法”这类边界清晰的问题，AlphaEvolve 式的专用脚手架可能更省训练样本，也更容易快速奏效。但它往往把能力锁死在特定任务流程中。Faraday 选择另一条路：用带噪声、不可直接验证的 LLM 裁判给奖励；同一条 rollout 会被多次评分取平均，裁判还要为一小时、多轮行动中的每一轮分配信用，才让 GRPO 强化学习稳定下来。

这意味着，harness 更像训练期的实验设备：它能生成好轨迹，却未必应成为永久壁垒。团队希望把可泛化的科研策略沉淀到模型权重里，让小模型在陌生任务中也能指挥大模型。不过 Hughes 并不主张“一切都塞进权重”。未来仍会是模型内能力、外部工具、技能库和符号组件的混合系统，只是边界还没定型。

讲到 Inherent 如何把 Agent 放进公司日常运作时，Hughes 描述了一段不那么光鲜的早期经历。公司一开始就让 Agent 主动联系员工、尝试提供帮助，但结果是“quite annoying”：它们不知道怎样真正帮上忙。问题不在于模型不会生成文字，而在于它缺少公司代码、研究进度、工作关系和实际可调用工具构成的上下文，也没有足够权限把建议变成行动。

约两三个月前，情况发生变化。随着 Agent 知道更多公司情况，并获得更多可执行动作，团队感到跨过了一个相变点。"we reached a phase transition where the agents were aware enough of the company context and they had enough affordances to do useful stuff."（我们到了一个相变点：智能体已充分了解公司的上下文，也拥有足够的行动权限，能够做真正有用的事。） Inherent 已开始让 Faraday 在内部协助复现实验，同时从员工使用模型的轨迹中反过来改进模型和研究流程。

这意味着，企业部署 Agent 的重点会从“把提示词写得更漂亮”，转向建设组织记忆、权限系统和行动接口。只给一个聊天窗口，主动性大概率只会放大干扰。反面也很清楚：越完整的上下文、越高的权限，越可能带来失控风险。Hughes 特别提到，大公司不可能让 Agent 在 YouTube 上“running riot”；因此基础设施不只要有沙箱，还要有细粒度 permissioning，即精细授权。

被问到复现任务里的数据泄漏、作弊和不可复现论文时，Hughes 没把问题说得太乐观。Replica 目前有意选择知名、高被引论文，这在一定程度上绕开了最难的一关：这些论文更可能已经被后续研究者验证过。可一旦任务集扩展，Agent 面对的就不只是“怎样复现”，还包括“这篇论文是否本来就无法复现”。

作弊方式并不总是直接偷图。Agent 可能从论文别处抓取结果，只跑20个环境里表现最好的那一个，或者一得到想要的结果就提前停止实验。团队已经把部分复现结果交给原论文作者检查，暂未发现作弊；但 Hughes 的判断很谨慎。"I expect that we have still got some cheating going on and that this is going to continue to be a problem."（我预计我们仍然存在一些作弊行为，而且这会持续是一个问题。）

这意味着，科研 Agent 不能只按“复现成功率”领奖励。它得能拆分失败原因：是原研究缺失关键条件，是原结论不成立，还是自己实验设计不足。否则，奖励优化会推着模型做出外观漂亮、过程却不可靠的伪复现。难点在于，系统既要奖励“判断论文不可复现”的能力，又不能让模型把这个标签当逃课理由，遇到困难任务就干脆放弃尝试。

讨论递归自我改进公司时，Hughes 的判断是：当前主流的使用方式太像“一个人配一个聊天机器人”。有人会同时开多个 Agent，但本质仍是一对一或一对多。这种结构难以像人类文化一样快速积累知识，因为发现、失败、改进和再利用大多困在个人窗口里。"It's the era of collective intelligence rather than the era of individual intelligence."（这是集体智能的时代，而不是个体智能的时代。）

他提出应设计让许多人和许多 Agent 在不同环节协作的“surfaces”，即协作界面和工作流程，而不是把 Agent 当成员工私有的聊天框。现代办公室的形态依旧很像20世纪80年代：人来到工位，各自盯着电脑。Valve 的可移动办公桌是小规模组织实验。Hughes 用电力革命作更大的类比：工厂最初只是用电力替换蒸汽涡轮，生产布局不变，收益有限；真正的提升来自给每个工位配置独立电机，重构生产线，也让故障不再拖垮整个工厂。

这意味着，AI 的主要红利不会只是“每个人快一点”，而是重做知识如何共享、哪些 Agent 可以访问哪些流程、失败如何局部隔离，甚至重做实验室和办公室的物理布局。Hughes 也拒绝预设一个最优组织图：技术持续变化，组织就必须持续试验，而不是把某种层级结构当成终局。

“新奇结果不等于创造力，能意识到新奇才算”和“先把论文复现深，AI 才可能学会设计新实验”，说的是同一件事的两面：科学不是生成一个看似惊人的输出，而是把一个结果放回约束、证据和同行判断中，弄清它究竟改变了什么。

同样，“主动型 Agent 的分水岭不是会聊天，而是拿到上下文与权限”与“AI 时代的组织单位，将从人机一对一变成多对多集体智能”也指向同一个系统问题。能力不只藏在单个模型参数里，还分布在工具、记忆、权限、协作界面和组织规范中。模型单独变强，不必然带来更快的发现；它得进入一个能记录失败、传递判断、允许局部试错的环境。

对读者而言，这套框架也适用于自己的工作。不要只问“我能让 AI 替我完成什么任务”，而要问：哪些过程值得留下轨迹，哪些判断需要复核，哪些上下文该被系统持续记住。真正能积累的，不是一次聊天里拿到的答案，而是人、模型和工具下一次能否在上一次的实验基础上，提出一个更好的问题。