Building the Automated AGI Lab: Core Automation's Jerry Tworek and Rohan Anil

Core Animation 两位创始人（前 OpenAI VP Jerry、Gemini 预训练负责人 Rohan）直言：Transformer 这条路快到头了，下一代 AI 必须能“在用中学”，而不是只靠实验室大模型。

模型越会推理，越暴露它不会学习

Jerry Tworek 是 Core Automation 联合创始人，曾任 OpenAI VP，参与过 Strawberry 和推理团队；Rohan Anil 同为联合创始人，是 Gemini 四位预训练负责人之一，此前在 Google Brain、Anthropic 做基础 AI 研究与工程。他们讨论的不是“下一代模型会多大”，而是一个更扎手的问题：今天的模型已经能把题库刷得很漂亮，为什么一进真实工作流，还是得靠人不断补提示、补数据、补训练？

这期回答了 7 个问题：

1. 为什么 RL 把基准分数推高了，模型却依然搞不定真实工作？
2. Transformer 的统治地位，究竟是技术必然还是一笔算得过来的生意？
3. 让模型多吐几千个思维链 token，为什么只是给架构缺陷贴创可贴？
4. 为什么优化器会反过来决定你能发现什么样的新架构？
5. 一个 QR kernel 快 60 倍，为什么会改变哪些算法值得被研究？
6. “自动化实验室”是替代研究员，还是把每个研究员变成更高杠杆的个体？
7. 如果模型仍离不开人类在环，我们凭什么称它为 AGI？

被问到为什么他把架构而非 RL 规模视为下一代模型的核心瓶颈时，Jerry 先承认自己曾是“reinforcement learning maximalist”。在 OpenAI 推进大规模 RL 的阶段，他亲眼见过模型一代代变强，benchmark 分数持续上升。若在 2024 年问他 AGI 何时到来，他会回答 2025 年：只要 RL 扩起来，许多问题就会被解决。

结果没有发生。模型确实更会做训练过、评测过的题，却没有自动接管混乱的真实任务。Jerry 的诊断很直接：训练任务和评测任务，本来就是同一枚硬币的两面；而用户实际面对的代码库、工具、突发事件和模糊目标，远比题库杂乱。"The real-world distribution and real-world task is much messier, much murkier, much more much more different."（真实世界的数据分布和真实任务要混乱得多、模糊得多，也更加不同。）

这意味着，模型目前最强的能力仍是把实验室中定义清楚的目标优化到极致，而不是在部署现场吸收新经验。上下文学习只能塞进有限信息，Jerry 用 Codex 举例，使用约 20 分钟后就得压缩上下文；持续微调又会遭遇灾难性遗忘，即学新东西时把旧能力冲掉。RL 没有被否定，它仍是从经验中学习的一种数学形式；但如果模型不能在真实环境中长时间学习，RL 训练出来的强大，只会越来越集中在可被预先设计的任务上。

被问到新架构是否仍会像 Transformer，以及 Transformer 为什么成了可规模化 RL 的先验时，Jerry 泼了一盆冷水：Transformer 的胜利不只是“技术上更优”，也是经济账最早算通。LSTM 并非不能规模化。缩放定律研究中，LSTM 和 Transformer 都被比较过，只是 Transformer 的 scaling law，也就是算力、数据和性能之间的增长关系，更好。

Jerry 设想过另一条历史线：如果 Transformer 从未出现，行业依然可能训练巨型 LSTM。但它们训练更贵，产品效果更弱，投资人和市场也更难持续拿出巨额资金。"Transformers are economically valuable. The training them the cost of training them is lower than the revenue that they that they generate."（Transformer 具有经济价值：训练它们的成本低于它们所创造的收入。）

这句话解释了为什么架构替代不是论文里的“谁更优雅”问题。一种新机制即使理论能力更强，只要训练时烧掉十倍算力，推理时又卡在延迟和硬件利用率上，它就很难进入大规模产品。大实验室眼下还在争夺下一轮模型和产品发布，Transformer 又能带来收入，自然更愿意继续加参数、加数据、加 RL。Jerry 的边界判断是：许多架构也许都能扩，但资本会优先资助短期回报最清楚的路线。要替代 Transformer，新架构必须同时证明自己能跑、能卖、能持续投入。

被追问 Transformer 的“计算深度差”到底是什么意思时，Rohan 给出的数字很具体：多数 Transformer 最多大约 100 层。所谓深度学习，本来期待网络逐层形成更深的表征；但当前模型想变得更会推理，往往不是把网络内部做得更深，而是让它在推理时多生成 token。

这就是 chain of thought 的实际作用。预训练架构先给定了“层数乘以序列长度”的计算上限；多写一个推理 token，就多走一段计算路径。RL 把这件事做得很成功，因此模型会“多想一会儿”后答对更难的问题。但代价也明显：token 必须一个一个生成，天然串行。行业为此大量采用 speculative decoding，让小模型先猜、大模型再验证，试图把速度拉回来。"it's like a band-aid to a problem that we've picked something that's can only generate one token at a time."（这就像是在给一个问题贴创可贴：我们选择的机制一次只能生成一个 token。）

这意味着，推理扩展并没有消除架构限制，只是拿更长的输出换计算深度。未来该盯的指标不只是参数量和上下文长度，而是单位延迟里到底完成了多少有效计算。Rohan 没有宣称已经找到替代机制；他只说，认真追问“如何增加计算深度”，就能打开约 20 个新方向。创可贴有用，但不能把它误认成病因已经消失。

被问到如何实现数量级更高的计算效率和数据效率时，Rohan 把矛头指向一个常被当作“训练配件”的东西：优化器。预训练通常以 perplexity 为指标，简单说，就是看模型预测下一个词时有多困惑、压缩文本有多好。但模型一交给后训练和 RL，这套指标就可能失真。Rohan 的说法很尖锐：RL 会把原先做出的 perplexity 指标“destroy”掉，因此应该从头看端到端结果。

他从 2016 年在 Google 做大规模 logistic regression 优化开始，后来参与把 Shampoo 优化算法实现并扩展到大规模神经网络。Shampoo 曾用于 Gemini 1.5 Flash，带来约 2 倍改进。但在他看来，它仍远没有用尽训练过程中可获得的信息。"your optimization algorithm defines what architectures you will discover."（你的优化算法决定了你将发现什么样的架构。）

这意味着，“这个架构训不动”不一定等于“这个架构没有价值”。残差连接之所以广泛存在，很大一部分原因是它让网络容易训练；有研究者移除残差连接、尝试学习更深表征时，必须配上更强的优化方法才能成功。换句话说，现有优化器像一扇窄门，只允许容易收敛的网络进入视野。Rohan 也承认，这个方向长期冷门，真正持续关心它的人“世界上大概四个”。但架构搜索若不连同优化器一起改，很多可能性会在训练失败时被过早判死刑。

被问到为什么 Core Automation 把自动生成 kernel 放进六个月路线图的优先位置时，Rohan 讲了一个 QR kernel 竞赛。QR 是一种线性代数分解操作，优化算法会用到它；团队与 GPU Mode 的目标，是让它在 B200 节点上高效运行。直接调用 CuSolver 的 QR，能得到基础性能；人类配合搜索循环，能做到约 7 倍提升。

但要做到 60 倍，账单和门槛都会陡增：大约只有全球三个人具备相应的顶尖能力，四周内还要花约 10 万美元的 coding agents 成本。Rohan 说，今天的 Anthropic 或 Gemini 模型都解不了这个问题。"these models today are no way close to getting that 60x faster kernel."（今天这些模型离做出快 60 倍的 kernel 还差得非常远。）

Kernel 可以理解为 GPU 上执行某个底层操作的专用工序。它不是“把同一算法跑快一点”的装修，而是决定算法有没有资格进入实验。若 QR 太慢，依赖它的二阶优化器或训练方法就会因为成本过高而被放弃；若它快 60 倍，原本不可承受的计算路径就可能成立。Rohan 过去做过的项目也遇过同一堵墙：算法想法有了，底层 kernel 或硬件支持不到位，项目就无法扩大。自动化 kernel 的意义，正是把这类稀缺、分散在少数专家手里的能力变成更短的研究内循环。

被问到 AI scientist 兴起后，研究员会不会被自动化取代时，Jerry 给出的定义和“无人实验室”不同。Core Automation 所说的自动化，不是先把人赶出流程，而是让每个人拥有更大的行动半径。他把它比作步行、自行车和汽车：人还是同一个人，但工具改变了能走多远；也像手工耕作和机器耕作，机器不替你决定种什么，却让同一个人能管理更大的地块。"automation the version of automation by core automation is about giving each human maximum level of agency in some way."（Core Automation 所说的自动化，在某种意义上是赋予每个人最大程度的行动能力。）

这意味着，研究组织的竞争单位会逐渐从“有多少研究员”变成“每个研究员一天能推进多少完整实验”。Jerry 认为，今天最关键的是从一个想法到拿到实验数据的迭代速度。为此，团队想从头重建深度学习栈，先做到每天至少一个实验，之后设想每天 10 个，甚至 200 个；组织本身也刻意保持小团队、agent-built 和 automation-built。

不过，这些数字是愿景，不是已经交付的产能。实验数量增加，不自动等于研究质量上升。人类仍要提出值得测的假设、识别假阳性结果，并在方向错了时及时止损。自动化真正改变的，是让研究员少花时间搬数据、接流程和等资源，把更多时间用在判断下一轮该测什么。

被直接问到“何时才算达到 AGI”时，Jerry 没有接受一个宽松定义。OpenAI 的定义是，在经济上有价值的工作中胜过所有人类；但他反问：如果实验室停止训练新模型，现有自动化水平还能维持吗？世界出现新工具、新代码库、新事件后，模型是否还能自己更新？如果答案是否定的，它仍依赖实验室和人类不断把新知识塞回训练流程。

Jerry 的标准更严格：模型必须能在任何意义上脱离人类在环而自我改进。因为改进 AI 模型本身，就是人类正在从事的一项经济价值工作。现实却是，移除人类在环“notoriously difficult”，几乎找不到真正能把人彻底拿掉的任务。"the human LLM hybrid is is really really successful right now, but LLMs without humans not so much, not at all."（人类与 LLM 的混合模式现在非常成功，但没有人类的 LLM 并不成功，完全不是。）

这意味着，AGI 不该用一次考试、一次演示或某个榜单来验收，而要看系统能否在长期运行中自己发现问题、吸收反馈、更新方法。人机混合已经能创造大量价值，这一点不需要贬低；但它和“模型独立接管改进自身的闭环”是两回事。Jerry 的判断也有清晰边界：根据他对 2024 年到 2025 年初的观察，当前路径并不会自然走到那里。

被问到怎样确认已经找到了优于 Transformer 的架构时，Jerry 说，成功研究最后常会出现一张特别的图：其中一条曲线以别人没有的方式弯折。但真正看到那条曲线之前，研究者通常已经试错很久，并且大致知道自己在寻找什么。对 Core Automation 而言，那张图不应只来自静态 benchmark，而应显示模型拥有 test-time learning，也就是部署和使用过程中还能学习，以及有意义的长期适应性。

他们计划直接拿团队自己的科研工作做评测：模型会不会每天都更擅长完成 Core Automation 科学家的工作？"Will they get better at doing the work of core automation scientists each day?"（它们会不会每天都更擅长完成 Core Automation 科学家的工作？）

Rohan 把这个标准说得更形象：全员休假一周，看实验室是否还能产出更好的结果。Jerry 接着说，如果真能做到，就把假期延长两倍、三倍、四倍。这个“休假测试”测的不是模型能否按指令跑一次实验，而是它能不能在连续循环里积累知识，提出、执行、解释并调整下一轮研究。

边界同样明确：团队尚未展示这种长期适应性已经实现。它是一个极高的验收标准，也刻意避开了“某模型在某榜单领先几分”的诱惑。榜单能测出已有能力，休假测试要测的是能力会不会自行增长。

“RL 越强不等于越接近 AGI”和“新架构的验收标准，不是榜单领先，而是研究员休假时它仍在进步”，其实都指向同一件事：模型今天擅长把已有数据、已有流程和已有评测压缩得更好，却还不能在变化的现实里持续长出新能力。

因此，问题不只是再多训练一轮。思维链靠多吐 token 给浅架构补深度，优化器决定哪些网络能被训出来，kernel 的 60 倍差距又决定哪些算法负担得起。再往上，研究组织还要把这些能力接进更快的实验循环。架构、优化器、底层实现和实验室流程，像同一台机器上的齿轮，单独转得快不够，咬不住就传不出力量。

对普通使用者而言，这也是判断 AI 工具的实用尺度：别只问它这次答得多漂亮，也问它能否在你的真实流程里少让你重复解释、少靠你收尾、少在新情况出现时失效。人机协作已经很强，但“每次都要人重新把路铺好”和“系统能在路上自己学会走”，中间仍隔着这场对话真正要解决的鸿沟。