xAI Co-Founder: Igor Babuschkin Unpacks the Future of Model Development

最强模型公司，反而可能最难活

Igor Babuschkin 是 River AI 创始人、xAI 联合创始人，参与过 Colossus 的建设和模型研发；在此之前，他在 DeepMind 做过 StarCraft 项目技术负责人、参与 AlphaCode，又在 OpenAI 从事早期推理研究。他看过模型能力如何从实验室技巧变成基础设施，也看过算力、数据和控制权如何向少数公司集中。这次访谈谈的不是“下一个模型会强多少”，而是更难的问题：当 AI 变成水电煤一样的底层能力，谁拥有它，谁训练它，最后又是谁替谁做决定。

这期回答了 8 个问题：

1. 为什么闭源模型越强，商业处境反而可能越被动？
2. AI 从写代码走向科研，真正缺的为什么不是更多算力？
3. 企业为什么不该永远把最有价值的数据交给 API？
4. 个人 AI 的关键，为什么不是“记住你”，而是按你的结果重训？
5. 把前沿模型放进家里的一台设备，究竟改变了什么？
6. Colossus 120 天落地，快的到底是工程能力还是组织设计？
7. 不同领域的后训练能力，真的可以像通用知识一样相互迁移吗？
8. 当智能体越来越能干，人类怎样避免把人生决策权一并交出去？

被问到专有模型提供商会不会继续靠数据、算力和领域标注保持领先时，Igor 先泼了一盆冷水：继续把预训练模型推向更强，需要更多 GPU，也需要更高质量的数据；这两样资源都不是无限的。他的原话很形象，GPU 再多，也“不可能用 GPU 覆盖整个地球”。更麻烦的是，前沿模型一旦跨过某个能力临界点，实验室未必还能自由发布：公众批评、监管压力，甚至安全顾虑，都可能让一款最强模型只能留在内部。

与此同时，开放模型没有停下来。它们每个月都在追赶，企业也越来越能拿开源权重做定制。Igor 把闭源公司的夹击说得很直白："you make the model too good, you're not allowed to release it. But then open source is just right behind you getting better and better um every month."（你把模型做得太强，就不被允许发布；但开源模型又紧跟在后面，每个月都在变得更强。）

这意味着，闭源实验室不能再只靠“下一代比上一代强一点”来收费。若最强能力不能全面商品化，而次强能力又能被开源迅速抹平，收费 API 就像夹在两条移动传送带中间：上面是发布限制，下面是替代品。它们仍有出路，但要靠更根本的创新，例如新的产品形态、新的训练范式，或让普通人也能感到收益的能力。Igor 说的是规模化回报开始放缓，不是说前沿能力已经停止增长；OpenAI 和 Anthropic 仍可能通过创新继续拉开距离。

被问到智能体怎样从代码、数学这些“好判卷”的任务，走进科研、材料和工程时，Igor 把问题落在反馈上。代码有单元测试，数学可以把定理与证明写进 Lean 这类形式化工具，模型得到的是明确的奖励信号：证明成立，得分；程序跑错，扣分。但材料科学、基础物理发现、火箭发动机设计不一样。模型提出一种材料配方，最终答案得等真实实验做完才知道，可能是几周后，甚至更久。

强化学习里的 rollout，可以理解为智能体从接任务到完成任务的一整段尝试。若一次尝试要跑 24 小时，训练就会卡死在等待上：必须等大量尝试结束，才能根据结果更新一次模型。"if your rollout takes 24 hours, you're going to have a really hard time um training the model, right?"（如果一次 rollout 要花 24 小时，你训练这个模型会非常困难。） 所以，长任务不能只等终局分数。研究者得把它切成若干可判断的小段，让模型能根据增量进展估计：我现在是在逼近答案，还是把事情弄坏了？

这意味着，下一轮竞争未必是谁囤了更多题库，而是谁能把漫长、模糊、现实的工作，改造成可反复学习的反馈回路。Igor 预计未来几个月到 12 个月，行业可能开始大规模使用 LLM judges，也就是让更强的语言模型充当“裁判”，评价没有标准答案的真实世界互动。但这套配方尚未解完：裁判模型更强，不等于它的判断就能稳定地支撑大规模训练。

被问到企业训练自有模型，到底是为了省钱提速，还是为了做出能力差异时，Igor 描述了一个过去很常见的循环。企业先调用最强的专有模型，因为内部从零搭建深度学习、强化学习团队和基础设施，往往要几个月。等团队终于把自家模型调到超过旧版本，OpenAI 或 Anthropic 的下一代产品又发布了。于是，大多数公司自然选择继续买 API，而不是自己训练。

但这个循环有一个前提：通用模型还在以足够快的速度向前冲。当这一速度放缓，企业自身知道什么，就会重新变得重要。Igor 举了 HR SaaS 的例子。做招聘、人事软件的公司，比通用模型厂商更知道客户的流程、合规要求和真实痛点；因此它更适合定义自家 agent 该做什么、绝不能做什么。"you're kind of giving away the whole foundation of your business otherwise"（否则，你某种程度上是在交出自己业务的整个根基。）

这意味着，企业的数据战略会从“怎样安全地调用最强模型”，转向“哪些工作流、反馈与判断必须沉淀为自己的模型能力”。一条路是持续通过 API 把数据流向大模型公司；另一条路是用数据后训练自己的模型。边界也很明确：并非每家公司都拥有稀缺数据。若一家公司的独特知识早已公开在互联网上，任何人都能抓取，它反而处在危险位置；同样，也不是每家银行的数据都天然比通用模型厂商能拿到的数据更有壁垒。

被问到个性化到底该改模型权重，还是只靠记忆系统与提示词实现时，Igor 没有押注某一种技术路线。他认为，今天商业 agent 的根本问题不在于“记得不够多”，而在于训练目标错了。现有产品通常把所有用户的反馈汇总起来，训练一个服务“平均用户”的模型。它或许会对所有人都礼貌、都高效，却未必知道你喜欢简短答复还是完整推导，什么时候希望被提醒，什么时候只会觉得被打扰。

River 想打破这个平均数假设：同一类 agent 可以对不同人使用不同语言、偏好和行为，并且在每次互动之后继续学习。权重更新、外部记忆、提示词编排，未来可能组合使用；关键是让 agent 真正学会使用这些个人信息，而不是把资料塞进上下文窗口就算完成。"you really want to train end to end on the actual signal that you want to optimize."（你真正需要的是，围绕你想优化的真实信号进行端到端训练。）

这里的“端到端训练”，大白话说，就是不要只优化中间动作，而要用最终结果倒推模型该怎么做。对个人 AI 来说，目标甚至可能是“这次互动有没有让用户的一天变得更好”。这意味着，真正的壁垒不是积累一份用户档案，而是建立持续判断“帮助了还是伤害了”的训练闭环。难点同样刺眼：幸福感没有单元测试。它可能来自用户自报、行为变化，或由更强模型判断一次互动是正奖励还是负奖励，但可靠测量仍是未解题。

被问到 River 为什么在个性化模型之外，还要押注更难的硬件研发时，Igor 的答案首先不是芯片性能，而是控制权。今天要使用前沿模型，个人基本只能通过数据中心和 API：模型能不能用、能用到什么程度、数据怎样处理，决定权在云端服务商手里。River 正研究一件更激进的事："can we bring the inference compute locally to the users"（我们能不能把推理算力带到用户本地？）

所谓推理算力，就是模型在回答、生成、规划时实际运行所需的计算资源。若把它带到家中或办公室的一台小设备，最直接的变化是延迟下降。语音输入、视频输入和视频输出这类需要即时反应的交互，不必把每一次请求都绕到远程数据中心再回来。更深的变化是上下文能够留在本地。一个真正懂你的 agent，可能要读取电脑里的文档，甚至持续理解房间中的谈话；如果这些内容不断上传，泄露风险和被用于训练的担忧就会一起出现。

这意味着，本地部署不只是“更隐私”的附加选项，而可能成为个人 AI 的底座：低延迟、完整上下文和数据主权要同时成立，模型才更像用户自己的工具，而不是云端公司的窗口。当然，这还是研究项目。Igor 明确说，当前硬件最大的限制是内存，前沿模型的全部权重还难以完整塞进单一芯片或一台小设备里。

被问到 xAI 怎样在大约 120 天内让 Colossus 上线时，Igor 讲的不是“团队更拼命”，而是传统工程路径本身太慢。主持人提到，同等规模的数据中心，外界当时常给出远高于一年的建设周期。正常流程往往先建新的数据中心外壳，再按瀑布式方式一环接一环推进：前一阶段完全交付，下一阶段才开始。更糟的是，执行链条里常有“分包商的分包商的分包商”，信息、责任和时间都在每一次交接中被稀释。

Colossus 的做法相反。Elon 选择自己充当总承包方，从第一性原理拆开每个环节：哪些步骤是物理上必须等待，哪些只是习惯性审批；哪些资源必须外购，哪些能直接协调；哪些问题别人以为无解，其实只是没人重画流程。Igor 形容这像是在项目的每个部分寻找“矩阵里的漏洞”。xAI 从零起步后不到两年进入前沿，也依赖同一个前提：先把足够密度的人才聚到一起。

这意味着，AI 基础设施的速度优势，不只来自把工期压得更狠，而是把组织交接、默认流程和责任分散，当成工程问题重新设计。它像拆掉一条流水线上的多余传送带，而不只是让工人跑快一点。反面也不能忽略：这种模式依赖能看全局、钻细节、直接调资源的领导者，并不意味着任何团队删几道流程，就能复制 120 天的速度。

被问到后训练覆盖越来越多领域之后，会不会像预训练那样突然出现跨领域泛化时，Igor 给出的回答很少见地没有结论。预训练让模型吸收了广泛的世界知识，所以它确实能把一个领域的信息带到另一个领域。编码就是例子：模型理解自然语言、文档、软件结构，因而能进入原本没有单独“教会”它的代码任务。

但后训练不一定一样。后训练是拿特定任务的反馈继续塑造模型，例如金融流程、药物试验、客服决策或芯片设计。现实中有大量只在一个地方有用的专业技能：学会某家公司的内部报销规则，未必能提升物理推理；学会一种行业合规文本，未必能让模型写出更好的代码。对于这些能力最终有多少会汇入模型整体智能，Igor 的回答是："I don't I don't really know to be honest."（老实说，我确实不知道。）

他观察到，眼下许多显著能力提升仍主要来自编码和数学训练，而不是已经被证实的跨领域后训练协同。这意味着，企业不能预设“把更多业务数据都汇进一个大模型”必然会产生复利。未来可能需要在两件事之间取舍：一边是把共通能力汇入共享底座，另一边是把高度专业、敏感且未必可迁移的能力留在领域模型中。这不是技术细节，而是企业该自训、共训还是调用通用模型的基本账本。

被问到机器越来越能做事后，人类还剩什么角色时，Igor 没有把答案说成“人类永远负责创造力”。他举的是更具体的编码 agent：现在的机器已经能处理大量低层细节，那些人类大致懂、却不愿亲手敲进去的工作；人则仍负责架构和规划。这是一种分工，而不是替代。但他警告，随着 agent 能力上升，系统性激励会推动人类不断多交一点权：先让它写函数，再让它定实现方案，再让它选项目优先级，最后让它替你安排生活。

问题不只是工作被拿走，而是人可能连自己为什么要做一件事、是否接受一个结果，都不再参与。现有的“群体偏好对齐”只能让模型符合一群人的总体喜恶，无法保证它持续贴近某个个体的意图。Igor 因此提出更深的人机对齐与整合：未来甚至可能有 Neuralink 式接口，让人通过思维控制大量智能；但在那之前，模型训练和安全技术必须先让人保有表达意图、审阅过程和最终否决的能力。

这意味着，衡量 AI 是否帮到人，不能只看任务完成率、节省了多少时间，也要看人是否仍能理解关键选择，并在必要时推翻系统建议。Igor 认为全球放慢 AI 极其困难：美国经济依赖进展，国际竞争也不会停。既然很难减速，更现实的方向就是加速对齐与安全研究，而不是把“更能干”自动等同于“更该放权”。

Igor 的主线不是反对更强的 AI，而是反对智能、数据和控制权只向少数云端模型公司集中。第 1 条“闭源模型越强，反而越可能被两头挤压”，说的是模型公司不能永远把能力集中在 API 里出售；第 3 条“企业不自己后训练，可能是在交出竞争优势”，说的是企业不能把最懂客户的反馈不断送出去，却不把它变成自己的能力。两者指向同一件事：AI 的价值不会只停在模型参数里，而会落在谁掌握反馈回路、谁定义目标、谁保留行动权上。

第 4 条的个人 AI 和第 5 条的本地硬件，则把同一逻辑推到个人身上。真正个性化，不是系统背下你的生日、收藏和聊天记录，而是它能否根据结果持续校正，又不把你的全部生活上传到别人手里。第 8 条进一步划出底线：即使 agent 做得更快、更准，最终也不该顺手接管你的判断。

对读者来说，问题不必等到“超级智能”才出现。你所在的公司是否正在把独特流程变成自己的训练资产？你使用的 AI 是否让你更清楚自己的目标，还是只是更省事地接受它的安排？下一阶段的差别，可能不在于谁最早接入了模型，而在于谁没有在接入模型时，把数据、反馈和决定自己生活的权利一并交出去。