America’s AI Lead Over China Is 12 Hours Not 12 Months – Paul Christiano
Dwarkesh Patel · 2026-11-19

OpenAI 董事会成员公开主张:前沿实验室应立即暂停预训练和强化学习的算法改进,因为一家小安全公司 12 小时就拿到了 Anthropic 全部 Slack 记录。
大家习惯用“美国领先中国 6 到 12 个月”来衡量 AI 竞赛,但这期嘉宾给了一个刺眼的换算:一家不知名的网络安全创业公司,12 小时就攻进了 Anthropic 的 Slack。当算法秘密几天就能被拿走,领先月数这个说法本身还成立吗?他由此推出一个相当激进的结论——现在就该停。
领先 12 个月,还是领先 12 小时?
嘉宾用两起真实入侵事件,把“美国领先中国多久”这个常见说法直接推翻了。
- Hacktron 几天内攻进 OpenAI:不仅看到了内部源代码,还拿到了向主代码库(monorepo,全公司代码集中存放的地方)提交修改的权限。
- Cathedral 12 小时拿走 Anthropic 的 Slack:这家随机找的网络安全创业公司,直接拿到了全部聊天记录——那里正是讨论算法秘密的地方。
- “领先 12 小时”:他的结论很直接,秘密一旦泄露,对方就直接站到了同一条起跑线上。
他为什么说“现在就该停”
这不是泛泛的安全呼吁,而是一个有明确范围的暂停主张,而且说话的人身份特殊。
- 只停预训练和强化学习的算法改进:他明确区分,这类成果极易扩散、极易被偷;实验室其他该做的事照做。
- 身份是 OpenAI 董事会成员:但他反复强调这段发言不代表 OpenAI 立场,只说“这是关于世界的一个事实”。
- 暂停的三个条件:安全防护到位、被偷了也守得住、能判断自己是否真的控制住了模型;防护他估计要 6 到 12 个月,对齐则未必需要一劳永逸的方案,关键是能及时发现跑偏并作出反应。
最坏的那条路径长什么样
主持人把逻辑推到底:如果安全问题不解决,到某个节点你会被逼着往前冲。
- 2027 年初造出 GPT-9:你开始害怕下一步的 GPT-11 会失控,想停下来先做对齐。
- 中国轻易拿走 GPT-9 的权重或训练秘方:以现在的安全水平,对方能直接用它做出 GPT-10、GPT-11。
- 于是你没法停:你怕自己的 GPT-11 可能造反,但更确定对方的 GPT-11 一定会攻击你——这就是他说的“最可能通向灾难的那条路”。
带走一句话
“我们不是领先中国 12 个月,而是领先 12 小时。”
- 评估一家 AI 公司的护城河时,把“内部代码库和聊天记录的访问权限”当成核心资产来审计:连提交代码的权限都能被外部小团队拿到,模型权重和训练配方就只是时间问题。
- 如果你在做依赖前沿模型能力的产品,别把“领先窗口”当成 6 个月来规划;按“对手几天内就能追平”做预案,把差异化放在数据、分发和工程整合上,而不是模型本身。
