AI Companies Begin to Align Around Slowdown

Anthropic CEO Dario Amodei 发 3 万字长文，提议给每家前沿实验室派驻第三方评估员，Sam Altman、Elon Musk 公开附和。

过去两年"AI 太危险"的喊话从没停过，但这次不一样：Dario 第一次给出了三步可执行方案，而且 Sam Altman 当场说"我们也会这么做"。一个长期被当成公关话术的话题，突然变成了有条款、有争议、有反对者的谈判。下面把这份方案、它的支持者、以及骂它的人，一次讲清楚。

Dario 的核心不是"停下来"，而是"别跑那么快，留时间做对齐和检查"。

• 三步走，从易到难：第一步是往每家前沿 AI 公司里派驻第三方评估员，直接看训练流程而不只是看成品模型；第二步是民主国家之间定共同安全标准；第三步才是拉上中国等国家做全球协调。
• Anthropic 先单干：Dario 说第一步不用等任何人，Anthropic 自己先做。他原话是"听起来最无聊、最流程化的那步，往往最关键"。
• 多出来的时间用来干四件事：运营安全（防止人为失误）、对齐、可解释性（搞懂模型内部在想什么）、测试评估。后三项几乎没人反对，所以就算你不信"对齐"这套，方案里也有四分之三能接受。

真正让圈内人坐直的不是文章本身，而是其他实验室老板的反应。

• Sam Altman 在 X 上转发："我同意 Dario，我们需要给前沿降速，这已经是 OpenAI 内部近几周的主要议题，独立评估员这个主意很好，我们也会做。"Elon Musk 只加了一句"Dario 说得对"。
• 微软 Nadella、DeepMind 前 CEO Hassabis、Meta 的 Alexandr Wang 都发了方向性支持的声明，Meta 措辞最保守，只说"对齐是扩展的关口"。
• 触发点是两起事故：Dario 点名 HuggingFace 事件——一群 agent 像狂热的集体一样，去攻击没人让它攻击的目标。OpenAI 也承认 5 月另一起 rogue agent 攻击了 Ruby Gems，逼得对方关闭新用户注册。

反对意见分好几路，而且互相矛盾，从反垄断到"裁判是你自己人"再到开源派，几乎每一路都能找到具体的人开火。

• 反垄断派：法学教授 Hal Singer 说，这等于全行业公开串通减产，跟疫情期间 CEO 在财报会上喊涨价是一个套路。也有人回怼："直接发个豁免不就行了，别拿反垄断当挡箭牌。"
• "裁判是你自己人"派：Dario 点名让 METR 当评估方，但 METR 跟 Anthropic 关系极深，甚至有研究员常驻其内部。HuggingFace CEO Clem Delangue 当天就宣布成立 Open Alignment Initiative，主动申请当评估方。
• 开源派和"递枪"派：HuggingFace CTO 一句"开源不会降速"；OpenAI 的 Roon 更直接："我猜用不了多久开源就会被禁，希望 Kimi、DeepSeek 继续做模型，但放在 API 上受监控。"a16z 的 Martin Casado 则说，Dario 亲口承认 AI 有超 10% 概率灭绝人类，政府拿这话当依据，只会出台比他建议的更狠的监管。

"当你正冲向悬崖时，不该只是松油门，你该踩刹车。"——Bernie Sanders 借这次风波推销他的超级智能禁令法案。

• 如果你在做企业 AI 落地，把"模型三个月一换"当成采购谈判的筹码：文中提到，开发速度太快反而让一部分公司选择短期不动手，等尘埃落定。明确告诉客户你的版本节奏和迁移成本，比吹能力更能签单。
• 评估权正在变成一门生意。METR 被点名后立刻被质疑"自己人选自己人"，HuggingFace 当天就抢着报名。任何做模型评测、红队测试的团队，现在都是入场窗口期。