‘We may release models we can’t control’: Amodei, Altman … and Gemini Carbon
AI Explained · 2026-11-03
Anthropic 内部 91% 员工相信 AI 2030 年前能做出诺奖级发现，但只信 AI 能接管 75% 的本职工作。
顶级 AI 实验室的员工一边相信 AI 很快能做出诺奖级成果，一边又不敢把全部工作交给 AI。Anthropic、OpenAI、Google 等公司在“能力爆炸”和“安全底线”之间反复摇摆，连 CEO 的说法都随时变。本文用内部调查、原话和最新行业动态，带你看清实验室真实的焦虑和博弈。
Anthropic 员工对 AI 能力乐观，但不敢全交给它
Anthropic 内部对 AI 的预期远超普通人，但他们自己也不敢完全依赖 AI。
- Anthropic 91% 员工认为 AI 到 2030 年能做出诺贝尔奖级科学发现，美国普通成年人中持同观点的比例远低得多。
- 同一批员工只信 AI 能做 75% 的本职工作，剩下 1/4 他们觉得 2030 年前 AI 还做不了。
- 联合创始人 Jack Clark 预测 2027 年 AI 就能“自己进化自己”，但大多数员工认为人类在训练前沿模型时还会有不可替代的角色。
实验室领导人对“安全”底线不断调整，实际做法更灵活
AI 实验室在“安全承诺”和“商业竞争”之间反复横跳，政策说法随时变。
- Anthropic CEO Dario Amodei 曾说“不能从第二名做安全”，现在又主张“只有领先才能定安全标准”，实际是在为公司策略找理由。
- Anthropic 放宽了“负责任扩展政策”，不再承诺遇到风险就暂停开发，只要“没有明显证据显示对手追不上”，就能继续推新模型。
Google、OpenAI、Anthropic 竞速，模型能力“尖刺”越来越极端
顶级实验室的模型在关键领域已能碾压人类，但日常表现仍有短板。
- Google Gemini 4 Carbon 用几周就超越 OpenAI Astra 和 Opus，专业能力更强，成本却只有三分之一。
- 行业分析师 SemiAnalysis 曾断言 Google 已无望重回前沿，结果 Gemini 4 Carbon 发布后公开道歉，承认判断错了。
带走一句话
“我们发明了能解我们自己都搞不懂的题的工具，最后只能见证它爆炸式成长，而无法完全理解和预测。”
- AI 行业的“安全政策”会随竞争和压力不断变动，实际底线要看公司最新的公开文件和决策。
- 顶级模型在关键任务上已能“爆冷”胜过人类，但日常工作仍有短板，适合用“人机协作”逐步替换流程，而不是一刀切全自动化。
