The Growing Gap Between ChatGPT and the AI Inside OpenAI - Noam Brown

最新 AI 模型每两个月发布一次，但它们能连续自主运行三个月，安全评估和外部开放已跟不上模型能力的增长。

AI 模型的进步速度远超大多数人的想象：一边是每两个月就有新一代模型上线，另一边是模型本身能连续自主完成长达数月的复杂任务。安全评估和外部开放的流程却还停留在 GPT-4 时代的节奏，已经无法覆盖模型实际能力的全部周期。卡片梳理了这种“能力溢出”带来的新风险、权力集中和外部用户被甩在后面的困境，以及行业内外都还没想清楚的难题。

现在 AI 模型的能力提升速度，已经让原有的安全和对齐流程变得不够用了。

• 模型发布周期极短：主流前沿模型每 2 个月就有新版本上线，有时甚至更快。
• 模型能做的事越来越长线：GPT-3 时代只能短时操作，现在的新模型能连续自主完成一周甚至三个月的任务，而且表现还不错。
• 安全评估赶不上能力跨度：如果模型能连续运行 3 个月，但新模型 2 个月就发布，团队根本没法在完整周期里做足够的安全和对齐测试。

AI 实验室内部用模型的速度和能力，已经远远超过普通用户能接触到的版本，形成了明显的信息和能力壁垒。

• 内部部署遥遥领先：实验室可以直接用最强模型做科研、解难题，而外部用户往往只能用上一代甚至更老的模型。
• 外部开放越来越慢：模型越强，外部开放越谨慎，甚至可能干脆不开放，担心被滥用或引发风险。
• 权力高度集中：这种差距导致实验室掌握了远超外部的能力，像 Millennium Prize 这类顶级数学难题，只有内部团队能用 AI 解出来，外界完全无从参与。

面对模型能力和风险的双重激增，行业还没找到平衡点。

• 放慢发布有副作用：如果为了安全放慢模型发布，内部和外部的能力差距只会更大，外部用户被甩得更远。
• 能力溢出领域不止数学：现在 AI 已能解决很多未解数学难题，未来会影响政治、媒体、商业等更多领域，影响面会越来越广。
• 没人能给出标准答案：行业内外都还没想清楚怎么权衡安全、开放和能力集中这三者的关系，现有政策还停留在 GPT-4 时代，没跟上能力爆发的现实。

“如果模型能连续运行三个月，但两个月就有新模型上线，我们根本没法在完整周期里做足够的安全评估。”

• 关注模型实际能力跨度，不能只按发布节奏做安全评估，应该设计覆盖更长周期的自动化监控和回溯机制。
• 外部用户和开发者要意识到能力鸿沟正在拉大，主动争取更多开放渠道或参与社区评测，避免被甩在“旧时代”。