Satya Nadella on Open vs Closed Models: Who Wins | Why Companies Need to Own Their Own Intelligence

Satya Nadella 直言 AI 对齐不能靠模型变大自动解决，微软用 Agent 365 给每个 AI 代理分配身份、全程记录和行为监控。

AI 越强大，越难保证它“听话”。Satya Nadella 公开否定“模型越大越自动对齐”的老观念，强调对齐要在训练初期就嵌入模型本身，靠后期微调没用。他详细讲了微软用“零信任架构”管 AI 代理的具体做法，还点出企业必须保护自己的智能资产，不能让数据和价值都流向模型公司。你能看到他对开源模型、企业数据归属、AI 普及速度的最新判断。

Nadella 说，AI 不能靠自觉，微软像防黑客一样给每个 AI 代理分配身份、全程记录和实时监控。

• Agent 365 分配唯一身份：每个 AI 代理都有独立身份，所有操作、工具调用和推理过程都被详细记录。
• 日志不可篡改：AI 代理不能修改自己的日志，所有记录都防篡改，方便事后审计。
• 行为监控和策略设定：企业能为代理设定行为策略，系统实时监控代理是否偏离规定，发现异常及时干预。

Nadella 反思，过去相信“模型越大越自动对齐”，现在完全不信，强调对齐要在训练和预训练阶段就嵌入模型本身。

• 后期微调不靠谱：靠后期强化学习（RL）或微调无法彻底解决对齐问题，必须在模型权重初始阶段就嵌入对齐机制。
• AI 安全和工程安全要分开：他区分了“AI 安全”（模型本身的对齐）和“工程安全”（外部的零信任架构），两者不能混为一谈。
• 开源模型的挑战：他指出，开源模型大多由中国团队主导，全球都面临对齐和安全难题，开放权重不等于自动安全。

Nadella 强调，未来每家企业都要积累自己的 AI 知识和评测标准，不能让数据和价值都流向模型公司。

• 企业自有评测（private evals）：每家公司会有自己的 AI 评测基准，成为核心知识产权，模型厂商要在这些基准上“爬坡”。
• 数据价值归属买方：Nadella 提出“信息反悖论”，过去卖家怕泄密，现在买家（企业）要防止自己用数据训练 AI 后，价值被模型公司拿走。

“我曾以为只要模型规模足够大，AI 就会自动对齐人类目标，但现在我完全不信这一点。”

• 设计 AI 应用时，别指望模型厂商自带安全，企业要主动给每个 AI 代理分配身份、全程记录和实时行为监控。
• 企业应尽早建立自己的 AI 评测标准和知识资产，别让数据和价值都流向模型公司，未来竞争力取决于“谁掌握自己的智能资产”。