Why Would AI Companies Want to Slow Down?

Ali Ghodsi 认为“超级智能”风险几乎为零，真正让企业头疼的是 AI 自动化网络攻击速度远超防御能力。

企业不缺更聪明AI，缺组织记忆

Ali Ghodsi，Databricks CEO。他既站在经营者的位置讨论前沿模型竞赛和 AI 风险，也把自己当成公司内部 AI 产品的试用者：他用 AI 写代码并提交到 Databricks 生产环境，还推动全员把 AI 用进日常工作。本期最具体的部分，不是“模型到底会不会更强”这类空中争论，而是企业怎样把员工脑中的门道、散落在会议和系统里的信息，变成 AI 真能调用的组织能力。

这期回答了 7 个问题：

1. 如果前沿模型暂停迭代，绝大多数企业的 AI 转型真的会停摆吗？
2. 为什么企业已有很强的模型，却仍然只能把 AI 当聊天机器人和代码助手？
3. 怎样把员工脑中的隐性知识，变成 AI 可调用且不泄密的“组织本体”？
4. 面对 AI 加速的网络攻击，为什么正确答案可能是跑得更快，而不是放慢模型？
5. 企业如何让 token 用量继续增长，却不让 AI 账单同步失控？
6. 当公司内部人人都在问 Genie，管理层和信息层级会发生什么变化？
7. 怎样区分“AI 帮 AI 干活”的普通自动化，与可能失控的递归自我改进？

被问到企业未来 12 个月如何真正从 AI 获得价值时，Ghodsi 先泼了一盆冷水：多数公司离“让成百上千个代理协同、自动化整个企业”还很远。主持人问过企业里谁已经在管理大量相互协调的 AI 代理，几乎没人举手。现实中，很多公司的 AI 使用仍停在 Microsoft Copilot、问答聊天机器人，以及辅助写代码这几层。

但这不代表现有模型不够用。Ghodsi 说，Databricks 有“90 some percent”的软件已经由 AI 编写。这不是一两个 demo，而是软件生产链条中相当大的一部分编码工作已经能交给模型完成。因此，他的判断很直接："For that, we actually don't need smarter models."（为此，我们其实不需要更聪明的模型。）

这意味着，对绝大多数企业，眼下的瓶颈不是模型能不能把考试分数从 60 提到 70，也不是它能否解决更难的数学题；瓶颈是公司有没有把模型塞进真实流程。模型不知道内部项目卡在哪里，不知道哪个人真能推进事情，也不知道客户、合同、产品和交付之间的关系。没有这些上下文，再强的模型也只能当一个反应快的问答框。

这里有一层分化：企业未必怕前沿放慢，前沿实验室却很怕。Ghodsi 判断，“智能的价格”大约每六个月降到原来的十分之一。实验室的商业逻辑依赖不断推出更强的前沿能力；而普通企业真正要补的，是把已经足够好的能力接上工作现场。

被问到企业到底该如何把“上下文”交给 AI 时，Ghodsi 用了一个很容易理解的对比：两名能力、教育背景、勤奋程度都相同的员工，一名今天入职，一名已经工作五年。五年员工知道谁能把事办成，知道组织架构图上该找的人未必真能解决问题，也知道哪些流程看似正规却根本走不通。这些没写进员工手册的判断，才是企业最值钱、也最难复制的资产。

他把这套资产称为 ontology，也就是“组织本体”：人、资源、部门、项目、目标之间到底有什么关系，哪些关系是实际有效的。"The one has an ontology of how that organization works."（其中那个人拥有一套关于这家组织如何运作的本体。）

第一步其实很笨：把信息留下来。会议要有转录，数字内容要被收集，项目讨论和流程痕迹要进入系统。难点也恰恰在这里。法律团队往往会说“不要录下每一通电话”，于是企业还没开始做 AI，就先撞上数据采集、隐私和合规的墙。

第二步才是技术活。Ghodsi 不认同让代理每次提问都挨个访问 MCP server、一个资源一个资源找答案。那像让搜索引擎每次搜索都临时爬完整个互联网：慢、贵，而且只看得到很小一部分信息。更合理的做法，是离线把关系沉淀成数字图谱和索引，让 AI 查询时直接命中结构化结果。同时，这个索引必须带着权限走：我能看的数据，未必你也能看。组织本体不是一个按钮，而是一套持续收集、计算、授权和更新的系统。

被追问 AI 风险应靠工程解决，还是应该靠减速和监管时，Ghodsi 把“超级智能风险”和网络安全风险拆开了。他认为眼下的生存性风险接近于零，但网络攻击是一个已经在加速的工程问题。最扎眼的数字是 CVE，也就是公开披露的软件漏洞：2018 到 2019 年，一个漏洞从公开到被攻击者武器化，通常还有两三年窗口；2022 年缩短为八九个月；现在则已接近“几个小时”。

这意味着传统安全运营中心已经跟不上。过去的做法是安全人员每天打开数百封告警邮件，其中很多是误报，再从中找出真正的入侵。如今漏洞刚公开就可能被利用，人类没有足够时间逐条筛选。Ghodsi 的结论是："You need to automate all of those."（这些环节都必须自动化。）

所谓“自动化所有环节”，不只是自动弹告警，而是让代理做检测、关联日志、判断异常、主动威胁狩猎，甚至用代理自动攻击自己的系统，提前找出漏洞。银行和少数安全要求极高的机构已在这样做，但他认为大多数组织仍处于老式人工 SOC 阶段。

这也解释了为什么“放慢 AI”并不是网络安全的充分答案。攻击方同样会用 AI，也同样会自动化。若防守方拒绝升级，先出现的未必是科幻式末日，而是网站下线、关键系统暂停、经济损失，甚至有人因基础设施失效而受伤。风险真实，却不必被夸大成同一种风险。

被问到怎样从“token maxing”转向真正的价值最大化时，Ghodsi 讲的是一笔企业迟早会碰上的账：员工开始大量调用模型后，token 用量可以飙升，但并非每一次调用都值得使用最贵、最强的模型。Databricks 的做法是先在 Unity Gateway 里按个人和团队设预算，设置预警，并分析钱具体花到了哪里。账单不是月底才看一眼，而是成为日常调度信号。

接下来是智能路由：任务简单，或团队接近预算上限时，系统自动选择更便宜的模型。真正容易被忽略的是 harness，即把模型、工具调用和执行流程串起来的外层执行框架。Ghodsi 说，即使模型和版本完全相同，只换不同的 harness，实际成本也可能差接近两倍。"Turns out actually the harness itself matters."（结果发现，harness 本身其实很重要。）

Databricks 由此把 token 使用量继续往上推，AI 总成本却大致维持不变。这意味着，企业买 AI 不再是“选一个最强模型”就结束了，而是一道组合管理题：哪些任务值得用前沿模型，哪些可交给便宜模型；何时切换；预算到哪里触发限制；代理该怎样调用工具。

边界也很明确。模型输出具有随机性，版本迭代又快，同一套安排不会一劳永逸。企业不能把一次模型选型当作长期战略，而要持续做实验、测成本、调路由。最怕的不是多用 token，而是拿昂贵模型去做重命名文件之类的琐事。

被问到 Databricks 自己用了组织本体以后发生什么时，Ghodsi 描述了一种很具体的变化：公司为自身构建的本体图谱规模极大，他称其节点数量达到“millions of millions”，甚至比客户构建的图谱还大。它不是静态通讯录，而是把销售、产品、客户、财务、会议和项目关系放进可查询的结构里。

一次准备内部董事会材料时，他想知道 Fortune 500 客户渗透率，先问销售运营同事。对方说自己在飞机上，暂时无法登录 Genie；他转头问 CFO Dave，收到的同样只是 Genie 截图。没人再去手工拉数、做 Excel 分析、整理一轮汇报。Ghodsi 用公司里的新口头禅概括这种变化："It's like let me genie that for you instead of let me go."（这就像是：让我替你 Genie 一下，而不是让我亲自去办。）

传统组织的信息像树一样上下流动：一线把信息往上报，决策需要层层升级；管理层理解情况后再把决定往下传。每一层都可能变成信息中继站。若 AI 已经拥有组织本体，它可以先做分析、生成图表和展示材料，还能接受追问，于是许多“为了补充解释而开的后续会议”不必再开。

这意味着中层和职能部门不会简单消失，但稀缺性会变化。价值不再主要来自“我手里有数据、我知道该找谁”，而转向定义正确问题、校验 AI 答案、处理异常情况。前提是数据沉淀和本体建设已经完成；只接入一个聊天机器人，并不会自动压平信息层级。

被问到实验室的递归自我改进，也就是 RSI，是否正把行业带向超级智能时，Ghodsi 给出了一个比“AI 会自己写代码”严格得多的判断框架。他说，必须同时看到四件事：下一代模型训练所需 GPU 等资源以超线性幅度下降；训练时间更短；模型智能或准确性更高；并且前三项可以一轮接一轮地持续重复。

为什么四项缺一不可？如果资源并未下降，硬件供给会形成物理约束；如果训练没有变快，迭代速度也起不来；如果能力没有提升，节省资源没有意义；如果只能偶发一次，则不是自我强化的闭环。Ghodsi 特别强调，AI 在写软件不是充分证据。Databricks 已有超过九成软件由 AI 编写，但他并不认为剩下的几个百分点也交给 AI，就必然跨进危险区。"I don't even know if that necessarily leads you to super intelligence."（我甚至不知道，那是否必然会把你带向超级智能。）

这把讨论从“模型越来越会干活，所以一定失控”的情绪，拉回可审计指标：训练到底用了多少资源、耗时多久、能力提升多少、这种改善能否重复。Ghodsi 主张让独立检查者进入实验室看数据，但又指出最难的问题：谁算独立？如果检查者在进去之前已经站队，结论很难取信于另一方。

他认为目前没有证据表明四个条件正在同时发生，但实验室确实在重点研究 RSI。因此，既不能把普通自动化当末日信号，也不能因为还没看到闭环，就拒绝披露关键数据。

被问到公众除了风险讨论外，究竟能从 AI 得到什么时，Ghodsi 给出的答案不是抽象的“生产力提升”，而是一串有明确使用场景的案例。Crisis Text Line 用大语言模型识别青少年是否表达自残或自杀意图；Omnipod 为糖尿病患者学习胰岛素释放与血糖水平，并自动调节；Zipline 用 AI 驱动无人机配送物资，早期曾把血液送往非洲难民。

在医疗研发端，Databricks 与 Merck 构建了 TEDDY 模型。它不是预测英文里的下一个 token，而是预测基因调控网络会如何反应，并尝试区分真正具有因果作用的细胞与只是被动反应的细胞。Novo Nordisk 则用 Genie 处理临床试验洞察，把原本需要数周的过程压缩到数分钟。Ghodsi 的提醒很朴素："We should not forget these upsides also."（我们也不该忘记这些积极面。）

这意味着 AI 的公共正当性不能只靠实验室解释“我们会小心”。公众会追问：它对我、对病人、对公共服务到底有什么回报？如果社会接收到的只有灭绝、失控和裁员叙事，监管对技术扩散的容忍度自然会下降；而救命、缩短研发、改善慢病管理这些可感知的结果，才会构成另一端的社会基础。

但这些案例也不能被拿来抵消一切风险。它们证明特定场景可以产生实益，却不能自动回答网络攻击、企业数据权限或递归自我改进的问题。收益和风险需要分别计算，不能互相充当免死金牌。

这场争论不该被“加速还是减速”一个词绑架。第 1 条说，前沿模型放慢未必卡住多数企业，因为它们真正缺的是把现有模型嵌入流程；第 2 条进一步说，企业缺的不是又一个知识库，而是把人、项目、目标、权限和历史决策连起来的组织本体。两条其实指向同一件事：模型能力已经不是唯一的短板，组织是否能把自己的记忆交给机器，才是生产率能否落地的分水岭。

但第 3 条又提醒我们，有些领域不能等组织慢慢适应。漏洞从公开到被武器化已从两三年压到小时级，安全防御若还靠人工翻几百封告警邮件，等于拿步行速度应对自动驾驶的攻击。这里该加速的不是营销口号，而是机器对机器的防御能力。

第 4 条和第 5 条则把企业内部的另一面讲清楚：AI 不是装上就完事。成本要靠模型路由、预算和 harness 管；决策速度要靠可查询的组织本体，而不是让管理者继续当信息搬运工。至于第 6 条，真正值得外部盯住的不是“AI 会不会写代码”，而是训练资源、训练时间、能力提升和递归闭环是否同时出现，并能否接受可信审视。

落到每个读者所在的公司，问题可能没那么宏大：你们的会议和流程有没有留下可用记录？谁掌握关键关系却只能靠口口相传？哪些 AI 调用真的创造价值，哪些只是昂贵的热闹？这些具体问题，决定了 AI 在组织里究竟是一个更会聊天的窗口，还是一套开始参与真实决策与执行的系统。