Jeff Dean: The 1% Rule for Building in AI

Jeff Dean 预测：2027 年 AI 将能自动化运行数周实验来自我改进，而不仅是写代码；他还透露了让模型性能提升 30-80 倍的关键。

Jeff Dean 是谷歌 AI 的奠基人，他在这里给出了一个反直觉的判断：未来 AI 的瓶颈不是模型参数，而是数据搬运的能耗。他不仅解释了为什么 TPU 会诞生，还告诉创业者如何找到大厂看不上、但自己能赢的领域，以及如何用“品味”而非“技术”来驾驭 AI 代理。

Jeff Dean 用一张餐巾纸算出了 TPU 的诞生。他当时发现，语音识别的算力需求会让谷歌服务器数量翻倍，但真正的瓶颈在于数据搬运的能耗是计算的 1000 倍。

• 一个关键数字：在芯片上，做一次数学运算只需 1 皮焦耳能量，但把数据从内存搬到处理器要花 1000 倍的能量。这个差距决定了 AI 算法必须“批处理”数据来摊薄成本，也决定了低延迟的推理硬件是下一个金矿。
• TPU 的启示：为了应对语音识别的算力需求，Jeff 团队设计了专门做“低精度线性代数”的芯片，它不能跑 Chrome，但能效比同期 CPU/GPU 高 30-80 倍，延迟低 20-30 倍。这证明了“为特定问题定制硬件”的巨大价值。

Jeff 认为，AI 的下一个飞跃不是模型更大，而是让 AI 系统能自动分解问题、运行大量实验、评估结果并自我改进，就像科学家一样。

• 从“写代码”到“做科研”：现在的 AI 代理能写代码，但 2027 年的 AI 将能自动运行持续数周的实验。比如，让代理用另一种语言重写软件，并自动验证其安全性和性能，这已经可以实现。
• 加速科学发现：谷歌团队曾用神经网络模拟量子化学计算，把原本需要一整晚的模拟时间缩短了 30 万倍。这种“快速验证模型”能让科学家在午餐时间筛选 1000 万个分子，彻底改变实验节奏。

面对谷歌这样的巨头，小团队的机会在于找到通用模型完全做不了、但你又充满热情的具体领域。

• 判断标准：如果通用模型在你关注的领域成功率是 0% 或 1%，这就是好机会；如果它已经能做到 20%，那说明能力正在形成，大厂很快就会追上。比如 AlphaFold 就是针对蛋白质折叠这个特定领域的成功案例。
• 两个可行的方向：一是做“个人数据”的组织者，因为通用模型没有你的私人数据；二是训练一个高度垂直的“窄模型”，比如用于芯片设计或材料科学，用很少的算力就能达到极高精度。

“如果你能清晰地说明你想要什么，代理的表现就会好得多；而选择做什么，比怎么做重要得多。”

• 评估你的项目时，用“通用模型成功率”作为试金石：如果成功率低于 1%，且你有独特数据或热情，这就是你的护城河；如果超过 20%，请立即转向。
• 将“品味”系统化：列出未来 12 个月你认为重要的 10 个问题，定期复盘哪些被世界解决了，哪些没有。这能帮你训练自己对“好问题”的直觉，而不是盲目追逐热点。