AI Pioneer Jürgen Schmidhuber on the State of AI Today

AI 之父 Schmidhuber 警告：千亿美元 GPU 投资将在 5 年内蒸发 9000 亿，因为算力每 5 年便宜 10 倍，且开源模型会抹平所有商业护城河。

• Schmidhuber 认为，真正的 AGI 必须能操控物理世界，而不仅仅是屏幕后的文本生成。当前大模型虽然通过了图灵测试，但只是“花哨的文本编辑器”。
• 机器人硬件远逊于人体：人手有数百万个传感器、自愈能力，人类技术无法复制。他 1970 年代就告诉母亲“会造厨房清洁机器人”，但至今未实现。
• 物理 AGI 需要硬件突破，这比算法更难预测。他估计可能还需 数十年，而非几年。

• 算力成本每 5 年下降 10 倍。现在投入 1000 亿美元建数据中心，5 年后同等算力只需 100 亿，10 年后只需 10 亿。因此“未来 5 年内，这些公司会损失 9000 亿美元”。
• 商业模式不可持续：云服务公司从轻资产软件公司变成重资产电力公司，自由现金流从 1000 亿暴跌至 100 亿甚至负值。它们靠举债维持投资，最终会因供需法则崩盘。
• 开源模型是价格杀手：闭源模型领先 3-6 个月，但开源模型很快追上，导致无法提价。所有重要算法（包括递归自我改进）都来自小实验室和博士生，大公司无法垄断。

• RSI 历史：Schmidhuber 从 1987 年就开始研究元进化，1992 年提出神经网络自我修改权重，2003 年提出数学最优的“哥德尔机”。当前主流做法是 1992 年方法的扩展，但受限于梯度下降。
• 开源生态让 RSI 无法成为护城河：所有关键思想都来自学术界，博士生们同样兴奋地研究 RSI。大公司无法长期保持优势。
• 未来方向是“人工科学家”：通过自身行动（实验）生成数据，训练世界模型，而非依赖人类标注的互联网数据。婴儿就是这样学习的——预测自己动作的后果。互联网数据只是所有可能数据的“极小极小极小一部分”。

• 对齐问题本质上是政治问题：10 个人有 10 种不同需求，不存在统一的“人类利益”。现实中，乌克兰和俄罗斯都在用 AI 无人机互相攻击，根本不存在对齐。
• 真正聪明的 AI必须能自己设定目标（如人工科学家），这必然导致不可预测性。但就像教育孩子一样，我们可以通过奖惩塑造其行为。
• 保护生命是智能体的内在动机：人工科学家会对生命、自身起源、文明产生好奇，从而有强烈动机保护“有趣模式的来源”，而非摧毁它。

“从宇宙视角看，文明和 AI 几乎是同时发生的——过去 13000 年的文明史，只是世界历史（138 亿年）的百万分之一，就像一道闪光。”

• 做 AI 产品的：别押注闭源模型的长期垄断。开源模型会迅速抹平差距，你的护城河应来自独特的数据飞轮（如机器人实验数据）或垂直领域的深度集成，而非模型本身。
• 做投资的：警惕算力泡沫。当前千亿美元 GPU 投资可能重演互联网泡沫——基础设施先行，但应用端盈利远不及预期。优先关注降低推理成本（如线性 Transformer）或物理 AI 硬件（如传感器、灵巧手）的公司。
• 做研究的：Schmidhuber 的“人工科学家”路线值得跟进——通过自主实验生成数据、训练世界模型，而非依赖人类标注。这可能是突破当前大模型“人类偏见”瓶颈的关键路径。