An Astrophysicist Debunks the Singularity — Adam Becker

天体物理学家 Adam Becker 新书《More Everything Forever》开撕科技亿万富翁：奇点、AGI、太空殖民全是坏科学，人类根本离不开太阳系，AI 也不会带来乌托邦。

一边是 Sam Altman、Ray Kurzweil 们高喊“AGI 即将到来，要么永生要么灭绝”，另一边是物理学家 Adam Becker 用第一性原理逐条拆解：奇点论是 cherry-picking，太空殖民是痴人说梦，AI 意识更是无稽之谈。这期播客把硅谷最流行的几大信仰，从科学和哲学层面全部打穿，看完你会对“科技救世”叙事产生根本性的怀疑。

Kurzweil 把摩尔定律无限外推，声称 2045 年奇点到来，技术将无所不能。但 Becker 指出，他的证据全是精心挑选的数据点，而且他犯了一个认知错误：我们对近期的历史看得更清楚，对远古历史一片模糊，这种“对数视角”被他误当成了真实的指数增长。

• Kurzweil 的“加速回报定律”：不仅适用于技术，还回溯到生命起源甚至大爆炸，声称复杂度一直在加速。但 Becker 反驳：任何指数增长都必然终结，就像 lily pad 占满池塘后就没得长了。
• Bezos 的太空梦：Bezos 说 300 年内地球能源耗尽，所以要殖民太空。Becker 算了一笔账：就算白送他超光速飞船，按当前能源增速，不到 4000 年就能用完整个可观测宇宙的能量——这比金字塔的年龄还短。

硅谷流行“人是可上传的程序”这种想法，但 Becker 强调：我们就是我们的身体，认知不是计算。大脑的复杂度和身体-环境的耦合，远非计算机能模拟。LLM 只是预测下一个词，它“说对”和“说错”时运行的机制完全一样，所谓“幻觉”根本不是故障，而是常态。

• LLM 与 5 岁小孩的对比：LLM 摄入的文本量远超一个人一生能读的，但在很多语言任务上还不如一个 5 岁孩子。这恰恰说明我们和 LLM 有本质区别。
• AI 是面镜子：Becker 引用 Shannon Vallor 的比喻，AI 只是把用户的想法反射回来。所谓的“AI 精神病”（比如 Google 工程师认为 LaMDA 有意识），其实是人类天生爱在随机噪声里找人脸的模式识别倾向被利用了。

Becker 认为，EA 和理性主义社群里的人大多是真诚的，他们真的相信 AI 对齐是“我们这个时代的问题”。但他们不懂权力，而硅谷的风险投资体系需要“永续增长”的叙事，于是两股力量一拍即合——一个提供意识形态，一个提供资金和放大器。

• 气候问题不是技术问题：Becker 强调，解决气候危机所需的技术大多已存在，真正的障碍是部署、说服和制度变革，这是社会问题，不是科技问题。如果真造出超级 AI 让它解决气候，它第一句话可能是“你不该造我，看我的碳足迹”。
• Yudkowsky 的“智能爆炸”：他相信只要给足算力，AI 会自我改进、指数级变聪明，然后毁灭世界。Becker 反驳：智能不是单一维度的东西，如果高智能对实现目标普遍有用，自然界早就进化出更多了——树有目标，但给树装个神经系统只会碍事。

“我们不会离开太阳系，星星太远了，这就是我们唯一的家。”

• 下次听到“AI 将指数级改变一切”的叙事时，先问一句：这个增长曲线画到哪一年开始撞墙？Becker 的“lily pad 占满池塘”提醒你，任何指数增长都有物理边界，别把外推当预言。
• 评估 AI 能力时，别只看它“说对了什么”，要留意它“说错时”的机制是否和说对时完全一样——LLM 的“幻觉”不是 bug，是常态，这决定了它永远不是“思考”，只是“预测”。