AI Optimism vs AI Pessimism

Anthropic 新广告用火灾、墓碑等负面画面开场，连 Sam Altman 都以为是反 AI 恐吓片，背后反映 AI 风险讨论正从极端恐慌转向更现实和多元的经济、治理话题。

• Anthropic 新广告一上来就是火灾、墓碑、监控、失业、流浪汉，画风极度负面，很多人以为是反 AI 组织拍的恐吓片。
• 广告主题其实是"在难题中寻找希望"，后半段才转向"AI 能否帮我们更好地连结社区、让更多人被理解"等正面问题。
• Sam Altman（OpenAI CEO）转发吐槽："我以为这是个讽刺片"，不少业内人也觉得这广告完全没抓住大众情绪，前几秒就劝退了大部分观众。
• 主持人观点：AI 公司总想"先承认风险再讲好处"，但现实是大多数人根本不会耐心看完负面片段，直接被劝退。

• 过去的 AI 风险请愿书多以极端恐慌为主，如 2023 年 Future of Life Institute 的"全球暂停 AI 训练 6 个月"公开信，强调"灭绝风险"（X-risk），但跟现实技术脱节，没引起主流共鸣。
• 这些请愿书常被批"专家闭门造车"，比如所谓的"诺奖得主"其实多是 Geoffrey Hinton 这类 AI 末日论代表，"AI 专家"也常是网络科幻博主。
• 今年出现的新请愿书更接地气，如斯坦福数字经济实验室（Stanford Digital Economy Lab）发起的"AI 经济转型声明"，由 Erik Brynjolfsson 牵头，16 位诺奖经济学家签名，主张"AI 可能带来比工业革命更大的经济变革，且速度更快"。
• 声明核心是"我们得赶紧研究 AI 的经济影响，建立激励、护栏和新制度"，而不是直接喊停或强监管。
• Google DeepMind AGI 经济学负责人 Alex Emes 也签名，他提到"虽然模型进步很快，但 20-24 岁失业率没变，大家都很意外"——说明实际影响和预期有巨大差距。

• AI Futures Project 去年出过一份 AI 2027 末日剧本，讲 AI 自我进化、全球失控、经济崩溃，完全是"AI 末日小说"。
• 今年新出的 AI 2040 Plan A 改成了"怎么把超级智能推迟到 2040 年"的操作方案，主张中美政府合作，哪怕互不信任也要联手放慢 AI 进展。
• 但不少业内人吐槽"太不现实"，比如 Timothy B. Lee 说："相信超级智能必然降临的人和不信的人，根本聊不到一块去。"
• Singularity University 的 Ramez Naam 直接批评："AI 2040 用虚构威胁为政府监控和权力集中找借口，反而会让世界更不自由、更不安全。"

• Demis Hassabis 把 AGI（通用人工智能）比作"让沙子会思考"，影响堪比电和火，甚至可能比工业革命大 10 倍、快 10 倍。
• 他主张"谨慎乐观"：政策要既鼓励创新又保障安全，呼吁建立类似金融业 FINRA 的 AI 前沿模型标准组织，要求模型发布前 30 天自愿送检，定期更新评测标准。
• 业内反应两极分化：Mustafa Suleyman（微软 AI 负责人）力挺，投资人 Andrew Steinwold 担心美国一旦监管就会被中国赶超。
• DeepMind 的 Seb Krier 点出分歧根源："大家对 AGI 监管的反应，其实跟你更怕 AI 失控、公司垄断，还是政府滥权有关。"
• Ramez Naam 进一步指出：AI 2040 这类方案本意是防风险，结果却可能给政府前所未有的监控和操控工具，伤害自由远大于假想的 AI 威胁。

• 主持人总结：过去 AI 风险讨论不是极端恐慌就是空洞口号，现在逐渐转向"多点谦逊、少点先验结论、更多基于现实数据的讨论"。
• 即便 Anthropic 广告翻车，本质上也是想从"只谈风险"转向"承认难题后讲希望"。
• 社会各界都在加入讨论，比如梵蒂冈即将举办"以人为本的 AI"大会，诺奖得主、AI 专家、研究者齐聚一堂。
• 主持人坦言：自己曾经对这类讨论很反感，但现在看到更多理性和建设性的声音，反而比预期更乐观。

"AI 风险讨论正从'末日恐慌'转向'现实问题怎么解决'，连最悲观的人都开始讲数据和多元视角了。"

• 做 AI 产品和政策的人要警惕"恐慌叙事"的副作用：极端负面宣传容易劝退大众，反而让理性讨论空间变小，沟通要先接地气、再谈远景。
• AI 经济影响是下一个主战场：比起"灭绝风险"，AI 如何影响就业、分配和社会结构才是政策、产品和投资该重点关注的新方向。
• 监管设计要避免"为防假想威胁反而制造真风险"：集中权力、过度监控可能带来比 AI 本身更大的社会伤害，治理方案要兼顾创新、自由和安全。