The AI Wealth Problem

Anthropic 承诺把约 20% 股权投入公共福利基金，纽约市 3250 亿美元养老基金随即要求它暂缓 IPO，先交代安全风险。

一家 AI 公司拿出五分之一的股权说要做公益，本该是好事，结果投资人、安全研究者和政客从三个方向同时开火。这期把“AI 财富怎么分、权力归谁”这个抽象问题，落到了具体的人和钱上。

Anthropic 周末宣布成立 Anthropic Public Benefit Fund，一家全资持有的 LLC，起步装入 5% 股权，公司估值每涨 50% 再追加 2%，合计约 20% 股权承诺用于公共福利。联合创始人已承诺捐出 80% 个人股权，约一半员工参与配捐。

• 不是传统慈善基金会：它是一家 LLC 而非 501c3，官方说法是“在不同捐赠形式之间保留调整空间”，并承诺不用于游说和政治捐款。
• 可能直接发钱：博客提到“向特定人群直接分配”，并以劳动力市场冲击为例，暗示可能给个人发钱，原话是“鉴于 AI 进展速度，可能需要更大胆的做法”。
• 批评集中在控制权：律师 Gabriel Shapiro 说“凭什么不能直接把 5% 空投给公众”；Elon Musk 表态“我建议直接把股票给公众，我就打算这么做”，并在有人提到通过 Trump Accounts 发放时回复“Yes”。

Stripe 高管 Nan Ransohoff 用 OpenAI 基金会持有的 26% 股权加上 Anthropic 创始团队承诺，估算出约 3700 亿美元公益资产，按每年花 10% 计算约合每年 370 亿美元。

• 对比基数：美国全年慈善捐赠约 6000 亿美元，这笔新增相当于每年多出 6% 到 17%。
• 真正的瓶颈是人：她写道“我们缺几千家公益创业组织和运营它们的人才”，也缺能每年稳妥投出 500 亿美元的顶级资金管理者。
• 和裁员消息撞在一起：Anthropic 一份研究报告提到 2030 年 GDP 增长 17%，同时预测 2027 年中停止招聘初级技术岗，被 Andrew Curran 解读为“自建版全球 UBI”。

Politico 拿到一份匿名泄露的草案，Anthropic 发言人确认存在，称内容是 6 月已公布的 Advanced AI Framework。

• 触发门槛：模型若造成超过 10 亿美元损失或 50 人以上死亡的可预见紧迫风险，政府可阻止发布，风险限定在生物武器、模型脱离开发者控制、网络攻击三类。
• 谁来判定：独立评估机构需在商务部注册但不受政府管辖，是否封禁模型由联邦法院裁定，而非商务部行政决定。
• 被两头骂：David Sacks 指出法案把“前沿”定义为 10^25 次浮点运算，而加州 SB 53、纽约 RAISE Act 用的是 10^26，今天真正的前沿在 10^27；另一边安全研究者 Nate Sores 说这法案让法院“更难阻止威胁全人类的 AI”。

“任何人都能建，就等于所有人都能杀。”——Nate Sores 批评该法案削弱了阻止危险模型的能力。

• 如果你在做需要存用户 API key 的产品，把密钥库当银行账户来设计：OpenCode 这次泄露导致用户账单飙到数千美元，事后必须换 key 而不只是撤销权限。
• 评估“AI 公司做公益”这类承诺时，先看治理结构而非金额：LLC 载体、董事会自由裁量、创始人超级投票权，决定了这笔钱最终由谁说了算。