Zero to One in AI Safety: Halcyon's Mike McCormick on Launching 30 New Orgs & the Founder Bottleneck

Hion 三年内助推 30 家 AI 安全、网络安全和生物安全组织成立，累计融资超 5 亿美元，重点支持创始人跨界转型。

AI安全不缺钱，缺能创办组织的人

Mike McCormack 是 Hion 创始人兼 CEO。Hion 同时运营非营利资助与风险投资基金，专门帮助人才发起 AI 安全、网络安全和生物安全组织。成立三年间，Hion 已帮助发起约 30 个组织，它们累计融资约 5 亿美元。Mike 的判断很直接：AI 带来的问题不会因为多几份报告而消失，最后必须有人把技术、政策、资金和人才拧成能运转的机构。本期谈的不是“AI 安全应该做什么”的愿望清单，而是更难的一层：谁来把这些事真正做出来，以及怎样让它们在短时间内长出执行力。

这期回答了 8 个问题：

1. 为什么 AI 安全未来最稀缺的不是资金，而是能把资金变成机构的人？
2. 如果 AI 2027 时间线可信，现在新创办组织会不会已经太晚？
3. 为什么减速协议的真正难点不在外交谈判，而在技术验证？
4. 职业转入 AI 安全，为什么应该“努力探索，但不要仓促决定”？
5. 安全标准如何通过保险机制，变成企业不得不购买的市场激励？
6. 公共利益公司、董事会设计和使命条款，为什么仍保不住组织的初心？
7. 开放权重模型扩散后，为什么安全重点可能从约束模型转向加固现实世界？
8. 中途转入 AI 安全，能否在养家糊口的同时做有使命感的工作？

被问到 AI 安全哪些领域仍受资金制约、未来究竟缺钱还是缺人才时，Mike 给出的答案有些反直觉：资金会来，而且可能来得很快。尤其如果前沿实验室上市，早期员工、投资人和公司本身释放出的流动性，都会流向降低 AI 风险的方向。问题在于，假如有人愿意拿出 1 亿美元，甚至 10 亿美元，钱也不能直接变成更安全的世界；它必须进入能做出产品、建立技术能力、推动政策落地的组织。

他担心的不是捐赠人找不到，而是好项目不够多："I'm fearful of this near future moment where there's this mountain of billions and billions of dollars and not all that many great things to fund."（我担心不久后的某个时刻，会出现数十亿美元堆成山，却没有那么多真正优秀的项目可投。） Hion 三年帮助发起约 30 个组织、累计融资约 5 亿美元，正是在填这道“钱与执行”之间的沟。

这意味着，AI 安全下一阶段的竞争不只是写出更漂亮的问题清单，而是培养能把模糊风险拆成组织任务的人：谁能招到最初五个关键成员，谁能定义第一项产品，谁能在非营利与营利模式之间做选择，谁能让资助人相信钱会产生持续能力。资金当然仍重要，但优秀创始人通常也更会筹资。因此，最先卡住领域规模的，往往不是预算，而是能把预算变成机构的人。

被问到如果大致处在 AI 2027 时间线上，现在再创办 AI 安全组织会不会太晚时，Mike 没有用“永远不晚”来回避问题。他说自己大体接受这条时间线，误差也许只有几个月。于是，项目筛选标准随之变得尖锐：不能只问它是否重要，还要问它能否在未来一到四年真的派上用场。"I really am prioritizing things that I think could be relevant in the next one, two, three, four years."（我确实在优先考虑那些我认为能在未来一、两、三、四年内发挥作用的事情。）

这个判断背后有两种情景。第一种最坏情况是，离递归自我改进式的快速起飞只剩三到六个月。那样的话，常规的招人、融资、产品开发几乎都赶不上，组织建设的意义会急剧缩水。第二种则是世界通过政策或其他方式争取到一点减速时间。Mike 提到，“放缓前沿进展”已经进入可以公开讨论、公开支持的政策窗口；一旦多出缓冲期，控制、监测、网络安全和验证都必须立刻补课。

这意味着短时间线并不自动推导出“别创业”，而是要求创业者砍掉遥远叙事。一个组织不该把希望押在十年后的抽象影响力，而应说明：一年后能交付什么，三年后能嵌进哪条安全链条。时间越少，越不能把组织当作身份标签；它得是一件在窗口关闭前能装上的工具。

被问到怎样让国家、实验室或监管者之间的 AI 放缓协议真正可执行时，Mike 把焦点从谈判桌拉到了数据中心。任何美中协调、实验室间约定，或州与联邦的监管规则，最终都要落到具体技术事实：某座数据中心是不是只做推理、没有偷偷训练；企业向客户提供推理服务的，到底是不是那款声称符合安全标准的模型。若这些事实不能持续核验，签字时再庄严也没用。

他的措辞很短："the agreements are impotent."（这些协议将毫无效力。） Hion 已投资一家尝试用零知识证明做推理验证的早期公司。零知识证明可以大致理解为：你能向别人证明某件事是真的，却不用把全部内部细节交出去。Hion 还参与发起一家建设“完全可验证 neocloud”的公司，希望云端算力环境本身也能提供可审计证据。

这意味着，AI 治理不只是法律文本和第三方审计，而需要一套长期运行的“技术证明基础设施”。软件要记录和约束流程，密码学要提供可信证明，硬件要支持可验证的计算边界，外交和法律则要把这些技术接进现实制度。边界也很清楚：只有验证技术、没有法律和跨国协调，没人必须采用它；只有协议、没有验证链条，违规者也难以被可靠识别。两边少一边，另一边都像没有牙齿。

被问到一个想进入 AI 安全的人究竟该创办组织还是加入现有组织时，Mike 没有急着把人推向某个岗位。Hion 最常见的资助，恰恰给那些还没想清楚的人：他们不知道该做营利还是非营利，不知道做技术还是政策，也不知道自己更适合创办还是加入。资助金额通常是 5 万、10 万或 20 万美元，目标很朴素——在探索期间仍付得起房租和生活费。

Mike 的原则是："hustle but don't rush"（努力探索，但不要仓促决定。） 原因不在于拖延更舒服，而在于寻找正确方向本身就是重活。一个人在原有重要全职工作之外找机会，要读材料、见人、判断赛道、准备申请或筹建团队；这已经接近第二份全职工作。若没有缓冲，最容易发生的不是“谨慎选择”，而是焦虑地接下第一个看起来不错的机会。

这意味着职业转型资助买到的不只是几个月收入，更是较少受焦虑支配的判断空间。Mike 说，最好的下一步可能比一个普通的好机会强出数量级：可能是一位更匹配的联合创始人，一个真正缺人的组织，或一个让既有专业产生放大效果的问题。探索期当然不保证理想答案，个人能力、人脉和投入仍决定结果；但它至少避免了人在最缺时间时，被迫把“先上车”误当成“找对车”。

被问到 AIUC 如何让 AI 风险管理不止停在原则和倡议层面时，Mike 讲了一套更像商业基础设施的设计。AIUC 有一项类似 SOC 2 的 AI 标准。SOC 2 可以简单理解为企业向客户证明自己在数据与系统控制上有一套合格流程的认证框架。AIUC 的版本要求企业满足 50 多项与安全、安保实践有关的检查项，但它不止发一张证书，还把标准接到保险上。

企业达到标准后，才可以买相应保单："the only way you can even get this policy is by meeting this this very high standard."（你想拿到这份保单，唯一的办法就是达到这项非常高的标准。） Mike 以 ElevenLabs 为例。它向大型企业销售 AI 工具时，可以告诉客户：自己符合 AIUC 标准；若客户担心的风险真的发生，还有保险保障。对于采购方而言，这不是一句“我们重视安全”的营销文案，而是一种可比较、可转移部分损失的安排。

这意味着，安全实践可以不必完全等待监管部门强制，先通过采购和金融机制变成市场门槛。大客户担心风险，就要求供应商达标；供应商要拿下客户，就得满足标准；标准提高后，竞争从“谁更会宣传”转向“谁的系统更经得起检查”。但这个循环不天然成立：企业客户必须持续把 AI 风险当回事，标准也必须随模型能力和事故经验不断加严。否则，保险可能只是盖章生意，而不是推动“向上竞争”的杠杆。

被问到公共利益公司、董事会设计和使命条款能否防止组织在商业压力下偏离初心时，Mike 先承认这些工具有用。Hion 甚至写过一份长报告《Mission Preservation Governance Mechanisms for Startups》，专门研究初创公司怎样保存使命。公共利益公司，也就是 PBC，允许公司在法律和治理上明确考虑公共利益；特殊董事会席位、只接受高度使命一致的资金，也都可能把决策往正确方向推一点。

但它们都不是自动驾驶仪。Mike 说："there's no structure that is a silver bullet or is perfect, right?"（没有哪一种结构是万能子弹，也没有哪一种是完美的，对吧？） Hion 每次投资会看四件事：核心产品是否直指 AI 安全；公司是否有成功商业前景；创始人是否由使命驱动；创始人是否足够优秀。其中第三项格外关键——这个人是在解决自己真正相信的重要问题，还是只把 AI 安全当作热门创业赛道？

这意味着，治理设计更像高速路护栏：它能改变车辆失控时的方向和概率，却不能替驾驶者做每一次判断。组织越成功，员工越多，融资和估值越高，商业诱因就越具体；到了要对数百名员工工资负责的时候，最初写进章程的句子未必够用。反面也不能忽略：即使投资人花一年观察一个创始人，也无法准确预知他在危机、规模扩张和巨大财富面前会怎么变。制度能做的是提高守住使命的概率，不能把人的动机外包给一份文件。

被问到有没有办法让开放权重模型本身更安全时，Mike 没有否定技术探索。主持人提到 AE Studio 的 Graham 方法：研究者尝试把危险知识定位到混合专家模型的特定“专家”中，再在发布开放权重模型时移除这些专家。混合专家模型可以理解为模型内部有多个分工模块，每次任务只调用其中一部分；如果危险能力真能被局部定位，发布时或许能拆掉对应部件。

Mike 认为值得资助，但也坦率承认难度："I would love to fund stuff in this space. But candidly, yeah, I think this is just such a hard problem, right?"（我很想资助这个方向的项目。但坦率说，我认为这实在是一个极难的问题。） 困难在于，恶意行为者若自行训练开放权重模型，完全可以不加入任何让模型更有同情心、更安全的训练数据。你能让守规矩的发布者移除护栏外的危险能力，却难以阻止不守规矩的人从一开始就不装护栏。

这意味着，开放权重时代的安全策略不能只赌“把模型做得更乖”。Mike 用 “AI resilience” 概括另一条路：当前沿能力无论来自实验室还是开放模型都会扩散，社会就要在网络安全、生物安全、政府能力等层面提高韧性。换句话说，既然无法保证每把工具都不落入坏人手中，就得把门锁、医院、网络和应急系统修得更结实。这不是放弃模型安全，而是承认模型层面的约束可能不够，现实世界必须承接最坏后果。

被问到转入 AI 安全能不能支持家庭、是否必须为使命做巨大财务牺牲时，Mike 的态度很明确：无论营利还是非营利组织，都该让人在旧金山、纽约这类一线城市养育家庭，同时从事这份工作。"we should be paying people really well."（我们应该给人们很好的薪酬。） 这不是把使命感变成高薪借口，而是承认关键行业若只依赖愿意降薪的年轻理想主义者，人才结构会天然变窄。

Mike 自己此前是管理规模达十亿美元的风险投资基金合伙人，转做 Hion 后收入下降。但他说自己没有后悔过一天，也已经买房安家。另一方面，他并不把 AI 安全描绘成只能清贫奉献的行业：Hion 投资的一些公司，后续融资估值已经达到首次投资时的 10 倍、20 倍甚至 25 倍。他判断，AI 安全产品本身可能形成数百亿美元规模的行业，因为控制、监督、网络安全等能力会成为真实需求。

这意味着，行业若要补上社会级基础设施，必须吸引有家庭责任、管理经验和高机会成本的人，包括 COO、CTO、招聘负责人、财务负责人和网络安全专家。成熟人才不会因为使命感消失就不需要房租、医疗和教育支出。边界同样重要：能赚到钱不应成为进入这个领域的首要动机。Mike 不愿支持那些主要为了财富才选择 AI 安全的创始人；薪酬应当让人能长期留下，而不该成为决定问题选择的罗盘。

这期的主线，不是等待某个终极 AI 安全理论横空出世，而是一场在短时间内补建能力的竞赛。第一条“AI安全最缺的不是资金，而是能把钱变成机构的人”，说的是供给端最稀缺的并非想法或支票，而是组织者。第三条“减速协议的牙齿不在承诺，而在可验证的技术”，说的是再好的意愿也必须嵌入软件、密码学、硬件、法律与外交共同支撑的执行链条。两者其实指向同一件事：安全不是观点，而是能被持续运行的制度能力。

第五条把标准接上保险，第七条把重点从单个模型的护栏延伸到社会韧性，第八条强调必须让成熟人才拿到正常薪酬，讲的也都是同一个逻辑：不能把 AI 安全当成少数研究者的副业，或少数公益人士的自我牺牲。它需要市场激励、职业路径、技术基础设施和有执行经验的人同时到位。

对读者而言，问题未必是“我能不能单独解决 AI 安全”，而是自己手里的能力处在这条链上的哪个缺口：你是能搭组织的人，能验证系统的人，能把规则变成采购门槛的人，还是能让一个快速扩张的团队不至于失控的运营者。时间紧，不等于只能仓促下注；更现实的做法，是把探索当成一项正式工作，找到那个既能用上你的既有能力、又能在未来几年实际增加安全余量的位置。