Why AI Compute Comes in Rectangles — Erik Bernhardsson, Modal

Modal 创始人 Erik Bernhardsson 说，公司收入两年涨了 50 倍，自己不买一张 GPU，靠租 25 家云的零碎算力拼成一张全球算力网。

所有人都在喊 GPU 不够用、要囤卡，Modal 的创始人却说，他更怕 GPU 价格崩盘，而不是涨价。这家公司一块卡都不买，靠租 25 家云的零碎算力做到两年 50 倍增长，账本逻辑和“囤卡派”正好相反。

Erik 在 Spotify 干了七年，从零搭出音乐推荐系统，Discover Weekly 和“相关艺人”都出自他手；后来去 Better.com 当 CTO，把技术团队从 2 人带到 300-400 人。

• Modal 的种子在 Spotify 就埋下了：他当年做推荐系统时天天跟基础设施较劲，觉得“这玩意儿太烂了”，Modal 就是他一直想要却没得到的工具。
• 他先写过开源工作流框架 Luigi（同类是 Airflow），但没做成生意；2021 年重新捡起这个方向时发现，真正难的不是调度任务，而是把代码跑起来，于是转向做算力平台。
• 2022 年 11 月月收入才 100 美元，12 月 2000 美元，2023 年 1 月突然到 3 万美元——几乎全靠纽约一家做 Stable Diffusion 的公司 Mage，当时它占收入 80-90%。

Modal 自己不拥有一块 GPU，全部靠租。Erik 说得很直白：软件公司不该持有重资产，“就像你不该拥有自己的办公室”。

• 早期几乎全靠大云的 spot 实例（可被随时收回的便宜算力），AWS、GCP、Azure 都用；后来为了拿 A100 开始租 Oracle，因为价格好。现在合作约 25 家云，为此养了 4 个全职采购、10 个工程师专门管裸金属，处理坏盘、GPU 掉线、网络故障。
• 关键决策是把全球算力当成“一个大池子”，而不是每个区域一个独立集群——这让它能把成百上千个小供应商的零碎容量聚合成平滑需求。
• 他判断 GPU 不是被彻底垄断的资源：英伟达每月出货几十万块 Blackwell，只要肯出高价就能拿到；他更担心的是价格暴跌，那会砸死所有签了长约锁供应的人。

2023 年上线 Modal Sandboxes（给代码一个安全的运行环境），头两年几乎没增长，团队甚至开会讨论要不要关掉。

• 转折点是 LLM 学会了写完整应用：Lovable 这类“氛围编程”公司、Ramp 的后台 agent、还有做强化学习的实验室，都跑来用沙箱跑生成的代码。
• 现在沙箱约占收入三分之一，函数产品（主要跑推理）约占三分之二；两者合计构成 Modal 的两大支柱。
• 下一步押注训练和批处理：他说明显看到中小规模训练的需求被忽视；有个客户要转写“5000 年的音频”、几百万个文件，几天跑完。

“我其实更担心 GPU 价格崩盘，而不是涨价——所有锁了长约的人都会很难受。”

• 如果你在做 AI 应用，别急着自建 GPU 集群：把推理和沙箱执行外包给按需平台，把现金流留给产品和获客，等负载稳定了再谈长约。
• 判断一家算力供应商时，问它“跨区域是不是一个池子”——这决定了它在某地缺卡时能不能自动调度，直接关系到你的服务会不会半夜挂掉。