How to Build Your Own Data Center & Why Every Startup Should Do It

Speechify CEO 自曝最大战略失误：错判 TTS API 会商品化，拒绝与 11 Labs 竞争，结果被反超。他花数亿美元买英伟达 GPU，靠算力优势训练出全球第一的语音模型。

买卡不是成本，而是AI团队的主场优势

Cliff Whitesman 是 Speechify 创始人兼 CEO。按他的说法，Speechify 已有 6000 万用户，累计向用户提供超过 7700 亿个词，并拿下 B2C 文本转语音 98% 的安装量。这次他讲的不是“AI 应该怎么做”的口号，而是账本、机房、招聘题和战略失误：为什么 GPU 要买，旧卡怎么消化，工程师到底该为什么结果负责，以及一家已经占住消费者市场的公司，为什么仍可能在 B2B 上输掉先机。

这期回答了 7 个问题：

1. 为什么租一年的 GPU，反而可能比直接买一张更贵？
2. 芯片迭代越来越快，创业公司为何还敢重仓旧 GPU？
3. 自建算力、长期合约和现货云实例，应该怎样搭配？
4. AI 时代工程师的核心工作，为什么从写代码变成了做决策和验收？
5. 为什么 Speechify 不按 token 消耗考核工程师，而只给上线产品记功？
6. 招聘时，为什么“成长斜率”比既有履历和手写代码能力更重要？
7. Cliff 为什么承认自己错过了 B2B，且至今无法确定能否赢回市场？

被问到 Speechify 为何愿意花数千万美元采购 Nvidia GPU，甚至为了提前四个月交付额外付钱时，Cliff 先算了一笔很不符合软件公司直觉的账。以 H100 为例，买一张大约 3 万美元；在 GCP 租 spot instance，也就是云厂商随时可能回收的闲置实例，每小时可能要 5 美元；在 Azure 或 AWS，约为每小时 3.5 美元。按每天 24 小时、一年 365 天运行，租一张卡的年度支出会落在 3.5 万到 5 万美元，反而高于直接买卡。

"it's 1.5x the cost of owning the hardware to rent the hardware for a year."（租用一年的成本，是拥有这台硬件成本的 1.5 倍。）

这还没算训练的结构性要求。大规模训练不是把任务切碎、随手丢到几家云上就结束了；大量数据需要和 GPU 集群放在一起，所有卡才能高频访问同一批内存与数据。没有这种共置条件，训练规模和速度都会受限。GPU 通常有 3 年质保，而他预计质保结束后仍能运行很多年，所以在稳定负载下，买卡不只是资产支出，也是在锁定更低的单位训练成本。

但这不是“云一定不如自建”的结论。若需求忽高忽低、团队没有大规模集群训练，买下的机器会闲着，机柜、供电、散热、网络和运维账单会一起找上门。自建的前提不是看好 AI，而是确认自己有一块长期不会消失的算力底座。

被主持人追问芯片更新如此快，买下一代架构会不会很快被锁死、贬值时，Cliff 给出的回答不是预测哪一代卡最保值，而是重新定义“旧卡”的用途。Speechify 至今还在用 K80 做一些特定推理任务，也持续使用其他较老型号。这里的分水岭是训练和推理：训练是在验证一个模型假设，结果晚一分钟出来，就可能比竞争对手晚一分钟知道答案；最新 GPU 的数量级加速因此很重要。推理则是用户输入文字，系统返回语音，文本转语音或语音转文字任务即便由性能较低的卡执行，只要约 100 毫秒内完成，用户未必能感觉出差别。

"I can always use these older GPU models for inference."（我总能把这些旧型号 GPU 用于推理。）

因此，GPU 的折旧曲线不是新品发布时突然归零，而更像一条下沉通道：新卡先跑最前沿训练，上一代卡转去跑普通实验，再旧一些的卡承担推理和弹性任务。Speechify 的配置也体现了这种分层：约 20% 的常态用量自己买下，约 25% 由长期云厂商合约覆盖，剩下部分通过 spot instance 补齐。九月返校季用户变多，就租更多卡，而不是为了一个季节性峰值把全部机器提前买好。

边界也很清楚。旧卡能继续创造价值，依赖公司同时有很多实验、很多推理流量和足够多的并发需求。若团队只有少量 GPU，业务也只有一个单一模型，旧设备未必有足够任务可接，所谓“二次利用”就可能只是仓库里的沉没成本。

被问到自建 GPU 对 AI-centric 团队到底改变了什么时，Cliff 的答案没有停在“模型更快”上。他认为，当大量实现工作不再需要工程师逐行手写代码，真正缺的东西变成数据、算力和架构。这里的架构不只是服务器怎么连，而是如何拆问题、设计实验、安排 agent。agent 可以理解为接到目标后，能持续执行、反复尝试的软件代理。Speechify 的工程师会同时运行 5 到 18 个 agent，让它们处理长周期任务，提出假设、测试、再回到假设本身。

"the missing pieces are data, compute, and architecture."（缺失的关键要素是数据、算力和架构。）

Cliff 当时有 45 名工程师，希望扩张到 150 人；而现有团队里约 25% 的人，已经近似处于“等更多算力”的状态。他用足球场打比方：球员不是不够好，只是场地不够，排队练习的人再多也不能提升训练密度。他甚至提到，团队里一名最优秀的工程师目前不在写模型，而是在制作训练模型所需的合成数据集，也就是人为生成、用于补足真实数据缺口的数据。

这意味着，工程团队的产出上限越来越像一个实验系统的吞吐量：有多少数据能被整理，有多少假设能并行验证，有多少结果能被及时判断。可算力不是万能油门。Cliff 对工程师的期待是每天做出约 10 个高质量决策；目标若定错，更多 GPU 和更多 agent 只会更快地跑向错误方向。

被问到内部是否用 token leaderboard 激励开发者时，Cliff 直接反对。token 是模型处理文本时的计量单位，花得多只能说明调用活动多，不能说明产品做成了。他更看 demo：能不能在线上演示；看自己试用时的体验；更看功能是否真的进了生产环境，是否已有用户在使用。他把这件事比作送牛奶：瓶子做得再漂亮，放在路边也会变质；送到用户门口，才算完成配送。球没过端区、篮球没进筐，也都不算得分。

"It's not in production. I can't use it on my phone."（它还没上线，我就没法在手机上使用它。）

一次和 AI 工程团队讨论 duplex models 与 AI conversational harnesses 时，他一口气提了 14 条修改意见。duplex models 指更自然地处理人机双方同时说话、笑声、打断和轮次切换的语音模型；harness 则是把模型、工具调用和对话流程组织起来的“外壳”。Cliff 直接拿手机操作产品，把发现的问题录屏丢进团队聊天。第二天早上，一名 19 岁成员发来 demo：他在等待三次训练运行完成的间隙，已把全部要求实现。

这意味着，agent 让“产出一段功能代码”变便宜后，稀缺能力转向验收：谁能发现边界 bug，谁能把模糊反馈写成可执行要求，谁能推动部署并从真实用户那里拿回下一轮信息。不过，生产导向也有代价。若所有项目都只按短期上线记功，那些暂时不能形成产品、却可能积累长期能力的基础研究，很容易被低估。

被问到 OpenAI、Anthropic 用极高薪酬吸走人才后，Speechify 怎么招人时，Cliff 先承认增长期公司的难处：能给出千万美元级年包的巨头，确实在争夺成熟的技术负责人。但他不认为种子期公司因此无牌可打。Speechify 只有 21 人时，其中 18 人此前当过其他公司的 CEO、CTO 或工程副总裁；而现在，他更愿意把招聘池扩到数学奥赛选手、顶级编码者、Kaggle 获奖者，以及学物理、数学的人，甚至接受此前没正式编过程的人。

"I think hiring for slope more than intercept is more important today than ever before."（我认为，如今看一个人的成长斜率，比看其起点水平重要得多。）

这里的“斜率”不是忽略现有能力，而是看一个人吸收新工具、理解新系统、修正错误的速度；“截距”才是此刻简历上已有的职位和作品。过去六个月，他仍看重软件工程基础，但最看重的已变成原始技术悟性和技术能力，因为其余能力有机会在六个月内被训练出来。对应地，面试也不能只让候选人白板写算法：先要求做出一个功能并跑过 unit tests，也就是自动化单元测试；再丢给他一个大型代码库或开源仓库，看他能否理解、修改，并检查改动造成了什么破坏。

这套标准测的其实是人与 agent 协作后的真实工作能力：理解上下文、拆任务、安排代理、发现它走偏的地方。它能扩大初级人才池，却不能消除高阶人才的竞争。需要管理大团队、定义长期技术路线的负责人，仍然在和资本更厚的公司争夺同一批人。

被主持人追问 ElevenLabs 已借 B2B 超过 Speechify，是否是 Cliff 没有早点进入 B2B 的责任时，他没有找借口，回答“100% 是我的责任”，并称这是 Speechify 历史上最大的战略错误。2022 年，他在伦敦家中见过 ElevenLabs 的 Patrick 和 Mati，知道两人很聪明，也相信他们会做得好，但当时不喜欢其策略。原因是他把文本转语音 API——即让其他软件通过接口调用语音能力的产品——视为终将商品化的能力：未来可以直接在电脑或手机上运行，何必进入这个市场。

"But it was my mistake to think that an API product was a bad strategy because I thought it was something that would become commoditizable."（但我错在以为 API 产品是个糟糕策略，因为我觉得它会变成可商品化的东西。）

他后来意识到，AI lab 的第一款产品不是终局，而是楔子。先有一个单声音的文本转语音 API，用户进了系统，后面就可以加更多声音、情感韵律、声音克隆、语音转文本、duplex models、对话轮次处理，再为销售和客服优化。ElevenLabs 也是沿着 API、创作者产品、agents 扩展，把买方从软件工程师扩展到 CTO、CIO、CEO。Speechify 已推出 Simba 3.2 API，但 Cliff 承认仍在学习 B2B。

这意味着，“会商品化”不等于“不值得做”。低价甚至免费的入口，价值不在第一笔收入，而在于嵌入客户系统、获得使用反馈，并把后续能力持续叠加进去。边界是结局并不明朗：Cliff 明说，在 ElevenLabs 当前赢下的核心产品上，自己很可能不会赢。进入 B2B 不是因为胜券在握，而是因为完全不入场，失败已经确定。

在快问快答中被问到五年后什么看似疯狂的事会变普遍、自己最兴奋的 AI 应用是什么时，Cliff 把话题带到一位患严重自身免疫性神经炎症的家人身上。病程已持续 6 年。他连续 15 周每周采一次血样，做全基因组测序、蛋白质组学和 RNA 分析；蛋白质组学是观察身体里哪些蛋白质在表达，RNA 分析则帮助观察基因活动状态。他再把这些结果，同家人每天自我报告的生活质量、情绪变化以及约 6 年积累的数据对比，并放到 GPU 集群上运算。

"I know I'm going to solve this disease."（我知道我会解决这种疾病。）

对于这类患者很少、因而常缺乏商业动力投入的 orphan disease，也就是罕见病，他计划组织患者见面会，用约 5000 美元、能放进口袋的设备采集头发、唾液或血液样本，完成全基因组测序。之后把多名患者的数据放进大型 GPU 集群，寻找共同的表观遗传线索——这指的是不改变 DNA 字母本身、却影响基因如何被开启或关闭的变化。再把假设交给 AlphaFold、CRISPR、Twist 等模型、基因编辑工具和实验室，去设计可能结合特定蛋白的分子、RNA 或 DNA 序列。

这意味着，研究议程可能不再只能等药企立项。病人家属和患者社群若能组织起高质量数据，也许能先提出问题，再让计算和实验工具接力验证。但这里的界限尤其不能含糊：这是 Cliff 的个人项目和强烈信念，现有材料没有提供临床验证、疗效数据或监管路径。发现数据关联，距离做出安全有效的治疗方案，中间仍隔着很长的实验与医学验证链条。

“对持续高负载的AI团队来说，租云才是更贵的选择”和“AI 工程师的绩效不该按 token 计，而该按用户真正用上的产品计”，表面上一个讲采购、一个讲管理，实际都在讨论同一件事：怎样缩短“提出假设—验证—交给真实用户—拿回反馈”的循环。

GPU 被买下来，不只是为了少付一点租金，而是让工程师不必因为每次训练太贵而少试一次。旧卡沉到推理层，不只是延长资产寿命，而是把不同速度、不同价格的机器排成一支持续工作的梯队。agent 化开发也不只是少写代码，而是把人的注意力挪到目标设定、结果验收和边界排错上。至于 API 这次误判，则说明产品入口的价值也在同一条循环里：先进入用户系统，才有机会知道下一个该做什么。

Cliff 的病人数据设想把这条主线推到更远处：数据、算力和好问题一旦能够被小团队或患者社群组织起来，过去没人愿意碰的问题也可能开始被验证。对读者而言，真正该问的未必是“要不要买 GPU”或“要不要用 agent”，而是自己的工作里，哪个环节让一个好问题卡了太久——是没有数据、没有试验容量、没有验收标准，还是结果从来没有真正送到用户手里。