The Two Harvard Dropouts Who raised $800M to take on NVIDIA

Etched 创始人称其 AI 推理芯片电压低于任何竞品一半，通过低电压技术和集群内存，目标将推理吞吐量提升 10 倍。

• Rob 在高中时被诊断出 4 期骨癌，生存率低于 30%。经历化疗和重新学习走路后，他意识到生命有限，决心做有影响力的事。当 GPT-4V 能通过一张背部照片识别出肿瘤时，他震惊于 AI 的能力，但随即发现“图片额度用完了”——基础设施根本跟不上。他决定从硬件入手，因为“所有 AI 芯片都是在 ChatGPT 之前设计的”。
• Gavin 在运营创业加速器 ProR（孵化了 Cursor、Anysphere 等公司）时发现，所有 AI 公司都把融来的钱花在算力上。他意识到推理将成为全球最大市场，而现有硬件成本结构不可持续。他决定从芯片底层重新设计。
• 两人在 哈佛 相识，Gavin 当时在 Exnord（被苹果 2 亿美元收购）和 Octo（被英伟达数亿美元收购）做内核开发，核心经验是：数据移动 是高速解码的关键，这直接催生了 Etched 的集群内存技术。

• 推理分两阶段：Prefill（加载文本，将模型记忆 KV cache 置入正确状态）和 Decode（利用 KV cache 生成输出 token）。Etched 采用 PD 分离（Prefill-Decode Disaggregation），将模型记忆传输到解码集群再生成 token。
• Prefill 瓶颈是算力密度，但现有 GPU 因 热功耗问题 无法充分利用峰值算力（MFU 仅 20-50%）。Etched 的核心创新是 低电压推理：电压与功率呈二次方关系，降低一半电压，功率降至四分之一。他们发现比特币矿机电压仅为 GPU 的四分之一，证明物理可行。Etched 开发了新型供电机制，使芯片在 低于任何 AI 芯片一半的电压 下运行，从而在不热节流的前提下塞入更多算力。
• Decode 瓶颈是内存带宽，但关键不是单芯片带宽，而是 整个集群的内存带宽。现有 GPU 集群（如 Blackwell）芯片间点对点延迟高达 4000 纳秒，导致 8 卡集群无法实现 8 倍性能提升。Etched 自研了 完全定制互连协议（从以太网第二层以上全部自建），将延迟降低 5 倍以上，使整个集群的 SRAM 和 HBM 可作为单一内存池使用，实现 集群规模内存。

• 垂直整合：Etched 不仅造芯片，还自研 机架、冷板、互连、生产。他们是唯一同时自研芯片和机架的 AI 芯片初创公司。在芯片流片前，他们就制造了 热测试芯片（模拟真实热点），提前验证冷板，确保芯片回来后零泄漏。
• 极端并行化：当供应商（班加罗尔团队）严重落后时，Etched 没有选择等待一年，而是 派 12 名核心工程师去班加罗尔驻扎 6 个月，Gavin 本人住了 4.5 个月。他们建立 24 小时开发循环（美国/印度各 12 小时），每天早晚 8 点 Zoom 同步，将原本需要数年的芯片开发压缩到数月。同期使用同一供应商的其他芯片至今仍未流片。
• 人才策略“传奇 + 新血”：Etched 采用 项目制招聘，先列出所有行业最难的工程问题，再找出解决过这些问题的人（尤其是“从 0 到 1”的负责人），然后持续跟进（往往需要 20 次对话才能说服）。例如，他们挖来了 Brian，英伟达 HGX 和 DGX 机架团队创始人（贡献了英伟达 80% 收入），Brian 的“十亿美元级教训”直接帮公司节省无数试错成本。同时，他们招募了高中机器人世界冠军 Sanford，让他一周内造出冷板原型。核心是让“见过规模”的传奇与“不知天高地厚”的新血紧密协作。
• 风险偏好：Etched 信奉“最大的风险是不冒险”。推理市场每天有 超过 10 亿美元 的收入机会，每延迟一天都是巨大损失。他们愿意为速度花大钱，只要 ROI 清晰。

“You kind of have to be sick in the head to join our company.”（你得脑子有点毛病才会加入我们公司。）

• 做 AI 产品的可以照抄“PD 分离”思路：将推理的 Prefill（加载）和 Decode（生成）拆成独立集群，可以大幅提升吞吐和资源利用率。如果你的产品有长上下文或高并发需求，这个架构值得深入研究。
• 硬件创业的“垂直整合”策略：Etched 证明，在 AI 芯片领域，只做芯片是不够的，必须同时搞定机架、散热、互连和生产。做 AI 硬件的团队可以评估：哪些环节外包会拖慢迭代速度？哪些可以自研来获得 5 倍以上的性能优势？
• “传奇 + 新血”的招聘组合：Etched 的做法是，用项目制招聘找到行业顶尖的“传奇”（解决过最难问题的人），再搭配极度饥渴的年轻天才。做 AI 产品的团队可以借鉴：不要只招“有经验的人”，要刻意混搭“见过规模”和“不怕失败”的人，让他们紧密协作。