The Future of Frontier Model Architectures with Walter Goodwin, Founder & CEO of Fractile

Fractal 创始人 Walter Goodwin 称，芯片设计周期每压缩一次，就能比对手多出 3-6 个月的结构性优势，而英伟达一台系统里已塞进 6-9 颗自研芯片。

所有做 AI 芯片的公司都在赌同一件事：模型会往哪走。但 Fractal 的赌注有点反常识——他们先做 SRAM 芯片，两年后推翻自己，转去做 DRAM 高带宽方案。这期播客里，Walter Goodwin 把芯片行业的"外包链"、英伟达的系统级优势、以及为什么前沿实验室不敢自己造芯片，都讲得很直白。

Walter 说，拆开一台英伟达系统，里面是 6 到 9 颗自研芯片协同工作。Fractal 现在只能做一颗，这个差距是结构性的。

• 英伟达的系统级优势：一台机器里集成 6-9 颗定制芯片，每颗都为整体性能服务，后来者很难单点突破。
• 行业外包链：Google TPU、Meta MTIA、微软 Maya、OpenAI 的芯片，背后都交给 Broadcom 这类 ASIC 公司做后端实现，Broadcom 市值 2 万亿美元。
• 同质化严重：这些芯片都用 HBM 内存、Tensor Core、台积电先进封装，架构高度雷同，真正从头做到底的公司很少。

公司 2022 年成立，最初做 SRAM 芯片，速度快但容量小。2023 年底他们发现上下文长度在暴涨，SRAM 撑不住，于是转向 DRAM 高带宽方案。

• SRAM 路线的死穴：SRAM 带宽极高，能跑到每秒数千 token，但容量太小，跑不了长上下文注意力，还得切回 GPU。
• 转向 DRAM：和内存厂商合作做"臭鼬工厂"项目，目标是把 DRAM 的容量和成本优势，和 SRAM 的速度优势合到一颗芯片上，平台明年下半年量产。
• 带宽是新的 scaling law：过去 20 年算力涨了约 100 万倍，内存带宽只涨了 40 倍。Fractal 芯片每颗带宽是 HBM 芯片的 25 倍，可以跑更稀疏的 MoE 和更省算力的注意力机制。

Walter 认为，实验室全押自研芯片风险极大：如果对手发现新算法突破，只在自己芯片上跑得动，你可能在 9 个月内就出局。

• 不对称博弈：实验室之间在模型层竞争，但在芯片层必须用相同平台，否则一旦算法突破绑定特定硬件，全押自研的一方可能直接死掉。
• 自研芯片的真实目的：很多第一方芯片项目，主要作用是压低英伟达的报价，架构上和英伟达差别不大，不是真正的新能力。
• 速度是前沿的溢价：开源模型追得越紧，前沿实验室越需要最快部署，在最短时间内做最多推理，这是他们收溢价的基础。

"如果你能结构性地 carve out 出 3 到 6 个月的领先优势，你就能赢下所有这些部署。"

• 如果你在做 AI 基础设施选型，关注内存带宽而不是只看算力。Walter 的数据是：20 年算力涨 100 万倍，带宽只涨 40 倍，这个缺口就是新芯片公司的机会窗口。
• 芯片设计周期压缩的真正价值不是"更快流片"，而是更多次下注机会。Fractal 的逻辑是：把前端设计从 12 个月压到很短，就能同时养多个架构方案，等其中一个跑通再全力 ramp。