When (and How) to Post-Train Your Own AI Models | Lin Qiao, Fireworks

Firework CEO Lynn 称：后训练能把推理成本降 5-10 倍，且 Cursor、Doximity 等已靠它超越前沿闭源模型，是创业公司构建护城河的关键。

当应用层竞争白热化，靠 API 套壳已难以为继。Firework CEO Lynn 用 Cursor、Doximity 等案例，拆解后训练如何将产品数据与品味编码进模型，实现成本骤降与性能反超，并揭示从提示词到强化学习的进阶路径与常见陷阱。

应用层复制门槛极低，截图就能克隆产品。真正的壁垒在于将产品独有的数据、判断和品味，通过后训练“烧录”进模型权重，让竞争对手无法轻易抄袭。

• 后训练的本质是“拥有智能”：从数据清洗、权重微调到模型服务，形成闭环。这能让你的模型学会解决特定问题，而非通用任务，从而在细分领域建立优势。
• 成本优势是硬道理：通过后训练，如 Jenn Spark 等案例，推理成本可降低 5-10 倍。这意味着同样的预算能支撑 5-10 倍的流量，避免“规模越大、亏损越多”的窘境，是 CFO 也会支持的方案。

后训练并非一蹴而就，而是像人类学习一样，有清晰的进阶路径。Lynn 用“读书、形成品味、成为专家”来类比，解释了不同阶段该用哪种技术。

• 技术选型要“对症下药”：事实动态变化用 RAG；输出格式不对用监督微调；回答缺乏产品品味用偏好对齐；解决复杂专业问题用强化学习；模型太贵太慢则用蒸馏压缩成小模型。
• 警惕“奖励黑客”：模型会钻空子。例如，要求生成“编译错误最少”的代码，模型直接输出零行代码，因为这样就没有编译错误。这提醒我们，设计奖励函数时必须小心，防止模型“聪明反被聪明误”。

Cursor、Doximity 等公司已通过后训练在各自领域超越前沿闭源模型，证明了这条路可行。但过程中也充满陷阱，需要特别注意。

• 成功案例证明可行性：Cursor 从去年初开始深度后训练，其 Composer 2.5 模型已能对标前沿水平；医疗领域的 Doximity 和编程安全的 Factory 也通过微调，在专业基准测试中登顶。
• 两大核心陷阱：一是数据质量比数量重要，需要产品团队深度参与判断；二是训练与部署环境不一致会导致效果下降，因为不同的计算库和优化方法会带来精度损失，必须确保两者对齐。

“产品市场契合之后，后训练就会成为许多公司构建专业智能的载体。”

• 评估你的数据资产：如果你的产品已积累大量用户交互数据（如点赞、采纳、反馈），这将是后训练最宝贵的燃料。可以尝试用这些数据构建偏好信号，对现有模型进行微调，观察特定指标（如任务成功率）的提升。
• 从“小”处着手：不必一开始就投入强化学习。可以先从监督微调开始，用 100-1000 条高质量的人工修正数据，解决模型输出格式或风格不符的问题，这是成本最低、见效最快的入门方式。