AI Might Build Better AI Before It Can Be a Paralegal

当前 AI 模型在“样本效率”上比人类差一百万倍，尤其难以通过模拟训练掌握需要长期现实互动的复杂任务。

AI 模型能在数据中心里靠模拟学会写代码，但要让它们像人一样经营公司、打官司、做投资，光靠模拟就不够了。人类只用很少的真实经历就能学会复杂判断，而 AI 需要海量数据和反复训练。本文拆解了“样本效率”这个核心短板，讨论 AI 在面对长期、变化多端的现实任务时，为什么还远远赶不上人类，以及未来可能的突破口。

AI 在数据中心靠模拟能搞定写代码，但遇到现实世界的长期任务就不灵了。

• 复杂任务如经营公司、打官司、做投资，都需要和真实人、真实环境互动，光靠数据中心模拟学不会。
• 人类学会一项复杂技能只需很少真实数据，AI 模型则要用百万倍的数据才能达到类似水平。
• AI 的“样本效率”极低，同样的成长过程，人类从出生到成年只经历几百万个“样本”，AI 训练却要消耗上亿甚至更多。

不是所有任务都能靠“记住历史”变强，现实世界的变化让 AI 很难靠老经验解决新问题。

• 递归自我改进（RSI）等累积型任务，AI 可以像堆积木一样把每次发现都记下来，越做越好，比如模型架构的进化。
• 现实工作如法律、公司运营属于“非累积型”，环境和人际关系随时在变，AI 需要不断适应新情况，不能只靠历史经验。
• 人类能在短时间内形成“判断力”或“品味”，比如一个博士生只做过几十个项目就能有独到见解，AI 目前还做不到这种快速迁移。

即使给 AI 无限的记忆空间，也不代表它能像人一样做出长期判断。

• 理论上给 AI 一个万亿 token 的上下文窗口，让它把所有经历都装进去，仍然需要训练它如何从这些经历中学会总结和判断。
• 人类能从有限的经历中提炼出长期有效的行为准则，AI 目前还不清楚能否靠短期模拟学会类似的“品味”。
• AI 发展“品味”靠的是元学习（meta-learning），但我们还不知道这种能力能否真正迁移到现实世界的复杂任务上。

“人类只用很少的真实经历就能学会复杂判断，而 AI 需要百万倍的数据和反复训练。”

• 设计 AI 现实应用时，别指望模型能靠模拟学会所有事，涉及长期互动和环境变化的任务要用真实数据反复训练。
• 关注“样本效率”提升的新方法，比如元学习或更高效的现实数据采集，有可能成为 AI 迈向复杂现实任务的突破口。