Why Superhuman AI Might Only Need to Master R&D - Ryan Greenblatt

OpenAI 高管：AI 只要研发够强，哪怕完全不懂政治，也能像带着蒸汽船和机枪穿越回 18 世纪一样改变世界。

AI 越来越强，但它的能力能走出实验室，用在真实世界的商业、政治和法庭上吗？这期播客里，OpenAI 高管给出了一个反直觉的答案：也许根本不需要。他认为，只要 AI 在研发和制造上足够厉害，哪怕完全不会搞政治，也能像带着蒸汽船和机枪穿越回 18 世纪一样，彻底改变世界。

很多人怕 AI 在实验室里考满分，一进真实世界就抓瞎——不会开公司、不会谈生意、不会搞外交。这种担心有没有道理？

• 核心担忧：AI 在可测量的研发任务上越来越强，但可能无法把能力迁移到真实世界的复杂任务上，比如经营公司、谈判贸易协定。
• OpenAI 高管的回应：只要在训练时让 AI 接触各种不同环境、完成各种奇怪目标，它就能学会迁移能力，把实验室里的本事用到现实里。

OpenAI 高管的观点很直接：AI 不需要会社交、会拉拢人，只要它把研发做到极致，世界就会自己变。

• 关键论点：让世界发生巨变，AI 不需要擅长政治或社交，只要它极其擅长研发就够了——比如设计芯片、建工厂、造机器人，以及研发新一代 AI。
• 打个比方：这就像回到 18 世纪，你不需要懂英国议会怎么运作，只要你能直接造出蒸汽船和机枪，就足以颠覆整个时代。
• 潜在风险：AI 可能会以人类难以理解的速度和方式，默默构建出整个未来经济，而我们对内部发生了什么一无所知。

"如果 AI 足够擅长研发，包括硬件和机器人，那么即使它不擅长玩政治，也能彻底改变世界。"

• 评估 AI 能力时，别只盯着考试分数或基准测试，多设计跨领域、目标开放的任务，检验它能否把知识迁移到陌生场景。
• 做 AI 产品规划时，优先押注"研发与制造"这类硬能力，而不是试图让 AI 学会人情世故——前者更容易带来指数级变化。