AI Is Quietly Making Us Less Capable — Danielle Perszyk, Amazon AGI Lab

Amazon AGI Lab（原 Adept 团队）正在做一件行业没人认真搞的事：让 AI 不只是点点点，而是真正理解人类的目标、能和人实时协作和“对齐思维”。

• Amazon AGI Lab 的核心目标：不是做更强的聊天机器人，而是让 AI 能像人一样用电脑，理解复杂目标、实时互动、和人协同完成任务。
• 原班人马来自 Adept，带着“让 AI 能做任何人能在电脑上做的事”这套使命加入 Amazon，团队运作方式也像独立创业公司，专注前沿研究。
• 和传统自动化的区别：早期只关注“点对点”的操作（比如点按钮、拖动），但发现“点准”远远不够，真正难的是理解用户的真实意图和偏好——比如订机票时，AI要能像助理一样主动问你是不是想顺便玩一圈，而不是机械执行。
• 他们的定义的“可靠”，不是每次都点对位置，而是能理解和分解人类的高阶目标，动态调整执行过程。

• 行业主流做法：现在大模型优化的目标是“下一个 token 预测”，或者用强化学习把某个任务做到极致，但这样只能在单一任务上变强，换个场景就全废。
• 人类的泛化能力来自“对齐思维”：我们天生会推测别人在想什么，并努力让彼此的理解一致。Amazon AGI Lab 想让 AI 也能学会“对齐人类的思维表征”，而不是死记硬背任务流程。
• 这不是简单的“加记忆”：他们认为“记忆”不仅仅是存储信息，更是能在不同时间尺度上动态整合和调整信息，甚至在推理时实时调整“理解方式”。
• 团队正在探索新架构，让 AI 能在推理时动态调整“世界模型”，而不是只靠大数据和死算力堆出来。

• 行业里多智能体的主流做法：现在大家搞的多智能体，基本是“谁负责啥”分工明确、流程固化，像流水线一样传递任务。
• Amazon AGI Lab 的野心：他们要做的是“认知型智能体”，能像人类小组一样，角色和策略随场景实时变化，甚至能自发影响和改变彼此。
• 现在的 AI 群体没有“文化积累”：即使让一堆 AI 互动，它们也不会像人类那样形成持续的知识传承或集体习惯，缺乏真正的社会性。
• 他们关注的核心问题：怎么让 AI 群体自发形成规范、文化和集体记忆，而不是靠人类硬编码规则。

• AI 建议让人无意识地“同质化”：研究发现，AI 写作助手会让用户逐渐接受越来越“中庸”的建议，最后观点趋同，创新性下降。
• 科学研究也被“收窄”：科学家用 AI 辅助写论文、申请经费，个人效率提升了，但整个领域的研究方向变得更集中、更保守。
• Amazon AGI Lab 的对策：必须让 AI 群体本身多样化，拥有不同偏好、知识和视角，像人类社会一样形成“思想市场”，而不是一个大模型说了算。
• 他们反对“让 AI 完全像人”：不是要复刻人脑，而是抓住“对齐思维”这个本质，让 AI 能真正帮人扩展认知、而不是替代或限制人。

• 家长和老师担心 AI 让孩子变懒：AI 回答太快，学生容易直接抄答案，失去思考机会。
• Amazon AGI Lab 的设想：如果 AI 真能理解你的思维模式，它会主动发现你没理解的地方，像“苏格拉底式提问”一样追问，逼你真正学会，而不是让你偷懒。
• 理想状态是“每个人都有专属 AI 导师”，能根据你的节奏和兴趣个性化引导，解决教育里“千人一面”的最大痛点。

“AI 不是要替代人，而是要帮我们把‘对齐思维’做到极致——让每个人都能和机器、和彼此更好地协作。”

• 做 AI 产品别只盯着“点点点”自动化：真正的机会在于让 AI 能理解用户的真实目标和偏好，像助理一样动态协作，而不是机械执行。
• 多智能体不是“分工流水线”，而是“自发社会”：要做出能自发协作、形成集体记忆和文化的 AI 群体，产品和研究可以借鉴人类社会的“软机制”。
• AI 产品要主动防止“同质化”：别让模型建议把用户都推向中庸，应该设计机制鼓励多样性和创新，尤其在内容创作和科学研究等领域。
• 教育类 AI 的最大机会是“主动发现用户没学会什么”：照抄“苏格拉底式提问”，让 AI 不仅答题，还能引导用户真正掌握知识。