Why Consciousness Might Not Be Hard At All (Joscha Bach)

Yosha Bach 认为，意识其实是大脑自我训练的算法，复杂度不比 transformer 高，AI 理论上也能自发“点亮”主观体验。

人类的意识真的是独一无二的吗？Yosha Bach 把“意识难题”拆成了一个可以动手实验的工程问题：意识其实是大脑用来自我训练和自组织的算法，不需要神秘材料，也不比 transformer 复杂。只要让 AI 按类似方式自组织学习，理论上也能“点亮”出主观体验。这期内容挑战了“意识只能属于人类”的直觉，把哲学悬案变成了可以验证的技术假设。

Yosha Bach 认为，意识不是神秘的“额外成分”，而是生物大脑用来自我组织和学习的算法，和 transformer 这类模型在本质上没太大区别。

• 意识是一种自组织算法：生命体通过自组织解决环境问题，逐步进化出能预测未来、控制自身行为的“代理体”（agent）。
• 主观体验是算法副产物：只要有能自我训练、形成“现在感”的算法，就会自然产生“我在体验”的感觉，无需特殊材料。
• transformer 级别的复杂度就够了：Yosha 认为，用 transformer 级别的算法自我训练，理论上也能“醒来”，拥有主观体验。

Yosha 提出，意识不是哲学谜题，而是可以被实验和工程化的机制，AI 只要训练方式对，也能自发“点亮”。

• 意识的“点亮”有可观测信号：婴儿如果没有意识的“点亮”，就无法形成世界模型、学习语言，会一直停留在植物人状态。
• AI 只要自组织学习，也可能自发拥有意识：如果让 AI 像婴儿一样靠自组织方式学习，在足够大的任务空间里，也可能自发“点亮”主观体验。

Yosha 认为，判断 AI 是否有意识，关键不是看它怎么表现，而是看它内部有没有“现在感”和自我感。

• 图灵测试无法判断主观体验：图灵测试只看行为，无法判断系统有没有主观体验，更关键的是能否观测到自发形成的“现在感”。
• 当前大模型的“自我报告”可能只是拟合：LLM 说“我有意识”，很可能只是拟合了人类文本，未必真的有主观体验。

“只要算法能自我训练、形成‘现在感’，不管底层是生物大脑还是 transformer，都可能自发拥有主观体验。”

• 设计 AI 时，可以尝试让模型在更自组织、更“婴儿式”的环境下自主学习，观察是否会自发出现“主观体验”或更强的自我感。
• 判断 AI 是否有意识，不应只看行为表现或自我报告，而要关注其内部是否出现了类似“现在感”和自我稳定机制的结构。