昨天读的是埃森格林的《镜厅》：人从上一场危机里挑出来的教训，会不会正好制造下一场风险。合上书时有个问题没走——那些教训被挑出来，是因为它们“讲得通”。那么“讲得通”本身有没有边界。

今天换到 AI 方向，顺着这个疑问往前追，选了罗杰·彭罗斯的《皇帝新脑：有关电脑、人脑及物理定律》。这本书 1989 年出版，比这一轮大模型热潮早了三十多年。彭罗斯是数学物理学家，和霍金一起做过奇点定理，2020 年获诺贝尔物理学奖。他做的事很简单也很吓人：如果人类的理解真的不能被任何算法穷尽，那么现有的物理学本身就还没写完——要解释心智，得先改物理。

代价太大了，大到三十多年过去，多数人还是不肯付。

一、一本花了八章才说到正题的书

《皇帝新脑》十章里，真正的论点只在最后两章。前八章全是铺垫：图灵机、算法、丘奇—图灵论题、希尔伯特规划、哥德尔定理、孟德勒伯洛特集、牛顿力学、相对论、量子力学、熵与时间箭头、时空奇点。

这不是卖关子。他要论证“理解不是算法”，就得先把“算法”的边界钉死，而第一步是判现有物理学死刑：

我认为，意识现象无法被纳入当今物理学理论的框架之内。

其余各章都是在给这句话找证据——一路从图灵翻到量子引力，看哪块石头底下藏着非算法的东西。做技术的人对这种写法应该熟悉：它像一个反证法的工程实现，先假设结论成立，一路推下去，看在哪一层撞墙。

二、皇帝的新衣：强 AI 到底主张了什么

书名《皇帝新脑》化用的是《皇帝的新衣》。那个皇帝身上什么都没有，但所有人都在夸衣服好看。彭罗斯认为，强 AI 的处境是一样的。

他对强 AI 的概括很准：

按照强 AI 的观点，唯一要紧的就是那个算法。至于这个算法是由大脑执行的、由电子计算机执行的、由整整一个国家的印第安人执行的，还是由一堆齿轮和杠杆组成的机械装置执行的，都没有区别。

这句话的关键不在“算法”，在“都没有区别”。如果载体真的不重要，那么只要把规则写出来，意识就该自然出现。彭罗斯要反驳的就是这一句：他坚持，意识不是规则跑起来之后的自然结果，它的出现需要某种规则之外的东西。

书里也写了他对另一端的警惕——他不想滑到“意识是神秘之物”那条路上去：

在我看来，这个说法可疑地像是一种武断的断言，其武断程度恐怕并不亚于强 AI 的那些断言——那些断言声称，仅仅把一个算法执行一遍，就能凭空变出有意识的觉知状态。

两头都不站。这是这本书最值得学的地方。

三、图灵检验：他其实把门槛降低了

通常的说法是彭罗斯反对图灵检验。其实他反对的是“通过检验就等于有理解”，而他对检验本身相当宽容，甚至要求比图灵更低：

我自己所要求的，只是那位敏锐的提问者，能从计算机回答的性质里，真正被说服：在这些回答背后，存在着一个意识性的在场——哪怕那可能是一个全然陌生的意识。

这句话写于 1989 年。三十多年后，这句话已经不是思想实验了：每天都有人在对话框前，产生“背后有个东西”的感觉。彭罗斯提前指出了这里面的危险——他接着说，如果提问者预先知道哪边是计算机，她可能会下意识地拒绝承认它有意识；反过来，也可能因为“感觉到了陌生的在场”而把怀疑的好处提前给了它。

两种偏差都真实存在，而且都不需要机器做任何事。

四、孟德勒伯洛特集：为什么它是柏拉图主义的证据

第三章“数学和实在”是他整个论证的地基。他要回答一个问题：数学是被发明的，还是被发现的？

如果数学只是人写出来的符号游戏，那么“人的数学理解”就没什么特别——我们自己造的东西，我们当然能判断。但如果数学真理是独立于人存在的，那么人怎么“看见”它，就成了一个真问题。

他的证据是孟德勒伯洛特集。这个集合由一个极简单的复数迭代公式生成，边界上的细节却复杂到任何人都把握不完。他的原话是：

孟德勒伯洛特集不是人类心智的发明，它是一项发现。就像珠穆朗玛峰一样，孟德勒伯洛特集就在那里。

同一页上他还写了一句更关键的：这个结构的全部细节，既不能被我们中任何一个人真正穷尽地把握，也不能被任何计算机穷尽地揭示出来。这句话是全书的一个暗扣——如果连一个由极简单公式生成的集合，人和机器都吃不透，那么“吃透”这件事就不是算得快能解决的。

后面他把这个立场推到底：

这样的数学观念应当具有某种独立于我们尘世自身的、永恒的存在。

这一步叫数学柏拉图主义。全书后面所有的论证都压在它上面。

五、哥德尔：论证的核心，也是全书最脆的一节

第四章“真理、证明和洞察”是全书的枢纽。论证的形状是这样的：

对任何一个足够强的形式系统 F，哥德尔构造出一个句子 G(F)，它说的是“我在 F 里不可证”。如果 F 是一致的，那么 G(F) 在 F 里确实不可证；而它说的恰恰就是这一点——所以它是真的。人能看到它为真，F 不能推出它。

那么，如果“我”就是这个 F，我就应该既看得见 G(F) 为真、又推不出它。既然看得见，说明我不只是 F。推而广之，人的数学判断不可能被任何一个算法穷尽。

书里的原句是这样的：

……至少在数学中，有意识的思考有时能让人确定一个陈述为真，而且是以任何算法都做不到的方式做到的。

另一句更硬：

数学家并不是在使用一种“可知其可靠”的计算程序来确定数学真理。由此我们推出：数学理解——即数学家据以得出关于数学真理的结论的那种东西——不可能被还原为盲目的计算。

这一节招来的批评比全书任何其他部分都多。斯洛曼在书评里指出：G(F) 表面是关于公式的断言，实际只是关于数的算术断言；既然它在 F 里既不可证也不可驳，那就存在使它成真的模型和使它成假的模型，彭罗斯并没有“看见”它必然为真。霍夫施塔特在《哥德尔、艾舍尔、巴赫》里给过一个更短的反驳：把“卢卡斯无法断言这个陈述为真”这句话本身当作那个句子，卢卡斯自己就落进了他给机器设的同一个陷阱。

也就是说，用哥德尔定理区分人和机器，这个区分可能同时把人也圈进去。彭罗斯不是不知道，他 1994 年写了《心智的影子》来补这一节。但补没补上，学界至今没有共识——主流看法是没补上。

六、决定论不等于算法：停机问题那个开关

彭罗斯还给了另一条路，这条比哥德尔那条干净得多。

用一个图灵机和一个只有两态的装置：图灵机停机，装置显示“开”；不停机，显示“关”。这个装置的状态完全由图灵机决定——它是确定的。但停机问题不可解，所以没有任何算法能判断这个装置应该处于哪一态。

于是就有了一个“确定但非算法”的系统。它完全服从物理规律，只是任何程序都算不出它该在哪一态。彭罗斯接着指出这类系统的麻烦之处在于：

仅仅考察一个算法的输出，是很难断定它究竟是什么的。

算法之外并不是一片空白，只是那片空白看不见。这一节是全书技术含量最高、争议最小的部分，留下的唯一问题是：大脑里真有这种东西吗？

七、量子那一步：他跳了

要回答上一节那个问题，彭罗斯选择往物理学里跳。

他的路径是：既然理解是非算法的，而现有物理定律大多数都是可计算的，那么非计算的东西只能藏在物理还没写完的地方——量子测量里的态矢量收缩，或者更深处，量子引力。到了这里，他和一个麻醉学家斯图尔特·哈梅罗夫合流，提出意识发生在神经元微管里的“orchestrated objective reduction”（Orch-OR）。

这是全书争议最大的一步。明斯基的批评最直接：

人们可以把那种探求走得太远——只去寻找新的基本原理，而不去啃真正棘手的细节。我在彭罗斯为意识寻找新物理原理这件事上，看到的就是这个。

更具体的一击来自马克斯·泰格马克：他在《物理评论 E》上算过，神经元放电和微管激发的时间尺度，比退相干时间慢了至少一百亿倍。换句话说，大脑太热、太湿、太大，装不下那台量子计算机。

彭罗斯自己承认这是猜想。他把话说得最狠的一次，其实是把赌注全押出去了：

有人会说，一个由不允许意识存在的定律所支配的宇宙，根本算不上宇宙。

为了让这个论证成立，他需要物理学家先交付一个至今没有交付的理论。

对照：对一个在深圳做技术的年轻人

第一，“讲得通”和“讲得对”是两件事，而大模型正在把这两件事的价差压到零。彭罗斯的论证在逻辑上很顺，在物理上至今站不住——它不是坏论证，是一条走不完的论证。今天用 AI 生成一份方案，它同样会给出读起来毫无破绽的东西。验收的动作不能省：跑一遍，或者问一句“这一步的依据是什么”。读着顺，从来不是对的证据。

第二，别用“它不懂”来安慰自己，也别用“它懂了”来吓自己。彭罗斯两头都不站——他不接受强 AI，也不接受神秘主义。对正在面试的人来说，这个姿态本身就是加分项：被问到“AI 会不会取代这个岗位”，最稳的答案不是预测，而是把边界说清楚——它在哪些环节确实能替代，替代的判据是什么，出了错谁承担。能划出边界的人，比能喊口号的人值钱。

第三，现金缓冲买的是“敢说不知道”的时间。彭罗斯为了补一个论证的漏洞，多花了五年写《心智的影子》——学术上的容错也是钱买的。人在没有退路时会急着给每个问题一个答案，因为“不确定”短期内换不来任何东西。留出几个月，等于买回一段可以只做判断、不做表态的时间。

今天可以做的一件事

挑一个你最近“觉得它懂了”的瞬间——可以是一次 AI 对话，也可以是一个技术方案的自我说服。写下三行：一，你是凭什么判定它懂的；二，这个判据能不能被反过来用在人身上；三，如果穷尽时间，你有没有办法证明它是错的。三行写不满，说明那不是判断，是感觉。

明天读什么

明天换到历史方向，读詹姆斯·C·斯科特的《国家的视角：那些试图改善人类状况的项目是如何失败的》（Seeing Like a State，耶鲁大学出版社 1998；中译本王晓毅译，社会科学文献出版社）。彭罗斯问的是理解在哪里溢出了规则；斯科特问的是同一件事在治理上的版本——当一套自上而下的规划把地方知识压成可统计的数字时，被丢掉的往往正是让系统还能运转的东西。

书名《皇帝新脑：有关电脑、人脑及物理定律》，英文原题 The Emperor's New Mind: Concerning Computers, Minds, and the Laws of Physics，牛津大学出版社 1989 年 11 月首版，ISBN 0-19-851973-7，1990 年为彭罗斯赢得英国科学图书奖；中译本许明贤、吴忠超译，湖南科学技术出版社「第一推动丛书」。作者罗杰·彭罗斯，1931 年生，牛津大学罗斯·玻勒数学讲席教授，1988 年与霍金共获沃尔夫物理学奖，2020 年获诺贝尔物理学奖。文中引文均据英文本译出，个别措辞参照中译本；第二、三、四节三处页码为 Penguin 1989 年版 p.17、p.9、p.95，第五节第二处与 p.144 同义，第六、七节两处未标页码；明斯基与泰格马克两处批评非本书原文。

老废物乐园 🗼