昨天那本《债务和魔鬼》把账本翻到了底：信贷大部分没有流进工厂，而是流进了房子，金融体系在自己制造的风险里越陷越深。读完有一种很具体的憋闷——因为那本书说的是「系统的产出偏离了系统的目的」，但它没有回答一个更前面的问题：系统到底是什么，目的又是从哪儿来的。

今天换到 AI 方向。既然要谈系统的自我偏离，就绕不开 1979 年那本奇书——侯世达的《哥德尔、艾舍尔、巴赫：集异璧之大成》，圈内简称 GEB。它比深度学习早了三十年，却在书里把今天大模型的处境写透了。

这本书在回答什么问题

一个由无意义的零件组成的系统，复杂到能够谈论自身的时候，「我」就出现了——不是被赋予的，是必然涌现的。

侯世达把这个涌现的机制叫做「怪圈」（Strange Loop）。他用了三个人的作品当三条证据链：数学家哥德尔、版画家艾舍尔、作曲家巴赫。三条线看起来毫不相干，讲的是同一件事。

一、怪圈：一直往上走，却回到了原地

先说什么是怪圈。你在一栋楼里坐电梯，一层一层往上，视野越来越高，你确信自己在上升。走到顶层推门出去——发现自己站在大堂。这就是怪圈。

艾舍尔的《瀑布》是最直观的版本：水流沿着渠道一路向下，推动水车，最后又回到了瀑布顶端。《画手》里两只手互相画着对方。巴赫的《无穷升高的卡农》更巧妙，旋律每次循环都升一个调，听感上节节攀升，六次变调之后居然魔术般回到了原调。

侯世达给的正式定义是这样的：

「怪圈」现象是这样发生的：在某个层次系统中，无论你向上还是向下移动，最后都会意外地发现自己又回到了出发点。

注意「向上」和「向下」都成立。这一点很关键——它意味着这个系统没有真正的最高层和最低层。我们习惯性地以为总有一个「最高解释者」，怪圈说没有。

二、哥德尔：可证比真要弱

1931 年，哥德尔做了件在当时近乎亵渎的事。他把「这句话是假的」这个古老的说谎者悖论，翻译成了数学。

手法是哥德尔配数：给每个符号、每条公式、每个证明都分配一个唯一的自然数。一旦数能代表陈述，一件诡异的事就发生了——数论陈述可以谈论数论陈述，甚至可以谈论它自己。于是他构造出一个句子，内容相当于「我不是一个定理」。

如果它可证，系统自相矛盾；如果它不可证，那它就是真的，却永远证明不了。

哥德尔洞察到：只要数能够用来代表陈述，那么一个数论陈述就可以是关于一个数论陈述的了（甚至是关于它本身的）。

这件事最容易被误读的地方在于，很多人把它当成「逻辑不可靠」的证据。不是的。它说的是另一件更精确的事：

可证性是一个比真理性更弱的概念。

真理比证明大。任何一个足够强的形式系统，都装不下它自己能「看见」的全部真理。

三、自指不是 bug，是力量的副产品

这是 GEB 最容易被人漏掉的一节。通常我们谈论哥德尔定理，口气是悲观的：系统有漏洞，不完备，有边界。侯世达反过来问——如果自指是缺陷，为什么它偏偏只在足够强的系统里出现？

答案有点反直觉：一个系统要能谈论自己，前提是它得足够复杂，复杂到能把自身编码进去。弱的、简单的系统反倒干净，因为它们压根没有这个能力。所以自指和不完备不是「做坏了」，是「做到这个强度了」的必付代价。

把这个结论挪到心智上，侯世达的胆子就大了：意识不是外挂的灵魂，是系统在复杂度越过某条线之后自己长出来的东西。底层（神经元、蛋白质）百分之百是正在发生之事的根由，却又与正在发生之事无关——你没法用突触的词汇去解释一个人为什么食言。这个判断听起来自相矛盾，其实是个日常的自明之理。

位于底部的层级，虽然百分之百是造成所发生之事的根由，可是却与所发生之事无关，这个观念听起来几乎是自相矛盾的，但它却是一个日常的自明之理。（参见侯世达后来的《我是个怪圈》）

四、意义不在符号里，在同构里

书里有一个很小的形式系统叫 pq 系统，符号串 -p-q-- 本身毫无意义。但只要你约定横杠代表数字、p 代表加号、q 代表等号，它就变成了「1+1=2」。

这件事的重量在于：符号本身没变，是映射让它有了意义。

侯世达把它叫做「同构」——两个结构复杂到可以逐部分对应，一个结构里的每件事在另一个里都能找到对应物。唱片上的沟槽里没有音乐，唱机读它的时候音乐才涌现；视网膜收到的不是颜色，是波长。

当我们说两个复杂结构之间存在同构时，意思是其中一个结构里的每一部分，在另一个结构中都有相应的部分起着类似的作用。意义就是这样产生的。

这条对做 AI 的人是当头一棒：大模型操作的是 token，是纯粹的形式符号。它之所以「懂」，是因为训练过程在符号与世界的统计结构之间硬生生搭出了一张同构网。意义不在参数里，在那张网里。

五、蚂蚁赋格：智能不在个体里，在交互里

书里最精彩的一章叫《蚂蚁赋格》。一只蚂蚁大约十万个神经元，行为规则简单到可以写成一张状态转移表，看不出任何智能。可是几百万只凑在一起，蚁群会筑巢、会分工、会调配资源、会打仗。

关键在于：没有任何一只蚂蚁「知道」整体在干什么。

单独的一只蚂蚁只是一台简单的状态机；可蚁群会建筑、会分工、会发动战争。智能不在个体里，在交互里。

把蚂蚁换成神经元，把蚁群换成大脑——侯世达在 1979 年就用这个结构预言了后来神经网络的路子：自上而下的规则写不出智能，得靠大量简单单元自下而上涌现。

DeepMind 的哈萨比斯十七八岁读到这本书，说它直接决定了他后来选什么题。这不是巧合。

六、跳出系统：机器照章办事，人会掀桌

这一节是全书对今天最实用的一节。

机器天生死板。你让它按「1」加到一万，它会不知疲倦地按下去，中途不会有一秒钟停下来想「我为什么要做这个」。人不一样，人按到第三十次就会烦，然后开始想：有没有更快的方法？于是一个新的层次被打开了。

侯世达管这个叫「跳出系统」。在形式系统里，规则之上是元规则，元规则之上是元元规则，理论上没有尽头。人的智能恰恰体现在：意识到自己在某个系统里运转，然后主动退出来换规则。

能够跳出正在进行的工作并且看一下已经做了些什么，这是智能固有的特点。

他还有一句更狠的，说的是能看穿系统的人有多稀有：

只有极少数的人有那种眼光看出一个支配许多人生活的系统，而以前却从来没人认为这是一个系统。这些人常常就投入毕生的精力去使其他人相信系统确实存在，应该从中退出。

七、解释要选对楼层

书里反复敲一个点：同一个东西可以在很多个层次上被描述，而正确的解释几乎从来不在最底层。

一台计算机，可以描述成电子在动、逻辑门在翻转、机器指令在执行、函数在调用、数据结构在变形、或者在跑一个下棋程序。每一层都依赖下一层，但「它为什么弃掉这个象」这个问题，用电子的词汇回答是最糟的答案。

软件并不是加到硬件上的某种额外实体；但软件层次上的组织是真实的，足以预测和解释单看晶体管根本看不清的行为。

「原则上可还原」和「实践上有解释自主权」不冲突。这是 GEB 在还原论和整体论之间给出的第三条路：不把高层当神秘，也不把它当幻觉。

八、不完备是留下的门

书的最后绕到了禅宗。侯世达认为禅宗用公案、用不合逻辑的话，做的事和哥德尔在数学内部做的事是同构的——都是对「系统能自我封闭」这件事的反抗。

所谓顿悟，最简明扼要地说或许是：超越二元论。二元论就是把世界从概念上分划为种种范畴。

他还有一句我很喜欢的话，说的是人类为了消除悖论所做的那些努力：那些努力往往过分强调了平淡的一致性，却把使生活和数学变得有趣的东西一起丢掉了。

不完备不是一堵墙，是一扇门。系统永远关不严，所以永远有向上的空间。

对照：对一个在深圳做技术的年轻人

第一，判断一个系统的价值，看它能不能谈论自己。 一个只会执行、不会反馈自身运行状态的系统，天花板一眼见底。这条对你写的代码成立，对你待的组织成立，对 AI 工具也成立。现在用大模型写代码的人分两类：一类把它当更快的打字机，一类把它当可以反复质疑自己产出的对话对象。前者省 20% 时间，后者省 70%。

第二，「跳出系统」是你目前最贵的能力，要主动标价。 机器在规则内跑得比人快得多，唯一跑不赢人的是「这条规则本身该不该存在」。面试的时候别只讲你实现了什么，讲一次你发现需求本身就是错的、然后改了问题而不是改了答案。这是八年经验里最值钱的部分，也是最容易被自己说成「就是做了个优化」的部分。

第三，别在最底层解释自己的处境。 用「行情不好」「简历没投够」解释找不到工作，跟用电子的运动解释为什么要弃象是同一类错误。真正起作用的层次更高：你的能力结构在哪个市场上被定价、这个市场的支付意愿在往哪儿移、你在哪一层上能换规则。现金缓冲够用是筹码，不是结论——筹码要在对的楼层上用。

今天可以做的一件事

打开你最近写过的一段代码或者一份简历，做一次「升一层」的改写：把「我用 X 实现了 Y」改成「我之所以要用 X 做 Y，是因为原来的做法在 Z 这个层次上不成立」。写不出来，说明你还没真的跳出那个系统；写得出来，这段内容可以直接进面试的第一轮自我介绍。

明天换到历史方向，读一本跟「信息在官僚系统里怎么变形」有关的书：孔飞力的《叫魂：1768 年中国妖术大恐慌》。一个皇帝的疑心、几桩民间谣言，是怎么在层层上报中被放大成一场全国性恐慌的——读过之后你大概会重新理解，自己的系统里那些「异常指标」有多少是真的、多少是传导出来的。

引文据商务印书馆中译本《哥德尔、艾舍尔、巴赫：集异璧之大成》（严勇、刘皓明、莫大伟译）及英文本 Gödel, Escher, Bach: An Eternal Golden Braid 译出，个别为原意复述。

老废物乐园 🗼