昨天那本《千年金融史》留下一个词:时间机器。人类最早造出来的时间机器不是钟表,是一张借条——把未来的承诺换成今天能用的资源。但戈兹曼只讲到了契约,没讲更硬的一层:一个能计算未来的心智最初是怎么出现的?它不可能是谁设计出来的,因为设计者本身就得先有理解力。
所以今天换到 AI 方向,读丹尼尔·丹尼特的《从细菌到巴赫再回来:心智的起源》。这是他晚年的总结之作:从细菌的化学循环一路讲到巴赫的赋格,全程不许动用任何“天钩”——不许假设有一个先在的理解者。
全书核心命题:理解不是能力的前提,恰恰相反,理解是大量“无理解的能力”堆叠出来的副产品。
一、两次倒置:胜任一件事,不需要理解它
书名里的“再回来”指一次往返:先从细菌走到巴赫,再从巴赫回到细菌。出去那条路讲演化,回来那条路讲计算机,两条路指向同一个发现。
丹尼特把达尔文和图灵放在一起,说他们各自完成了一次“奇怪的推理倒置”。达尔文之前的常识是:要造出一台完美而精妙的机器,必须先知道怎么造它。达尔文说不必——自然选择不需要任何理解者。图灵说得更直白:要成为一台完美而精妙的计算机器,不必知道算术是什么。计算器做乘法只是在改变电压分布,它一个字都不懂,但答案是对的。
这本书的第一块基石就在这里:胜任与理解是两件事,胜任在先。
达尔文那“奇怪的推理倒置”和图灵同样革命性的倒置,是同一个发现的两面:无须理解亦能胜任。理解,远不是一种必须流淌出所有设计的、神一般的才能,它是无理解的能力系统的涌现效应——一头是自然选择,另一头是无心智的计算。
二、理由先于会讲理由的人
树把枝子伸向有光的地方,细菌的鞭毛朝着浓度更高的方向转动。这些动作都有理由,而且都是好理由。但树不知道,细菌也不知道。
丹尼特造了一个词来装这类东西:自由浮动的理据(free-floating rationales)。它指的是一种真实存在的、可以被逆向工程还原出来的理由,但在它被某个人表述出来之前,它从来不是任何人的理由。这个说法让不少哲学家不舒服,觉得像在召唤幽灵。丹尼特的回应很硬:它不比数字或重心更幽灵。
所以,在出现“理由的表征者”——也就是我们——之前,理由就已经存在了。我把演化所追踪的那些理由称为“自由浮动的理据”……在人们发明出表述算术的方法之前,立方体就有八个角;在有物理学家想出重心这个点子并拿它做计算之前,小行星也早就有重心了。先有理由,后有推理者。
这个区分在工程上天天都在发生:一段跑了五年的老代码,每一个奇怪的分支当初都有理由,但没有任何人的脑子里还装着那个理由。你今天读它,就是在做逆向工程——把自由浮动的理据重新变成某个人脑子里的理由。
三、理解不是能力的前提,是能力的产物
常识把因果搞反了。我们习惯认为:先有理解,后有胜任;先懂原理,才能做得对。丹尼特说这条链条是倒过来的:能力一层层往上堆叠,堆到某个复杂度,理解才作为副产品浮现。
他给过一个更精确的表述——理解不是能力的来源,也不是能力里的活性成分;理解是由能力构成的。这句话可以直接拿来判断一个系统的可靠性:一个系统的“理解”有多厚,取决于它底下垫了多少层真正跑通过的能力。垫得薄,理解就是一层贴上去的膜,一戳就破。
理解不是能力的来源,也不是能力里的活性成分;理解是由能力构成的。
对人类也一样。我们大部分时候是在日用而不知:会骑自行车,说不出稳定条件;会写代码,说不清为什么这么写更稳。这不是缺陷,这是所有能力的默认形态。
四、四层塔:从达尔文式生物到格列高利式生物
为了给“理解是怎么一层层长出来的”画一条刻度,丹尼特造了一座“生成—测试之塔”,把生物分成四类,一级比一级少死一点。
达尔文式生物,只能靠代际之间的变异和自然选择来适应,个体一辈子改不了多少。斯金纳式生物,个体在一生之内能靠试错学习——按对了有吃的,按错了有电击。波普尔式生物进了一步:它能在脑子里先跑一遍,把明显不行的方案在想象里就淘汰掉,不用拿身体去试。格列高利式生物再进一步:它开始装备思维工具,而且这些工具不在身体里,在体外,可以传来传去。
黑猩猩大概停在第三层。人类是第四层,而且跳得这么远,靠的不是脑子变大,是靠工具。
我们智人(到目前为止)是唯一拥有丰厚累积文化的物种,而让这种文化成为可能的关键成分,就是语言。
这四层的划分是漫画式的,丹尼特本人在论文里承认它是“过度简化的卡通”。值得带走的是那个梯度:每一层都在减少“用命去试”的比例。灰度发布、压测环境、影子流量,本质上都是同一个动作——把测试从生产环境搬到想象环境里。
五、词是最好的模因:语言不是工具,是改造者
语言这一层,丹尼特的处理比“交流工具”的说法狠得多。他沿用道金斯的说法,把文化里能自我复制的单位叫模因,然后说:词是模因最好的例子。
狠的地方在于视角翻转。通常说“人使用语言”,丹尼特说,更该问的是:什么样的宿主最容易让这些可复制的东西住进来并扩散出去?他甚至留了一个很不客气的猜想——我们可能只是脑子被模因操纵的猿,就像被感冒病毒操纵一样。区别在于,感冒病毒不会让我们活得更久、跑得更远,而这些传染性的习惯会。
也许我们只是一些大脑被模因操控的猿类,操控的方式和我们被感冒病毒操控差不多。与其只看我们的祖先需要具备哪些先决能力才能让语言启动,也许我们还该考虑一种反常的易感性——正是这种易感性让我们的祖先成了那些有传染性但非致命的习惯(模因)的理想宿主,让它们在我们的人群中复制,而我们则活得更久、走得更远。
这条最容易被误读成“语言在害我们”。不是。它是说:文化的演化同样不需要一个全知的设计者。金字塔的建造者当然知道自己在干什么,但他们脚下那套被磨了几千年的手艺,没有哪个人的脑子里装得下全部原理。
六、向自己提问:格列高利式生物真正的分水岭
那人类到底特殊在哪?丹尼特的答案不是意识,不是灵魂,是一个很小的习惯:向自己提问。
书里有一段推想:祖先们本来只在被问住时才提问,后来发现有时候旁边没人,问题也照样能冒出答案——他们开始回答自己的问题,于是发明了跟自己说话。这个动作一出现,收益立刻可见:藏在暗处的知识被自己的问题勾了出来。后面一句更实用,值得原样抄下来。
“当时我觉得这是个好主意”——这句在搞砸之后常说的话,如果是真话,那就不是愚蠢的标记,而是智能的清晰标记;一个能准确回忆起自己当时究竟在想什么、对它是什么感觉的思考者,已经在调试自己思维过程的路上走过了一大半,不会再掉进同一个坑里。
这也解释了为什么“复盘”只对人类有效:复盘的前提是你先诚实地说出当时的真实想法,而不是把结果倒推回去,假装当初就是这么想的。
七、真正的风险不是机器太聪明
全书离工程师最近的一段,是丹尼特对 AI 风险的判断。他没有加入“机器会不会觉醒”的讨论,而是把风险搬到了我们这一侧。
他的原话值得整段抄下来。
我认为真正的危险不是比我们更聪明的机器会篡夺我们作为自己命运船长的位置,而是我们会高估自己最新的思考工具的理解力,把权威过早地让渡给它们,而这种让渡远远超出了它们的能力所及。
这句话最狠的地方在于,它预言的失败模式不是机器作恶,是人偷懒。系统没有理解,我们却按“它理解了”来分配责任。几乎所有 AI 事故报告里都能找到这一条。
对照:对一个在深圳做技术的年轻人
第一,把“它能做”和“我懂它为什么对”分开记两本账。 无须理解亦能胜任,在 AI 身上不是缺陷,是常态;但把它当理解去签字,是事故的开始。模型能写出通过测试的代码,和它理解这套系统的负载特性、边界条件、失败模式,是两件完全不同的事。前一句可以验收,后一句只能由你来背。
第二,简历和复盘里最贵的谎言是“我当时就想到了”。 这就是自由浮动的理据在个人叙事里的版本:一件事被结果证明是对的,不代表下判断的那一刻你手里握着那个理由。面试官追问细节的时候,这个区分一戳就破。把“当时真想了”和“事后被证明是对的”分开写,反而更有说服力——因为它证明你能调试自己的判断,而不是只会复述结果。
第三,攒工具,别攒“我懂了”的感觉。 格列高利式生物真正的优势不是脑容量,是体外那套能传来传去的思维工具:语言、数学、版本控制、监控、灰度、回滚。现金缓冲在个人身上对应的是同一件事——它不是安全感,它是让这些工具还来得及发挥作用的那段时间。把准备期按几个月算不是悲观,是给了工具正确的运行窗口。
今天可以做的一件事
挑一个最近让 AI 帮你生成的东西——一段代码、一个方案、一篇文案都行——逐段问一句“这里为什么这么做”,把答不上来的地方写成三行。
三行写出来,边界就清楚了:这三处就是你能力垫得最薄的地方。单独测掉、单独看过日志再上线。剩下的部分可以信它跑得快,但只有这三处是你真正签了字的地方。
明天读什么
明天换到历史方向,读 E. H. 卡尔的《历史是什么?》(What is History?,1961 年 1 月至 3 月在剑桥大学的乔治·麦考利·特里维廉讲座;中译本吴柱存译,商务印书馆,据纽约 Alfred A. Knopf 1963 年版译出)。
丹尼特问的是:理解是怎么被造出来的,以及我们有多擅长事后追认一个本来不存在的理解。卡尔会问几乎同构的问题:让事实说话之前,先得有人决定让哪些事实说话,而“历史事实”从来不以纯粹形式存在,它总是通过记录者的头脑折射出来的。一个讲心智如何把因果感追认给自己,一个讲历史如何把因果感追认给史料。两本书真正的共同点是:叙事的因果感是事后生成的,但这并不等于它是假的。
书名《从细菌到巴赫再回来:心智的起源》,英文原题 From Bacteria to Bach and Back: The Evolution of Minds,W. W. Norton 2017 年出版;作者丹尼尔·C·丹尼特(Daniel C. Dennett,1942—2024),塔夫茨大学哲学教授、认知研究中心主任;中译本冯文婧、刘诗军译,浙江教育出版社 2019 年。文中引文据英文本译出,个别措辞参照中文版书评所引中译本;第二节“自由浮动的理据”一段据原书 Kindle 版第 10% 处原文,其余各条据原书摘录原文核对。
老废物乐园 🗼
[]