每日一书 #008|《为什么》:为什么大模型答得对,却答不上为什么

遥望星星
发布于 2026-09-06 / 2 阅读
0

每日一书 #008|《为什么》:为什么大模型答得对,却答不上为什么

昨天那本是莱因哈特和罗格夫的《这次不一样》。八百年金融危机,几十个国家的数据,结论冷得刺骨:信号一直都在,只是每一代人都选择驳回它。合上书留下一个更难受的问题——信号在,为什么还是会被驳回?

因为数据本身不会说话。信贷扩张、经常账户赤字、房价繁荣,这些数字躺在那里,你得先有一个关于世界怎么运转的模型,才谈得上"这是危险信号"。没有模型,同样的数字可以被解释成这次不一样。

所以今天换到 AI 方向,读朱迪亚·珀尔的《为什么:因果关系的新科学》。珀尔是 2011 年图灵奖得主,这本书是他半生工作的科普总结。选它不是为了追 AI 的热点,恰恰相反——它是给这轮热潮泼的一盆冷水,而且泼得很有道理。

全书的核心命题只有一句:数据可以告诉你"是什么",但关于"为什么"和"如果当时",数据一个字也说不出来——因果不在数据里,在你脑子里那张因果图里。


一、在统计学教科书的索引里,找不到"因果"这个词

这本书开头的控诉,读起来有点好笑:二十世纪的统计学,把"因果"这个词从自己的词典里删掉了。

这事要从高尔顿和皮尔逊说起。十九世纪末,他们想回答一个明显的因果问题——遗传是怎么发生的——试图用跨代数据去解答,结果失败了。按理说失败之后该问一句"是不是方法不对",但他们没有,而是宣布这类问题是禁区,转头发展了一门不谈因果的新事业,也就是现代统计学。

代价是:学生不能说 X 是 Y 的原因,只能说 X 与 Y"相关"。

在统计学教科书的索引里查找"因果"这个词是徒劳的。统计学不允许学生们说 X 是 Y 的原因,只允许他们说 X 与 Y"相关"或"存在关联"。

珀尔的说法更狠:当你禁止一种语言,你就禁止了一类思想,也掐死了与之配套的方法、原则和工具。五十多年里,因果词汇在统计界近乎绝迹。

做技术的人对这段话应该有生理反应。天天在跑 A/B 实验、看监控面板上几条曲线一起往上走然后下结论。删掉"因果"这个词的代价不是哲学层面的,每天都在付。

二、因果之梯:观察、行动、想象

珀尔把因果推理分成三层,叫"因果之梯"。

第一层是关联(seeing)。看到 X,Y 会不会跟着变?公鸡打鸣和日出高度相关,但你不能说公鸡把太阳叫出来了。绝大多数动物,以及今天所有数据驱动的机器学习系统,都停在这一层。

第二层是干预(doing)。如果我去动手改 X,Y 会怎么变?"禁止销售冰淇淋之后,溺水人数会下降吗?"——这一类问题在第一层根本无法回答,因为冰淇淋销量和溺水人数之间的相关性,背后是一个共同原因:夏天。

第三层是反事实(imagining)。如果当时没做 X,现在会怎样?这层只有人能爬上去,它要求你想象一个不存在的世界。

因果关系的学习者必须熟练掌握至少三种不同层级的认知能力:观察能力(seeing)、行动能力(doing)和想象能力(imagining)。

三层之间严格单向:站在上一层,可以直接回答下层的问题;站在下层,无论加多少数据都爬不上去。这一句基本判了"堆数据量就能得到智能"这个想法的死刑。

三、do 算子:把"看见"和"做"分开

怎么把第二层写成数学?珀尔发明了一个符号:do(X)。

P(Y|X) 是"看见 X 的时候,Y 的概率";P(Y|do(X)) 是"我强制把 X 设成某个值之后,Y 的概率"。这两个看起来差不多,实际天差地别。气压计读数下降,暴风雨的概率上升——但你把气压计的指针按下去,天气不会有任何变化。

看到气压计读数下降会增加暴风雨发生的概率,而强迫它下降则不会影响这个概率。

全书最锋利的就是这对符号的区别。"概率提高"这个概念用概率语言表达不出来,只能借助 do 算子来定义:如果 P(Y|do(X)) > P(Y),那么我们就可以说 X 导致了 Y。

这条线划在了观察性研究和随机对照试验之间。随机化之所以是金标准,就是因为它用物理手段把 P(Y|X) 强行变成了 P(Y|do(X))。珀尔真正想做的事是:能不能不做实验,也算出来?

四、混杂:那个看不见的第三变量

第二层问题的敌人叫混杂(confounding)。

当一个变量同时影响到选择接受处理的对象以及试验结果时,混杂偏倚就产生了。

吸烟与肺癌那段公案是全书最好的例子。上世纪五六十年代,统计学家罗纳德·费舍尔——现代统计学的奠基人之一——坚持认为吸烟和肺癌的关联可以用一个共同原因解释:可能存在某种基因,既让人想抽烟,也让人容易得肺癌。

从纯数据角度看,这个反驳无懈可击。你不可能随机把一群婴儿分成两组,逼一组每天抽两包烟。相关性数据确实区分不了这两种解释。

真正终结争论的不是更大的数据,是因果图。珀尔用"前门准则"重新分析了已有的观察数据,绕开了那个无法测量的基因变量,得出了和随机试验一致的结论。1964 年美国卫生局局长的报告写下那句著名的话:在男性中,吸烟与肺癌有因果关系。

注意这里的顺序:先有因果假设,再有数据检验。珀尔反复强调,因果模型不是从数据里挖出来的,是由理论家依据背景知识、常识甚至猜测提出来的,数据只负责证伪。

五、对撞机:控制错了变量,反而制造出关联

混杂的镜像叫对撞机(collider)。这段是全书写得最漂亮的地方,也是实践里踩坑最多的地方。

混杂的结构是叉:X ← Z → Y,Z 同时影响两者,制造出 X 和 Y 之间的假关联,解决办法是控制 Z。对撞机正好反过来:X → Z ← Y,X 和 Y 共同决定 Z。这时候两者本来是独立的,但只要你控制了 Z,它们之间就会凭空出现负相关

伯克森悖论就是这个。医院数据里两种毫不相关的疾病会呈现负相关——因为"住院"这个对撞因子被你不经意地控制了。蒙提·霍尔悖论、抛两枚硬币删掉双反面记录后出现的诡异关联,本质都是同一个东西。

获得信息的方式和信息本身一样重要。

这句话值得贴在工位上。做数据分析时我们习惯性地"控制变量",把能想到的维度全塞进回归模型。但控制一个对撞因子,不是消除偏倚,是制造偏倚。控制哪些变量取决于因果图的结构,不取决于你手上有多少列数据。

六、反事实:为什么"如果当时"这两个字值钱

第三层是反事实。它听起来最不科学——毕竟没有观测能证实或证伪一个没发生的世界。

但珀尔认为,人类之所以是现在这个样子,靠的就是这一层。四万年前的狮人雕塑——一个不存在的生物——是所有宗教、哲学和技术的雏形。从反事实里我们拿到的是:灵活性、反省能力、改善过去行为的能力,以及最重要的,为过去和现在的行为承担责任的意愿。

反事实是道德行为和科学思想的基石。

行刑队的例子特别狠:五名枪手同时开枪,犯人倒地。每个人都可以在心里说"反正横竖都会死,不是我杀的"。这句免责声明就是一句反事实。法律、道德、责任,全建立在"如果当时你没扣扳机,会怎样"这个无法观测的问题上。

这也是反事实难工程化的原因:它要求一个能回答"假如"的模型世界,而不是一条拟合出来的曲线。

七、深度学习有超凡的能力,却没有智能

珀尔对深度学习的评价,中文世界里被引用得很多,但多半引得不全。他不是否定深度学习,他是否定"这就是智能"。

他的诊断只有一句:深度学习的成就,主要来自证明了某些我们原以为很难的问题其实不难。它让一堆任务从不可能变成可能,但并没有让机器学会提问,更没让它学会回答"为什么"。

概率能将我们对静态世界的信念进行编码,而因果论则告诉我们,当世界被改变时,无论改变是通过干预还是通过想象实现的,概率是否会发生改变以及如何改变。

差别在于有没有"现实模型"。一个只会做关联的系统,在分布内表现惊人,一旦你动了它一下——改一条规则、换一个场景、问一句"如果当时不这样"——它就不知道该怎么办了。

同一段里还有一句更刺的:你无法回答一个你无法提出的问题,也无法提出一个你没有词汇来表达的问题。语言决定思维的边界。这也是珀尔坚持因果推断必须是两套语言的原因:因果图表达你已经知道的,符号语言表达你想问的。

八、把因果图交给机器:强 AI 的入场券

书的最后一章回到他自己的起点:人工智能。

珀尔提过一个很朴素的标准:

在人工智能的世界里,只有当你能够教会机器人理解某个课题时,你才算真正理解了它。

按这个标准,今天的模型对世界的"理解"仍是空白:它能生成流畅的因果叙述,但内部没有可以执行 do 运算、可以跑反事实的结构。

他给出的路线也很清楚:给机器装上因果图,让它能表达"我知道什么"和"我想问什么",能回答反事实的提问,在被干预时知道去改哪一条边。到那时,机器才算从第一层爬到第三层。

书里反复出现的那个判断——你可以用数据检验假设,但数据不会告诉你该检验哪个假设——恰好是今天做 AI 应用的人每天在做的事。模型的输出是数据,你的判断才是模型。


对照:对一个在深圳做技术的年轻人

第一,把"模型"和"数据"的分工说清楚,这是面试里最值钱的一段话。 现在几乎每个 AI 岗的面试官都会问大模型的能力边界。能背出"幻觉""上下文长度"的人很多,能说出"它停在因果之梯第一层,因为内部没有可干预、可反事实的结构"的人很少。这不是掉书袋,是把问题从形容词层面拉到了结构层面——顺便也解释了为什么 Agent 需要外部工具和状态机制来补这一课。

第二,你的经验里最值钱的部分是那张因果图,不是那些数据点。 做出海信贷那几年,真正稀缺的从来不是进件量,是那条"哪些变量真的指向还款能力"的判断链——为什么某个字段的信号会突然失效,为什么某个市场换了通道之后坏账结构就变了。这类东西不会写在数据字典里,它长在人脑子里。大模型能替你处理关联,替换不了这张图。谈薪时卖的是这张图,不是"我会用某个框架"。

第三,别把顺风记成自己的能力,也别把逆风记成自己的缺陷。 行业景气时的加薪、项目上线后的数据、一次成功的技术选型,都要能拆出"哪些是我做的,哪些是环境给的"。拆清楚了,顺风时知道该加固什么,逆风时知道该保留什么。分不清这两者的人,在下行周期里会做出最糟的决定——把运气归功于自己,再把波动归咎于自己。

今天可以做的一件事

挑一件最近让你纠结的事——一次没拿到的 offer、一个上线后效果不及预期的项目、一笔判断失误的支出——然后逼自己写一句严格的反事实:如果当时只改变那一个变量,其他全部不变,结果会不同吗?

写的时候你会发现,大部分脱口而出的"因为我做了 X 所以 Y",其实都是 P(Y|X),不是 P(Y|do(X))。中间隔着至少一个你没意识到的 Z。把这个 Z 找出来,写在下一行,你对这件事的判断会立刻变一个量级。

明天换方向,读历史。下一本是斯文·贝克特的《棉花帝国:一部资本主义全球史》。从"因果不在数据里,在你脑子里"再往前一步——当棉花、奴隶、工厂和炮舰被连成一张真实存在的因果图,你大概会重新理解"全球化"这三个字的重量,也会重新理解自己在深圳做的这份工作,到底嵌在一条多长的链条上。

老废物乐园 🗼

[]