解释深度错觉

概览

1. 简要概述

问一个人对抽水马桶了解多少，大多数人会说“挺了解的”。再让他们一步一步写下从按下把手到水箱重新注满之间发生了什么，那份信心就消失了。这个落差就是解释深度错觉（Illusion of Explanatory Depth），由 Leonid Rozenblit 和 Frank Keil 于 2002 年命名。它在机制上很强，在事实或情节上很弱，因为机制容易让我们把对表面的熟悉误当成对内部的了解。这一核心发现已在预注册研究中得到复现，并被扩展到政治政策、心理障碍和阴谋论信念。其中最有名的扩展，即解释一项政策会让政治观点更温和，没能通过预注册复现。治疗方法同时也是诊断方法：试着去解释它。

用大白话说

这种偏差就是你觉得自己知道一样东西怎么运作，其实你只知道它是干什么用的。你见过自行车上千次，所以你的大脑告诉你，你懂它。可是见过一样东西，不等于知道它里面是怎么回事。

找个朋友试一试。让他凭记忆画一辆自行车，把车架、脚蹬和链条画在正确的位置。大多数人都确信自己画得出来。结果画出来，链条挂在了前轮上，他们自己也笑了，因为他们根本不知道自己不懂。手机怎么找到无线网络、疫苗怎么起作用、天为什么是蓝的，也都是这样。你一直觉得自己懂，直到有人请你解释。

教你一个小窍门。在说“我懂了”之前，先像给比你小的孩子上课那样，一步一步大声讲出来。如果卡住了，那不是失败。那是这种偏差在告诉你漏洞到底在哪儿，这样你就知道该去学什么了。

2. 科学依据

2.1. 发现与历史

解释深度错觉（IOED）是由耶鲁大学的 Leonid Rozenblit 和 Frank Keil 在 2002 年发表于 Cognitive Science 的一篇论文中命名的。Keil 多年来一直研究“民间科学”，也就是人们心里关于生物、物理和机器的粗略因果理论。这些理论漏洞百出，可人们似乎从不为这些漏洞烦恼。

Rozenblit 和 Keil 的流程很简单。参与者先在七点量表上评价自己对日常设备的理解程度，然后写出其中一种设备如何运作的完整解释，重新评分，尝试回答一道诊断性问题，阅读一份专家解释，再评一次分。在十二项研究中，评分在每个阶段都下降了，降幅最大的是刚尝试解释之后。没有人告诉他们错了，是解释这个动作本身起了作用。同样的流程用在事实、操作程序和电影情节上，评分下降小得多，甚至不降，所以这种错觉专属于机制。他们的解释是：机制通常可以在现实中查看，所以我们很少把它记下来；知道一个部件是干什么用的，感觉就像知道它怎么运作；我们几乎从不解释事物，所以得不到反馈；而解释本身没有自然的终点。

后来的研究检验了其中的机制（Adam Alter、Daniel Oppenheimer 和 Jeffrey Zemla 在 2010 年提出的解释水平说），把范围扩大到自行车、政治政策、心理障碍和阴谋论信念，并检查这一效应是否站得住。2024 年，Robert Körner、Astrid Schütz 和 Lars-Eric Petersen 在三项预注册研究中复现了核心效应；而 Jarret Crawford 和 John Ruscio 在 2021 年的预注册尝试没能复现政治温和化的发现。Steven Sloman 和 Philip Fernbach 2017 年的著作《知识的错觉》为整个问题换了一个框架：我们每个人所“知道”的大部分东西，其实存在于别人、书籍和工具之中。

关键里程碑：

• 2002：Rozenblit 和 Keil 命名该效应，并表明它专属于解释性知识
• 2006：Rebecca Lawson 的《自行车学》研究表明，成年人画不出一辆能用的自行车
• 2013：Fernbach、Rogers、Fox 和 Sloman 把该效应扩展到政治政策
• 2021：Crawford 和 Ruscio 报告了三项未能复现政治温和化效应的预注册研究
• 2024：Körner、Schütz 和 Petersen 在三项预注册研究（N = 607）中复现了核心的解释深度错觉

2.2. 主要研究者

2.3. 里程碑式研究

《民间科学被误解的局限：一种解释深度错觉》（Rozenblit 和 Keil，2002）

耶鲁大学本科生评价自己对拉链、抽水马桶、弹子锁和直升机等物品的理解，然后为其中一部分写出因果解释，再重新评分。无论受过什么训练、对这些物品有多熟悉，自评都在每一步下降。同样的流程用在事实、操作程序或叙事上，评分几乎不降或完全不降，这是表明该错觉关乎因果解释而非一般过度自信的最有力证据。

《自行车学：理解日常物品如何运作的失败》（Lawson，2006）

Lawson 让成年人补全一张自行车草图，添上缺失的车架部件、脚蹬和链条。许多人做不到。一个常见的错误是把链条绕在前轮上，那样就根本没法转向。即使是经常骑车的人也常常出错，而且当参与者只需认出正确的图时，错误依然存在。

《政治极端主义由理解的错觉所支撑》（Fernbach、Rogers、Fox 和 Sloman，2013）

参与者评价自己对总量管制与交易、单一支付者医保等政策的理解，以及对每项政策的支持或反对有多强烈。在写下政策如何运作的机制说明后，理解评分下降，立场的极端程度也下降了。第二个实验比较了解释机制和列举理由：只有解释能降低极端程度。Crawford 和 Ruscio 在 2021 年进行了三项预注册的近似复现，没有发现解释会增加温和程度。理解评分仍然下降，所以核心的解释深度错觉成立；下游的政治效应则不成立。

《权力与解释深度错觉》（Körner、Schütz 和 Petersen，2024）

三项共 607 名参与者的预注册研究检验了权力感是否会加重这种错觉。核心效应在设备上得到了清晰复现，自评理解出现中到大幅度的下降，独立评判者也确认写出的解释很单薄。权力本身只有很小的影响。解释水平风格与解释深度错觉无关，对 2010 年那几项研究的 p 曲线分析也没有为这一关联找到证据价值。

2.4. 神经学基础

目前还没有专门针对解释深度错觉的成熟神经科学。没有哪项脑成像研究分离出人们的“我理解这个”评分崩塌时大脑里发生了什么，与此相反的说法都应当被视为推测。现有的是关于元认知的更宽泛的文献。

对“知道”的判断似乎依赖于流畅感，而不是对所储存内容的核查。一个熟悉的物体轻松浮现在脑海时，理解的感觉马上就来了。写出解释会迫使人提取实际的因果链，一旦提取卡住，这种感觉就会被下调。Stephen Fleming、Raymond Dolan 等人的研究把准确的元认知监测与前额叶前部皮层联系起来，并表明人们的信心与表现的吻合程度因人而异。要寻找这种错觉的个体差异，这里是个合理的方向，但这一联系还没有被直接检验过。

3. 进化起源

一个头脑为什么会带着它其实没有的解释？最合理的答案是，在人类历史的大部分时间里，它并不需要这些解释。

Sloman 和 Fernbach 的框架最清楚。人类会对机制进行推理，而且是在群体中进行的。狩猎采集群体里没有哪个人知道怎么做出每一种工具、追踪每一种动物、治疗每一种疾病；这些知识分散在整个群体中。每个人的任务是知道得足够多，能利用共享的储备，并认出谁知道其余的部分。一个只存一张草图、再加上“细节在哪里能找到”这种感觉的大脑，是高效的。

麻烦在于，“我能查到”从内部感觉起来就像“我知道”。因为机制通常可以随时查看，我们便把环境提供的支持当成了内在的知识。对一件你可以拿起来细看的工具来说，这是无害的捷径。对一项政策或一种金融产品来说，就不是了。

第二条线索把这种错觉与“需要快速行动”这一类联系起来。信心让行动成为可能。一个在过河前停下来核实一套完整的河流因果模型的祖先，会被那个觉得自己对河足够了解的人比下去。我们的因果理论很粗糙，是因为粗糙一直都够用。变了的是环境：供应链、疫苗和货币政策的深度，远远超过任何一个人心里关于它们的工作模型。

4. 这种偏差的表现方式

4.1. 在日常生活中

• 信心十足地动手“修”家电，干到一半才发现想象不出零件是怎么装在一起的
• 给孩子解释雨是怎么形成的，两句话之后就讲不出机制了
• 关掉搜索页面时，觉得自己知道的比实际记住的多；Fisher、Goddu 和 Keil（2015）发现，刚在网上搜索过会抬高人们对自己解释无关话题能力的估计

4.2. 在职场中

• 因为一份技术方案的总结幻灯片说得通就批准它，却说不出系统如何产生那个结果
• 管理者以为自己理解所负责的流程，直到新员工问一句“然后会怎样？”
• 会议之所以达成一致，是因为大家共用一套自信的词汇，却没人检验过这些词背后是不是同一个模型

4.3. 在商业与营销中

• 投资者凭一段演示和一个自己无法用自己的话复述的机制就投资一款产品
• 战略汇报围绕因果论断构建（“参与度带来留存，留存带来收入”），却没人把它当作一条链真正推一遍
• 凭着理解的感觉购买数据分析或人工智能产品；Chromik 及其同事（2021）发现，人们在看到机器学习模型的解释时也会出现同样的错觉

4.4. 在政治与媒体中

人们对政策的理解自评很高，而在试着解释政策如何运作之后，这些评分会大幅下降。至于这种下降是否也会让态度变温和，Fernbach 及其同事在 2013 年这样报告过，但在 Crawford 和 Ruscio 2021 年的研究中没有得到复现。

典型表现：

• 对某些政策立场坚定，却说不出其机制的第一步之后是什么
• 辩论时交换理由（这会让立场更稳固），而不是交换解释（这会检验立场）
• Vitriol 和 Marsh（2018）发现，在政治话题上理解错觉更大的人更可能认同阴谋论

4.5. 在医疗保健中

Zeveney 和 Marsh（2016）把解释任务用在心理障碍上，发现了同样的模式：人们以为自己理解抑郁症之类的疾病，直到被要求解释它们是怎么产生的。

• 患者觉得自己理解药物的作用机制，并据此调整剂量
• 多年没有解释过某个机制的临床医生，在学生提问时才发现自己的模型比想象的单薄
• 健康决策受一幅生动、连贯却错误的内心图景驱动（身体在“排毒”）

4.6. 在金融与投资中

• 持有一些产品（结构化票据、杠杆 ETF、期权），却无法在纸上画出它们的收益机制
• 把一个财经故事（“利率下降，所以股票上涨”）当成机制，而不是相关关系
• 2008 年的模式：层层参与者都以为别人完全理解这种工具

5. 真实世界案例研究

案例研究 1：烤面包机项目

• 背景：2009 年，英国设计师 Thomas Thwaites 着手从零开始造一台普通的电烤面包机：开采铁矿石、提炼铜、制造塑料。一台新的烤面包机售价不到四英镑。
• 发生过程：这个项目花了九个月，耗资一千多英镑。结果发现，一台最基本的烤面包机包含由几十种材料制成的约四百个零件，每一种都需要没有哪个人单独掌握的工业知识。成品工作了几秒钟就熔化了。
• 运作中的偏差：开工之前，Thwaites 和他告诉过的每个人都有一种寻常的感觉，觉得烤面包机是好理解的：电线变热，面包烤黄。这种感觉是对功能的草图，不是对机制或其供应链的模型。
• 后果：除了一本书和一场 TED 演讲之外没有别的后果，而这正是重点。它低成本地展示了最熟悉的物品里藏着多少看不见的深度。
• 经验教训：熟悉不等于理解。烤面包机之所以便宜，恰恰因为没有人需要理解它的全部。

案例研究 2：2008年之前的结构化信贷

• 背景：金融危机之前，银行把抵押贷款打包成证券，把其中较低的分级重新打包成担保债务凭证，有时还会再打包一次。这些工具销往世界各地，常常拿到最高信用评级。
• 发生过程：美国金融危机调查委员会 2011 年的报告记录了许多买方和卖方依赖评级和笼统的说法（“分散化的抵押贷款池是安全的”），而不是依赖一个能说明全国房价下跌时现金流会如何变化的工作模型。房价真的在全国下跌时，这些产品一起失败了。
• 运作中的偏差：各个层级的参与者都说自己理解这些工具。词汇是共享的，概述是连贯的，却几乎没有人从头到尾追踪过机制。理解的感觉由环境（评级、模型、同行）支撑，而不是由内在的知识支撑。
• 后果：数万亿美元的损失、银行倒闭和一场全球衰退。这种错觉不是唯一的原因；欺诈、激励和杠杆都起了作用。
• 经验教训：对于任何你无法逐个分级解释的产品，无论同事的评分如何，你给自己的理解评分都应当是低的。“大家都懂这个”描述的是一种共享的感觉，而不是共享的知识。

历史案例：《我，铅笔》（1958年）

1958 年，美国经济学家 Leonard Read 发表了一篇以铅笔口吻写成的短文。文章的论点是，地球上没有一个人知道怎么造出一支铅笔。雪松在一个地方砍伐，在另一个地方加工；石墨被开采出来，与黏土混合后烘烤；漆、金属箍、橡皮和胶水各自来自不同的行业，每个环节的人只了解自己那个环节。

Read 写这篇文章是为了讲市场的道理，但它已经成为解释深度错觉的标准例子。铅笔差不多是最简单的工业制品了。人人都觉得自己理解它。几乎没有人能一步步解释它是怎么来的。Sloman 和 Fernbach 在《知识的错觉》中用了这个例子：铅笔造得出来，是因为知识存在于群体之中。

6. 这种偏差的代价

6.1. 个人代价

• 凭着一个从未真正理解的机制开始修理或项目，结果失败
• 基于一个自信却错误的疗法作用模型做出健康决策
• 把钱投入从未追踪过内部机制的产品
• 失去学习的机会，因为理解的感觉在找到漏洞之前就让人停止了探究

6.2. 职业代价

• 技术决策凭着在场没人能展开的总结就被批准
• 专业能力悄悄退化，因为从未通过解释来运用它
• 估计不准，因为从未追踪过的步骤恰恰最耗时
• 客户或审计人员问出暴露漏洞的问题时，声誉受损

6.3. 社会代价

• 政策辩论停留在标签层面，而不是机制层面
• 金融危机被层层参与者放大，他们都以为别人理解这个产品
• 容易接受阴谋论，Vitriol 和 Marsh（2018）发现这与政治话题上错觉的大小相关
• 对专家的信任受到侵蚀，因为理解的感觉让专家的保留意见看起来像在回避

6.4. 统计影响

• 在 Rozenblit 和 Keil 最初的研究中，七点量表上的设备理解自评在每个阶段都下降，单次最大降幅出现在参与者刚尝试写出解释之后
• Körner、Schütz 和 Petersen 2024 年对其三项预注册研究（N = 607）所做的元分析显示，解释前后的总体降幅约为 r = .36，属于中到大效应
• 在 Lawson 2006 年的自行车研究中，很大一部分成年人，包括经常骑车的人，画出的图无法作为自行车运转
• Crawford 和 Ruscio 2021 年的预注册复现重现了 Fernbach 及其同事 2013 年研究中理解评分的下降，但没有重现态度极端程度的降低

7. 隐藏的益处

解释深度错觉不只是一个缺陷。它是一种大多数时候运转得出奇好的安排在主观上的一面。

• 让我们能使用自己不理解的东西：如果开车、做饭、投票或吃药之前都得先为每件事建立完整的因果模型，谁也做不成。一张粗略的草图加上信心，才让复杂的世界变得可用。

• 支持认知分工：Sloman 和 Fernbach 把这种错觉看作专业化的代价。每个人存一张草图和一个指向“谁知道得更多”的指针；整个群体知道机制。

• 让人开始行动：初学者如果感受到自己不知道的东西有多深，可能永远不会打开引擎盖。一点没有根据的信心，能把人带到可以有效发现漏洞的地方。

• 很容易戳破：和许多偏差不同，这种偏差有一个可靠又便宜的纠正办法。花几分钟试着解释，漏洞就显现出来了。

在风险低、或者指向真正专业知识的指针可靠时，这些益处成立。当系统很深、决策后果重大、而链条上没有人追踪过机制时，它们就失效了。

8. 自我评估：你有这种偏差吗？

8.1. 警告信号清单

• 你会给常见设备（拉链、马桶）的理解打高分，但从来没有真正解释过其中任何一样
• 当有人问“但它到底是怎么运作的？”，你通常最后只是在复述它是干什么用的
• 你至少对一项政策有强烈看法，却说不出它在机制上第一步之后是什么
• 读完一篇技术文章，你觉得自己懂了，但离开文章就重建不出其中的论证
• 你很少口头或书面解释事物；你的“知道”大多是无声的认出
• 你以为熟悉的术语（通货膨胀、加密、抗体）自带一个能用的模型
• 你曾惊讶地发现，自己对每天都在用的某样东西的理解有漏洞
• 你觉得专家的解释比必要的更慢、保留更多
• 你关掉搜索页面时觉得自己现在懂了这个话题，却没有记住其中的步骤
• 你从没试过凭记忆画出一个系统（一辆自行车、你团队的工作流程）

计分：

• 勾选 0–2 项：易感性较低
• 勾选 3–5 项：易感性中等
• 勾选 6–8 项：易感性较高
• 勾选 9–10 项：易感性极高

8.2. 自我反思问题

1. 选一件你每天都用的设备。不查任何资料，写四句话说明它如何运作。写到哪里时句子开始变得含糊？
2. 你坚定持有什么政治或经济立场？你能描述这项政策产生预期效果的那条机制链吗？
3. 你上一次向别人解释技术性的东西并发现漏洞，是什么时候？
4. 你的哪些职业判断依赖于一个你从未从头到尾追踪过的机制？
5. 回想一次你快速搜索后觉得自己懂了的经历。关于它如何运作，你现在还记得什么？

8.3. 快速诊断场景

**情境：**一位朋友正在考虑要不要做一项医疗手术，因为你“读过很多相关的东西”，就问你它到底是怎么起作用的。你读过好几篇文章，觉得自己很了解。

你会如何回应？

• A) 自信地概括这项手术的作用以及它为什么是个好主意 → 易感性较高
• B) 开始解释，注意到自己在描述效果而不是机制，最后还是用一句“差不多就是这样”收尾 → 易感性中等
• C) 一步步讲下来，直接说出自己的理解在哪里停止，并把朋友介绍给能补上空白的人 → 易感性较低

9. 识别他人身上的这种偏差

9.1. 行为指标

• 能流利地描述系统是做什么的，被问到如何做到时就卡住
• 会用正确的术语，却无法把术语展开
• 很乐意给出立场的理由，却不太愿意讲机制
• 凭总结批准方案，从不要求看下一层
• 从没听他们说过“那部分我其实不知道是怎么运作的”

9.2. 对话中的警示信号

受此偏差影响时常说的话：

• “基本上就是……”
• “这东西怎么运作谁都知道。”
• “我不用讲细节，重点是……”
• “它的原理就是，它做 X。”（把功能当成机制复述）

常提出的论证类型：

• 用一串标签代替一串原因（“刺激计划提振需求，需求创造就业”）
• 诉诸熟悉（“我天天都用这个”）

刻意回避的问题：

• “下一步会发生什么？”
• “我能把它画出来吗？”

9.3. 情境触发因素

• 天天看见却从未打开过的物品或系统
• 通过新闻和交谈变得熟悉的技术词汇
• 刚刚读过或搜索过这个话题的信息
• 被告知专家理解某件事；Sloman 和 Rabb（2016）发现，仅仅得知科学家理解某种现象，就会提高人们对自己理解该现象的评分
• 时间压力，它让人不愿做解释这种慢功夫

10. 认知去偏差策略

10.1. 即时技巧

• 解释测试：在声称理解某件事之前，从输入到输出，一步步写下或说出它如何运作。之后重新评价自己的理解。这就是最初的实验流程，作为自我检查同样有效
• 从“为什么”切换到“怎么样”：当你发现自己在为某个立场列举理由时，切换到机制：它做什么，然后发生什么，再然后呢
• 画出来：对任何实物系统或流程系统，凭记忆画一张草图。Lawson 的自行车研究表明这能多快暴露漏洞
• 说出停止点：说出你的理解在哪里结束：“我知道阀门会打开；我不知道是什么让它关上。”

10.2. 长期策略

• 经常解释：把讲授、书写或口头梳理机制变成习惯。这种错觉能存活，部分原因就是解释太少
• 记录评分日志：记录你在尝试解释前后的信心。几个月下来，典型的降幅会告诉你第一印象该打多少折扣
• 区分认出与产出：通过产出解释来测试自己，而不是反复重读直到它看起来眼熟
• 建立好的指针：你不可能理解一切。花心思弄清楚谁真正理解，并核实你的“专家”追踪过机制

10.3. 环境设计

• 机制幻灯片：在评审和审批中，要求有一页幻灯片或一段文字描述方案如何运作，而不只是它能达成什么
• “讲回来”规范：做决定之前，请提案人以外的人用自己的话解释机制。如果没人讲得出来，团队的理解就只是一种共享的感觉
• 白板文化：在做决定的地方放上可以画图的地方，并且用起来。图能暴露幻灯片掩盖的东西
• 奖励提问：让“那部分是怎么运作的？”成为一个正常、低成本的问题，让“我还不知道”成为一个正常的回答

10.4. 何时寻求外部意见

• 当决策依赖于一个你自己无法从头到尾追踪的机制时
• 当你的信心主要来自熟悉感、词汇或最近的一次搜索时
• 当你周围每个人都同样自信、也同样未经检验时
• 当一个系统是分层的（金融产品、供应链、生物通路），而你只看得见自己那一层时

向谁请教：找一个追踪过机制的人，而不是一个和你一样自信的人。专家的解释在追问之下应该越来越详细，而不是越来越抽象。

11. 实践练习

练习 1：Rozenblit-Keil 自测

• 目标：直接体验这种错觉，校准你的理解感
• 时间要求：20 分钟
• 所需材料：纸和笔；一份包含六种日常设备的清单（拉链、抽水马桶、弹子锁、冰箱、圆珠笔、车速表）
• 难度级别：初级
• 练习步骤：
  1. 从 1（完全不懂）到 7（完全理解）为你对每种设备的理解打分
  2. 选出你打分最高的两种，分别写出它们如何运作的完整分步解释
  3. 给这两种重新打分
  4. 分别读一段简短的专家解释，第三次打分，然后比较
• 反思问题：
  • 尝试解释之后，降幅有多大？
  • 哪一步最先变得含糊？
• 练习频率：先做一次；以后每当你对自己的技术理解感到很有信心时，换新的项目重做

练习 2：讲机制，不讲理由

• 目标：把“理解一个立场”的感觉和对背后政策的实际模型区分开
• 时间要求：30 分钟
• 所需材料：一个笔记本；三项你有强烈看法的政策或决定
• 难度级别：中级
• 练习步骤：
  1. 为每一项打分（1 到 7）：你多理解它会如何运作，以及你的立场有多坚定
  2. 对第一项，写下你持这个立场的理由
  3. 现在写机制：政策首先做什么，那会导致什么，接着又导致什么。描述不出下一步时就停下
  4. 重新为理解和立场打分，然后对另外两项重复
• 反思问题：
  • 写理由和写机制感觉不一样吗？哪一个暴露了漏洞？
  • 如果理解大幅下降而你的立场没变，那它靠的是什么？
• 练习频率：每月一次，或在任何重要的辩论、投票或决定之前

练习 3：画出你的系统

• 目标：找出你每天依赖的系统里隐藏的深度
• 时间要求：45 分钟
• 所需材料：一张大纸、几支笔，以及事后能找到一位了解该系统的人
• 难度级别：中级
• 练习步骤：
  1. 选一个系统：你团队从需求到交付的工作流程、你家的供暖，或者顾客的订单如何变成一次发货
  2. 凭记忆画出来，给每个组件和每个箭头都加上标注
  3. 用另一种颜色标出你在猜测的每一处
  4. 把图拿给了解该系统的人看，请他们纠正
  5. 数一数纠正了多少：缺了的部件、连错的地方，或你合并成一步的几个步骤
• 反思问题：
  • 漏洞出在你最常用的部分还是最少用的部分？
  • 最近有哪个决定依赖于你画错的某个部分？
• 练习频率：每季度一次，每次换一个系统

日常练习

每天解释一件事

每天一次，挑一件你遇到过并觉得自己理解的东西（一条新闻、工作中的一个工具、一件日常物品），用两三句话向自己解释它如何运作。

• 建议时长：3 分钟
• 最佳时间：晚上回顾一天时
• 进度追踪：把卡住的解释列成一个持续更新的清单，补上漏洞后逐条勾掉

每周挑战

讲给别人听

每周挑一个你在工作中依赖的机制，讲给一个没有你这种背景的人听，并请他们不断问“然后呢？”，直到你讲到一个描述不出来的步骤。

• 4 周后的预期成果：更清楚地知道你的专业知识哪里是真的、哪里只是词汇；你的信心评分有一个更低、更准确的基准
• 反思记录提示：
  • 我是在哪一个“然后呢？”卡住的？
  • 这个漏洞是我曾经知道又忘了的，还是从来没有过的？

12. 针对特定受众

给领导者和管理者

• 审批纪律：你讲不回来的东西就不要批。请提案人带你过一遍机制，再请一个不是提案人的人也做一遍
• 警惕共享词汇：一个使用同样自信术语的团队，可能仍然没有共享的模型。让大家各自独立画出流程，再做比较
• 保护“怎么运作”这个问题：基层员工往往最先看到漏洞，却什么也不说。让询问某样东西如何运作成为每次评审的固定环节
• 明确委托理解：确定每个关键系统的机制由谁负责，并核实他们能解释它，而不只是描述它

给父母和教育者

• 适合年龄的解释：“有时候我们觉得自己知道一样东西怎么运作，只是因为见得多了。想知道是不是真懂，就试着解释它。如果卡住了，那很好，因为现在你知道接下来该学什么了。”
• 问“然后呢？”：孩子解释某件事时，不要纠正，而是问下一步。孩子会自己发现漏洞，问题也就成了他自己的
• 先画再读：上课前让学生画出他们认为某个系统如何运作，课后再和真实情况比较
• 自己做示范：在孩子面前说“我以为我懂这个，刚刚发现我其实不懂”。这会让他们知道漏洞是正常的，也是能找到的

给医疗保健专业人员

• 检查患者的理解：患者常常把自己对病情的理解评得很高。请他们用自己的话讲回来；Zeveney 和 Marsh 关于心理障碍的研究显示了这个落差可以有多大
• 你自己的机制：临床模型不用就会退化。定期向学生解释一种常见治疗的机制，留意自己在哪里用一个标签代替了一个步骤
• 健康信息：给人们一个能复述的机制（疫苗如何训练免疫系统）的信息，比依赖权威的信息更能与简单的错误说法竞争

给金融专业人员

• 分级测试：对任何你销售或持有的产品，要能逐层描述它的现金流和失败方式。如果做不到，无论评级或同行有多自信，你给自己的理解评分都应该是低的
• 让客户解释：在客户购买前请他们解释产品的机制，把对推销话术的自信复述当作警示信号
• 故事与机制：商业故事（“增长带动利润率”）感觉像是理解。在依赖它之前，把每一个都翻译成一串具体的步骤

13. 与其他偏差的交互

放大此偏差的偏差

对抗此偏差的偏差

常见偏差链

单纯曝光效应 → 解释深度错觉 → 过度自信效应 → 承诺升级

每天接触一个系统让它变得熟悉（单纯曝光效应）。熟悉被解读为理解（解释深度错觉）。感觉上的理解支撑起自信的决定（过度自信效应）。当决定撞上那些从未被建模的深度时，决策者会加倍投入，而不是回头修正模型（承诺升级）。

切断该偏差链：最便宜的切断点在第二个环节。在做决定之前花五分钟试着解释这个系统，就能把感觉上的理解变成经过测量的理解。一旦在公开场合做出了自信的决定，后面的环节就难撤回得多。

14. 文化视角

关于解释深度错觉的跨文化研究很少，任何声称有清晰文化模式的人都跑在了证据前面。最初的研究用的是美国本科生。Körner、Schütz 和 Petersen 2024 年的复现用的是德语样本。Carlos Gaviria 和 Javier Corredor（2021）在哥伦比亚发现了历史知识上的这一效应，并指出社会赞许性影响了人们承认漏洞的意愿。把熟悉误当作内在知识这一机制，没有什么明显的理由会受国界限制。

文化可能起作用的地方在于周边的行为：人们一开始给自己打高分有多随意、说“我不知道”有多自在、对专家的顺从有多根深蒂固。看重自信表达的文化可能表现出更高的初始评分，因而降幅更大；以谦退为常态的文化可能降幅更小。对这一偏差而言，这些都不是已确立的发现。

15. 误区与误解

16. 专家观点

“人们觉得自己对复杂现象的理解，在精确、连贯和深度上都远远超过实际。” — Leonid Rozenblit 和 Frank Keil，《民间科学被误解的局限》（2002）

“政治极端主义由理解的错觉所支撑。” — Philip Fernbach、Todd Rogers、Craig Fox 和 Steven Sloman，2013 年发表于 Psychological Science 的论文标题

意译 Steven Sloman 和 Philip Fernbach《知识的错觉》（2017）：我们每个人知道的都远比自以为的少，而我们能蒙混过去，是因为知识存在于群体之中。这种错觉就是我们在利用这个共享储备、却没注意到自己脑袋的边界在哪里时的感觉。

意译 Rebecca Lawson 关于自行车研究的论述（2006）：一件每天都能看到、许多参与者也在使用的物品，仍有很大一部分人画不出能用的样子，这提示频繁接触留给人们的，是一个关于东西如何运作的出奇稀疏的模型。

17. 关键要点

1. 解释就是检验：这种错觉是你感觉自己对一个机制理解得多好，与你一步步解释时能讲到多远之间的落差。检验同时也是治疗。

2. 它专属于机制：Rozenblit 和 Keil 表明，评分下降出现在设备和因果系统上，在事实、操作程序或故事上很少。人们把对东西做什么的熟悉误当成对它如何做到的了解。

3. 核心效应是扎实的：它在二十多年里一再复现，包括 Körner、Schütz 和 Petersen 2024 年有 607 名参与者的三项预注册研究。

4. 政治方面的扩展尚无定论：解释一项政策会可靠地降低人们对自己理解它的信心。至于这是否会让态度变温和，Fernbach 及其同事在 2013 年这样报告过，但在 Crawford 和 Ruscio 2021 年的预注册复现中没有重现。

5. 理由不是解释：列出你为什么持某个立场，会调动论据，立场原封不动。描述这件事会如何运作，才会暴露漏洞。

6. 环境在助长它：熟悉感、共享的词汇、听说专家理解，以及最近的网络搜索，都会提高理解的感觉，却不会提高理解。

7. 它是群体的特性，代价却由个人承担：我们从不独自思考，这种错觉是依赖共享知识的代价。解决办法是知道自己的模型在哪里停止，并建立可靠的指针，指向那些追踪过其余部分的人。

18. 延伸资源

学术论文

• Rozenblit, L., & Keil, F. (2002). The misunderstood limits of folk science: An illusion of explanatory depth. Cognitive Science, 26(5), 521-562.
• Fernbach, P. M., Rogers, T., Fox, C. R., & Sloman, S. A. (2013). Political extremism is supported by an illusion of understanding. Psychological Science, 24(6), 939-946.
• Crawford, J. T., & Ruscio, J. (2021). Asking people to explain complex policies does not increase political moderation: Three preregistered failures to closely replicate Fernbach, Rogers, Fox, and Sloman's (2013) findings. Psychological Science, 32(4), 611-621.
• Körner, R., Schütz, A., & Petersen, L.-E. (2024). "It doesn't matter if you are in charge of the trees, you always miss the trees for the forest": Power and the illusion of explanatory depth. PLOS ONE, 19(4), e0297850.
• Lawson, R. (2006). The science of cycology: Failures to understand how everyday objects work. Memory & Cognition, 34(8), 1667-1675.
• Fisher, M., Goddu, M. K., & Keil, F. C. (2015). Searching for explanations: How the Internet inflates estimates of internal knowledge. Journal of Experimental Psychology: General, 144(3), 674-687.
• Vitriol, J. A., & Marsh, J. K. (2018). The illusion of explanatory depth and endorsement of conspiracy beliefs. European Journal of Social Psychology, 48(7), 955-969.

书籍

• Sloman, S., & Fernbach, P. (2017). The Knowledge Illusion: Why We Never Think Alone. Riverhead Books.
• Thwaites, T. (2011). The Toaster Project: Or a Heroic Attempt to Build a Simple Electric Appliance from Scratch. Princeton Architectural Press.

书籍章节

• Keil, F. C., Rozenblit, L., & Mills, C. M. (2004). What lies beneath? Understanding the limits of understanding. In D. T. Levin (Ed.), Thinking and Seeing: Visual Metacognition in Adults and Children (pp. 227-249). MIT Press.
• Keil, F. C., & Wilson, R. A. (2000). Explaining explanation. In F. C. Keil & R. A. Wilson (Eds.), Explanation and Cognition (pp. 1-18). MIT Press.

19. 概要卡片

20. 术语表

21. 讨论问题

适用于读书会、课堂讨论或个人反思：

1. 挑房间里的一件日常物品。每个人先给自己对它的理解打分，然后由一个人试着解释它。大家能讲到哪一步，谁的评分变化最大？

2. Fernbach 及其同事发现，要求给出理由和要求给出解释会产生不同的效果。为什么列出一个立场的理由会让它原封不动，而解释机制却会动摇它？

3. Sloman 和 Fernbach 认为，这种错觉是知识共同体的自然代价。如果这是对的，目标是减少这种错觉，还是改进我们指向真正懂行之人的指针？

4. 政治温和化的发现没有复现，但理解评分的下降复现了。要让你在解释是否会改变态度这个问题上被说服，无论是哪个方向，你需要看到什么？

5. 搜索引擎和人工智能助手让解释随时可得。Fisher、Goddu 和 Keil 发现，搜索会抬高我们对自己所知的感觉。学生、专业人士和选民应该如何使用这些工具，又不忘记自己的理解在哪里停止？

最后更新：19 十月 2026