信念偏误

概览

1. 内容速览

信念偏误（Belief Bias）是指，别人问你“这个结论能推出来吗？”，你的头脑却悄悄回答了另一个问题：“这个结论是真的吗？”结论符合已有想法时，即使逻辑有漏洞，论证也让人觉得可靠；结论与已有想法冲突时，即使推理无懈可击，论证也让人觉得可疑。心理学家在20世纪20年代首次用三段论测量这一现象；在1983年的经典研究中，人们对结论可信的无效论证的接受率约为71%，对结论不可信的有效论证的接受率却只有约56%。时间压力会加重这种偏误，细致的指导语能减轻它，但它永远不会完全消失。它之所以重要，是因为几乎所有公共论证的评判者，都已经对结论应该是什么有了自己的看法。

用大白话说

信念偏误就是，你只看一番话最后说得像不像真的，没检查前面几步能不能推出这个结果。你本来就赞同结果，便觉得这番话有道理。你要是不赞同，就会觉得不对劲，哪怕每一步都没问题。

比如，朋友告诉你：“我们学校最好的球员都在足球队。Sam踢球很棒。所以Sam肯定在足球队。”听着没问题，Sam也很可能真在队里。但你仔细想想。第一句只说最好的球员都在队里，没说踢得很棒的人就一定在。Sam可能踢得很棒，却在校外俱乐部踢球。这几句话推不通，只是结果符合你的预想，你就没注意。

教你一个诀窍：把词换得离谱些，再看能不能推通。“跳舞最好的人都是紫色的。Sam跳舞很棒。所以Sam肯定是紫色的。”这回，哪一步有问题就很明显了。如果一番话只有在结果听起来像真的时候才说得通，那它其实从来就没说通。

2. 背后的科学

2.1. 发现与研究历史

一个世纪以来，识别信念偏误的方法几乎没变。研究者给人们一道三段论，包含两个前提和一个结论，问他们如果前提为真，结论是否必然为真。接着，独立改变两个因素：论证是否有效，以及结论是否符合受测者已有的信念。如果人们只评判逻辑，结论的可信度就不会影响判断。事实上，它的影响很大。

Minna Cheves Wilkins在1928年首次清楚地报告了这一现象。同样的逻辑形式，换上不同内容，人们解答的准确程度就会不同。Janis和Frick（1943）发现，人们对结论的态度能够预测他们在有效性判断中出现的错误。

现代研究的标杆是Jonathan Evans、Julie Barston和Paul Pollard于1983年发表于Memory & Cognition的论文。他们采用二乘二设计，将有效、无效三段论分别与可信、不可信的结论搭配，发现信念效应较大，逻辑效应较小，两者还存在交互作用。结论可信度对无效论证的影响远大于对有效论证的影响。这一交互作用引发了长达三十年的机制之争。Evans团队提出“选择性审查”解释，即人们只有在结论不可信时才检查逻辑；还提出“误解必然性”解释，即有些人不理解有效结论必然能由前提推出，在逻辑关系看似无法确定时便退回到依赖信念。Klauer、Musch和Naumer（2000）在Psychological Review中表明，信念既会影响推理阶段的加工，也会在人们不确定时引入单纯的反应偏差。

随后，Dube、Rotello和Heit（2010）在同一期刊运用信号检测论，认为这一著名交互作用很大程度上是用列联表分析接受率所造成的假象。按他们的解释，可信度主要改变了人们回答“有效”的门槛，并未影响区分有效与无效论证的能力。Trippas、Handley和Verde（2013）发现，这取决于谁在推理。对于能力较强的参与者，遇到较难的问题时，信念也会损害辨别能力本身。因此，这一效应真实且幅度很大，但相当一部分体现为“人们对自己喜欢的结论降低标准”，而非“信念让逻辑停止运转”。

Evans于2003年在Trends in Cognitive Sciences发表的综述，使信念偏误成为双过程理论的教科书式案例。快速、由信念驱动的过程，与缓慢、需要付出努力的过程相抗衡。限时十秒会加重偏误（Evans和Curtis-Holmes，2005）；增加工作记忆负荷，只在逻辑与信念冲突时损害表现（De Neys，2006）；抵抗偏误的能力与认知能力及积极开放的思维倾向相关（Stanovich和West，1997）。

关键里程碑：

• 1928：Wilkins表明，三段论的内容会改变人们推理的表现
• 1943：Janis和Frick将对结论的态度与有效性判断错误联系起来
• 1983：Evans、Barston和Pollard发表二乘二设计及逻辑与信念的交互作用
• 1989：Markovits和Nantel表明，人们自行得出结论时也会出现这种偏误
• 1997：Stanovich和West将个体差异与能力及思维倾向联系起来
• 2000：Klauer、Musch和Naumer将推理效应与反应偏差分离
• 2003：Evans发表双过程综述；Goel和Dolan通过成像研究相关脑区
• 2005和2006：研究表明，时间压力与工作记忆负荷会加重偏误
• 2010：Dube、Rotello和Heit将经典效应重新解释为主要源于反应偏差
• 2013：Trippas及同事表明，能力和问题难度决定了效应中有多少源于推理过程

2.2. 主要研究者

2.3. 里程碑研究

论三段论推理中逻辑与信念的冲突（Evans、Barston与Pollard，1983）

参与者判断结论是否必然能从前提推出。一个有效但不可信的题目是“所有有营养的东西都不便宜。有些维生素片很便宜。因此，有些维生素片没有营养。”另一个无效但可信的题目则是“所有使人上瘾的东西都不便宜。有些香烟很便宜。因此，有些使人上瘾的东西不是香烟。”

在第一个实验中，有效且可信的论证接受率约为89%，有效但不可信的约为56%，无效但可信的约为71%，无效且不可信的约为10%。结论可信的无效论证，比结论不可信的有效论证更常被接受；信念在正面交锋中压过了逻辑。可信度使无效论证的接受率变化约60个百分点，却只使有效论证的接受率变化约33个百分点。

逻辑结论的产生与评估中的信念偏误效应（Markovits与Nantel，1989）

Markovits和Nantel让参与者评判给定的结论，或根据前提自行得出结论。两种任务中都出现了信念偏误，即使那些在抽象、不涉及具体内容的问题上推理良好的参与者也不例外。

用ROC曲线评估信念偏误效应：这是一种反应偏差效应（Dube、Rotello与Heit，2010）

参与者评定自己对结论能够推出的确信程度，这使研究者可以绘制受试者工作特征曲线，而不只看单一接受率。ROC呈曲线形状，意味着自1983年以来使用的列联表分析可能制造出虚假的逻辑与信念交互作用。校正之后，可信度改变的是反应标准，即愿不愿意回答“有效”，没有改变敏感性，即区分有效与无效论证的能力。

时间压力与工作记忆（Evans与Curtis-Holmes，2005；De Neys，2006）

Evans和Curtis-Holmes给一半参与者设定十秒时限，信念偏误随之上升，逻辑效应下降。De Neys要求参与者在推理的同时记住一个点阵图案；这种负荷只在信念与逻辑冲突的三段论上降低了准确率。需要付出努力的加工一旦缺少时间或记忆资源，就会暴露出更多信念偏误，正如双过程理论所预测的那样。

2.4. 神经机制

关于信念偏误的脑成像研究不多，但在一点上结论一致：推翻一个可信的结论，与顺着它作答，调用的脑区不同。

Goel和Dolan（2003）在Cognition中报告，他们扫描了参与者的大脑，让其对结论符合或不符合信念的三段论进行推理。当信念与逻辑冲突、参与者推理正确时，右侧外侧前额叶皮层的活动增强；这一脑区与认知控制相关。当参与者给出基于信念的答案时，与情感及直觉评估相关的腹内侧前额叶皮层参与更多。De Neys、Vartanian和Goel（2008）在Psychological Science中发现，前扣带皮层会响应不同反应之间的冲突，在有冲突的试次中，即使参与者给出有偏差的答案，该区域也会活跃。即使人没有据此行动，大脑仍察觉到了不对劲；问题更常出在抑制反应，而非检测冲突。

这些研究数量不多、样本也不大，描述的是通用的控制网络，并非某种“信念偏误回路”。它们支持行为研究的解释：基于信念作答不费什么力气，而用逻辑推翻直觉则需要付出努力。

3. 进化起源

要求大脑从自己不相信的前提出发推理，是件奇怪的事。在人类历史的几乎所有时期，面对任何说法，实用的问题都是“这是真的吗？”，而最快的回答方式，就是将它与自己已有的知识核对。猎人听到“河水涨了，所以过河不安全”，并不需要评估这段推理，而需要知道河水是否真的涨了。

总体而言，既有信念往往也有充分来由。如果某个结论与你相信多年的事相矛盾，基础概率意味着，论证出错的可能性比你的信念出错更大。迅速否定出人意料的结论可以省力，而且通常是对的。但当可靠的论证导向意料之外的结论时，“通常是对的”也于事无补。

Hugo Mercier和Dan Sperber认为，推理的进化在很大程度上是为了在交谈中提出和评估论证。一种为了说服而非证明而形成的能力，大致就会呈现出这样的特点：宽待支持己方的论证，严审反对己方的论证。

4. 这种偏误如何表现

4.1. 在日常生活中

• 因为赞同朋友的结论，便连连点头，没有注意到论证中跳过了一步
• 因为结论（“整个部件都得换”）不合心意，便拒绝接受修理师或医生合乎道理的解释
• 因为帖子的落脚点符合自己的政治立场，便转发它，哪怕其逻辑很糟
• 原本觉得一段统计论证很有说服力，直到它得出一个意料之外的数字，便突然开始寻找漏洞

4.2. 在工作中

• 因为预测结果像是领导想要的，便批准方案，没有检查假设能否支撑预测
• 只有当同事的分析提出自己反对的建议时，才逐一挑剔
• 代码审查和审计对出人意料的结果严格把关，对符合预期的结果却草草过目

4.3. 在商业与营销中

• 广告给出顾客本就想听的结论（“天然就意味着安全”），让顾客自行补上缺失的逻辑
• 销售演示材料将真实前提与推不出的结论放在一起，指望听众希望结论成立
• 用户证言之所以奏效，是因为听者希望产品有效，于是未加检查就从“它帮到了她”跳到“它也会帮到我”

4.4. 在政治与媒体中

政治论争是信念偏误常见的场合。几乎每位听众都带着结论而来，人们经常把“发言者的推理是否可靠”换成“发言者是否得出了听众想要的结论”。同一篇评论，在赞同者眼中“论证严密”，在反对者眼中却“漏洞百出”，而两边都没有认真检查那些漏洞。

具体表现包括：

• 标题断言受众本就相信的结论，于是其下单薄的报道根本没人细读
• 立场鲜明的人根据辩论者的结论来打分，而非根据论证质量
• 尚未检查方法，就用“这不可能对”否定不合意的统计数据
• 推理有效、结论却不合意的纠错，仅因结论本身就遭到拒绝

4.5. 在医疗保健中

临床医生每天都要根据检查和观察结果推断诊断。符合预期的诊断，所需的证据往往比不符合预期的更弱。一位焦虑的年轻患者胸痛，被解释为惊恐发作；从“焦虑而且年轻”推到“不是心脏问题”并非有效推理，却让人觉得可信。反过来也一样：一个可靠论证指出熟悉的疗法无效，会因结论不合意而遭到抵制。“从生理学上说得通，所以肯定有帮助”常常在没有试验的情况下就被接受，循证医学的存在部分正是为了解决这种反复发生的情况。患者也会如此，支持自己偏爱疗法的论证听着有说服力，反对它的论证听着却像医生漏掉了什么。

4.6. 在金融与投资中

• 因为目标价符合自己的持仓立场，便接受看多论证，对看空论证却逐行审查
• 因为自己持有某只股票，便把断裂的因果链（“利率会降，所以这只股票会涨”）当作可靠推理
• 因为结论（这家公司的价值只有市价的一半）看似荒谬，便怀疑正确的估值论证

5. 真实案例研究

案例1：围绕蒙提霍尔问题的来信

• 背景： 1990年9月，Marilyn vos Savant在《Parade》杂志的专栏中回答了一位读者的问题。参赛者从三扇门中选择一扇；一扇后面是汽车，两扇后面是山羊。主持人知道每扇门后有什么，打开另一扇门露出山羊，并询问参赛者是否换门。Vos Savant建议换门，获胜概率是三分之二。
• 事情经过： 她的答案正确，解释也合乎道理，但大多数读者觉得结论荒谬。她收到大约一万封来信，近一千封来自有博士学位的读者，都说她错了。据说数学家Paul Erdős直到看到计算机模拟，才肯接受这一论证。
• 偏误如何起作用： 论证有效，结论却不可信。面对“显而易见”的答案（只剩两扇门，所以机会各半），读者本会接受粗糙的论证，却拒绝了支持反直觉答案的严谨论证。他们先不认同，再假定其中一定有漏洞。
• 后果： 这件事成为既有确信压过推理的典型例子，即使受过形式推理训练的人也不例外。
• 经验教训： “这不可能对”的感觉无法告诉你论证本身如何。当结论让你觉得荒谬时，找出具体哪一步不成立。如果找不到，结论就仍然成立。

案例2：早餐与肥胖

• 背景： “不吃早餐会导致体重增加”的看法广为流传，数十项观察性研究报告，不吃早餐的人往往体重更大。
• 事情经过： 2013年，Andrew Brown、Michelle Bohan Brown和David Allison在American Journal of Clinical Nutrition发表分析，考察科学文献如何处理这一问题。研究者反复用因果措辞描述观察到的相关性，援引早期研究时声称它们显示了实际并未显示的效应，并忽视了少数几项不支持这一看法的随机试验。
• 偏误如何起作用： 从“不吃早餐的人体重更大”推到“不吃早餐导致体重增加”，显然不是有效推理；吃与不吃早餐的人在许多方面都不同。但结论可信，于是这些本职工作就是评估证据的人，接受并重复了无效推断。
• 后果： 面向公众的饮食建议带上了试验并不支持的因果主张。
• 经验教训： 研究方法训练无法消除信念偏误；它改变的，是人们让可信结论轻易过关时所用的词汇。

历史案例：亚里士多德、伽利略与下落的石头

在大约两千年间，受过教育的欧洲人都接受亚里士多德的说法，认为重物下落比轻物快，速度与重量成正比。这符合经验，石头确实比羽毛先落地。支持它的论证很薄弱，早在六世纪，约翰·菲洛波努斯就已指出，让两个重物下落，观察到的差异远不符合比例关系。但结论可信，论证便没有受到仔细检查。

伽利略用逻辑反驳了它。在《关于两门新科学的对话》（1638）中，他借书中人物萨尔维亚蒂之口，提出把一块重石头和一块轻石头绑在一起。如果重物下落更快，轻石头就应拖慢重石头，使两者合起来比重石头单独下落更慢。但两者合起来比单独的重石头更重，按同一规则又该下落得更快。前提产生了矛盾，因此前提一定有错。

这就是历史场景中的“有效但不可信”组合。伽利略的论证可靠，结论却令人难以接受，许多同时代人仅因结论本身就拒绝了论证。

6. 这种偏误的代价

6.1. 个人代价

• 因推销说辞而损失金钱，而这些说辞唯一的可取之处只是结论合你心意
• 依据未经检查的论证作出健康决定，只因论证得出了你盼望的结果
• 学习缓慢，因为足以改变你想法的论证，在看到结论时就被拒绝了

6.2. 职业代价

• 有缺陷的方案因预测符合预期而获批
• 严格审查只针对意外结果，让符合预期的错误蒙混过关
• 诊断、审计和调查凭不足的依据确认了原本怀疑的答案
• 团队不再提交可靠但不合意的分析，因为他们已经知道这类分析会被否决

6.3. 社会代价

• 公共讨论根据结论评判论证，推理质量变得无关紧要
• 错误信息无论逻辑如何，都因结论在目标受众看来可信而传播
• 科学研究夸大合意的发现，对不合意的发现却过度审查

6.4. 统计数据

• 在Evans、Barston和Pollard（1983）的研究中，结论可信的无效论证接受率约为71%，结论不可信的有效论证接受率约为56%
• Evans和Curtis-Holmes（2005）发现，十秒时限加重了信念偏误，削弱了逻辑的影响
• De Neys（2006）发现，同时施加工作记忆负荷会降低有冲突三段论的作答准确率，却不会降低无冲突题目的准确率
• Kahneman报告，大多数大学生认为“所有玫瑰都是花；有些花凋谢得很快；因此有些玫瑰凋谢得很快”是有效推理，实际上却并非如此

7. 潜在益处

根据新论证的结论与已有知识的契合程度来衡量论证，通常是个明智的做法；信念偏误是这种做法的代价。

• 既有信念也是证据： 一个结论若与有充分依据的信念矛盾，确实更可能来自有缺陷而非正确的论证。把惊讶当作需要仔细检查的信号是理性的，错在直接把它当成判决。

• 抵挡巧妙的胡说： 读者看到一段精巧论证声称1等于2，即使没有找出其中暗藏的除以零错误，拒绝接受仍然是对的。

• 保持知识稳定： 如果每个形式完好的论证都能推翻信念，每遇到一位善于说服的人，你就会改变想法。

这些益处成立的条件，是你的既有信念准确、事情后果较轻。如果信念本身正受到质疑、论证来自掌握更好信息的人，或者否定有效结论的代价很高，这些益处便不再成立。

8. 自我评估：你有这种偏误吗？

8.1. 预警信号清单

• 对于自己立场强烈的事情，你很少能想起有什么论证改变过自己的看法
• 别人得出你赞同的结论时，你很少检查他们是怎样推出来的
• 别人得出你不赞同的结论时，你首先想到的是“哪里耍了花招？”
• 你把不喜欢的论证说成“明显有漏洞”，却说不出漏洞在哪儿
• 你觉得统计数据有说服力，直到它指向意料之外的结果
• 你曾因赞同结论而分享文章，后来才发现其中推理很差
• 你根据自己在辩论开始前赞同哪一方，来评判这场辩论
• 你主要在同事赞同自己时，才认为他们“善于思考”
• 主张合你心意时，你会用“这还用说”代替实际理由
• 对支持已有信念的论证检查逻辑，让你觉得是在浪费时间

计分：

• 勾选0-2项：受影响程度低
• 勾选3-5项：受影响程度中等
• 勾选6-8项：受影响程度高
• 勾选9-10项：受影响程度很高

8.2. 自我反思问题

1. 想想最近一次你迅速否定的论证。你能用一句话说清楚具体哪一步不成立吗？
2. 对于你坚信的哪些看法，你从未见过支持它们的有力论证？如果有人用差劲的论证支持它们，你认得出来吗？
3. 你上一次因为推理可靠，而接受一个自己不信任的人所给出的结论，是什么时候？
4. 选一个你相信的看法，想象朋友用完全相同的证据支持相反结论。你会提出什么异议？这些异议也适用于你这一方吗？
5. 工作中，哪些结果会检查两遍，哪些会轻易过关？区别在于证据，还是在于答案？

8.3. 快速判断情境

情境： 一位你认为做事草率的同事提交了一份分析，结论是你们团队的重点项目应当取消。演示材料清楚，数字也来自你信任的来源。你原本以为项目没问题。

你会怎么回应？

• A) 认定某处有错，指出此人经常出错，并请别人重做分析 → 受影响程度高
• B) 强烈觉得结论有误，但同意等项目团队回应后再看一遍 → 受影响程度中等
• C) 逐步检查论证，如果没有哪一步不成立，就暂时接受结论，并据此作出安排 → 受影响程度低

9. 如何识别他人的这种偏误

9.1. 行为表现

• 回应论证时直接评判结论，而不讨论推理步骤
• 根据结果指向哪一方，采用明显不同的证据标准
• 找不出自己否定的论证中有何漏洞，却依然确信其中必有漏洞
• 只在证据不合心意时才要求更多证据

9.2. 交谈中的警示信号

受这种偏误影响时，人们会说：

• “不用看论证，我就知道那是错的。”
• “这不可能对。”
• “我敢肯定，里面总有哪儿有漏洞。”

他们常用的论证方式：

• 把对结论的攻击说成对推理的攻击
• 要求对方举证，却从不要求支持己方的说法提供同样的证明

他们回避的问题：

• “我到底不赞同哪一步？”
• “如果这个论证得出相反结论，我会接受吗？”

9.3. 容易触发偏误的情境

• 听者已经持有坚定立场的话题
• 时间紧迫、疲劳或注意力分散
• 与身份、群体归属或自我形象相关的结论
• 听者无法理解的技术性论证，迫使其转而根据结论作判断

10. 减轻认知偏误的策略

10.1. 即时方法

• 分清两个问题： 评判论证前，说清自己回答的是“结论是真的吗？”还是“结论能推出来吗？”，两者答案不同的情况，比你想的更常见。
• 指出出错步骤： 否定论证时，指出哪个前提或哪一步推理不成立。如果说不出来，你否定的只是结论，没有否定论证本身。
• 替换内容： 用中性字母或没有意义的词替换论证中的词项，再看结构是否仍然成立。这样可以移除原本主导判断的信念。
• 反转结论： 问问自己，如果同样的证据指向相反方向，你还会接受吗？如果不会，说明你的标准正由结论决定。

10.2. 长期策略

• 学一点形式逻辑： 了解“前提为真的有效论证不可能得出假结论”，就能让你在直觉之外，多一个可检查的依据。Evans及同事（1994）发现，强调逻辑必然性的指导语能减轻信念偏误，但不能消除它。
• 练习有冲突的题目： 练习逻辑与信念不一致的论证，让冲突感成为进一步思考的提示，而非立即否定的理由。
• 记录改变想法的过程： 记下哪些论证改变过你的想法，以及具体哪一步起了作用。如果整整一年记录都空着，就是偏误占了上风。

10.3. 环境设计

• 先遮住结论： 评审和审计时，先评估方法，再揭示结果，如同科学研究中的注册报告。
• 使用对称的检查清单： 无论结果是否合意，都使用同一份书面清单。清单不知道你原本盼望什么。
• 指定人员作钢人论证： 否定不合意的分析之前，请人呈现它最有力的版本；接受合意的分析之前，请人指出其中最薄弱的一步。
• 奖励找出己方论证漏洞的人： 如果只有找出对方论证漏洞才会受到表扬，审查就只会朝一个方向进行。

10.4. 何时寻求外部意见

• 论证得出的结论让你强烈赞同或反对时
• 你认定某事“明显不对”，却说不出原因时
• 在场所有人都已经赞同结论时

可以请教与自己结论不同、又具备相关专业能力的人。把论证交给对方，先不透露你的看法，只问一个问题：“有没有哪一步不成立？如果有，是哪一步？”

11. 实践练习

练习1：替换内容

• 目标： 将论证结构与结论的可信程度分开
• 所需时间： 15分钟
• 所需材料： 最近读到的五个论证、纸和笔
• 难度： 入门
• 步骤：
  1. 尽量用清楚直白的语言，把每个论证写成前提加结论的形式
  2. 记录自己对每个论证的第一反应，是接受、拒绝，还是不确定
  3. 把每个表达具体内容的词换成占位符（A、B、C）或无意义的词
  4. 只判断结构，看结论能否从前提推出
  5. 对照第一反应与结构判断，记下所有不一致之处
• 反思问题：
  • 哪些论证，你仅凭结论本身就接受了？
  • 不一致之处是否集中在你在意的话题上？
• 频率： 第一个月每周一次，此后每当某个论证引发强烈反应时就做一次

练习2：反转检验

• 目标： 识别不对称的证据标准
• 所需时间： 20分钟
• 所需材料： 一条支持你某个信念的证据或论证
• 难度： 中等
• 步骤：
  1. 写出论证，列出批评者可能提出的所有异议，包括样本量、混淆因素、缺失步骤、来源质量
  2. 想象完全相同的证据指向相反结论
  3. 如实、具体地写下那种情况下你会提出的异议
  4. 任何只出现在第二张清单上的异议，都代表你选择性采用的一项标准
  5. 合并两张清单，用来检查原论证，记录它是否经得住检验
• 反思问题：
  • 两张清单的差别有多大？
  • 原论证经得住合并后的清单检验吗？
• 频率： 每月一次，每次检查不同的信念

练习3：冲突三段论训练

• 目标： 在信念拉向另一边时，熟练判断论证的有效性
• 所需时间： 10分钟
• 所需材料： 一组三段论，覆盖全部四种组合（有效／无效、可信／不可信）
• 难度： 中等
• 步骤：
  1. 打乱题目顺序，让自己无法预知下一题的类型
  2. 对每一道题，判断前提为真时结论是否必然为真；不考虑它在现实世界中是否为真
  3. 标注自己对每个答案有多大把握
  4. 对照答案，将错误按类型分类
  5. 为每个错误写出反例，即前提成立而结论不成立的情形
• 反思问题：
  • 大多数错误出在“可信但无效”组合、“不可信但有效”组合，还是两者都有？
  • 你的把握程度跟着准确率走，还是跟着可信度走？
• 频率： 每周两次，持续六周

每日练习

问一句“哪一步？”

每天一次，发现自己很快就接受或否定某个论证时，停下来问：“我实际上在评判哪一步？”如果诚实的答案是“结论”，就回头检查前提。

• 建议时长：每次触发时用1-2分钟
• 合适时机：看新闻、刷社交媒体或开会时
• 进度记录：记下哪些天觉察到了自己的反应，以及仔细检查后发现了什么

每周挑战

为另一方作钢人论证

每周挑一个论证，它支持的结论是你反对的。用自己的话写出它最有力的版本，列出前提与结论。然后指出你不赞同的那一个具体步骤，以及原因。

• 4周后的预期效果：更快找到真正的分歧所在；减少一概否定的反应
• 反思日记提示：
  • 哪些论证实际上比我原先以为的更有力？
  • 哪些论证中，我说不出究竟哪一步有问题？
  • 我的某些信念改变了吗？

12. 给不同人群的建议

给领导者与管理者

• 预期答案的陷阱： 支持既定计划的分析，受到的审查比威胁计划的分析宽松。要求两者接受同样的审查。
• 奖励不合意的严谨分析： 有人发现了大家都喜欢的论证中的漏洞，应公开肯定其贡献。
• 会议设计： 请汇报者先陈述前提，再提出建议，并让在场者先评估前提。

给家长与教育工作者

• 适合孩子的解释： “有时候，一番话听起来有道理，只是因为我们本来就喜欢那个答案。善于思考的人，就算赞同最后的结果，也会检查前面每一步。”
• 教孩子替换内容： 示范如何把论证中的词换成荒诞的词，再看推理是否仍然成立。
• 以身作则： 孩子为你先前拒绝的事提出可靠论证时，承认这一点，并改变决定。他们会从中学到，逻辑能够胜出。

给医疗专业人员

• 诊断中的信念偏误： 符合预期的诊断，较少的证据就能让人接受。明确写出从临床发现到诊断的推断，并问一问，换成不符合预期的患者，这一推断是否仍成立。
• 治疗论证： “从生理学上说得通”只是一个前提，还算不上结论。坚持要求试验证据，尤其对你偏爱的疗法。
• 与患者沟通： 患者会根据自己是否喜欢结论来评判你的推理。带他们逐步理清过程，邀请他们指出怀疑哪一步。

给金融专业人员

• 对称的尽职审查： 对看多与看空论证采用同一份书面检查清单。
• 考虑持仓影响的审查： 持有某项资产，会让支持它的论证显得可靠。请没有该持仓的人检查逻辑。
• 反直觉的结论： 得出“荒谬”数字的估值论证，值得逐步检查，不宜直接否定。

13. 与其他偏差的相互作用

会加重这种偏误的偏差

会抵消这种偏误的偏差

常见偏差链

确认偏误 → 信念偏误 → 信念固着 → 逆火效应

一个人寻找支持某种观点的信息（确认偏误），因为结论契合而接受薄弱论证（信念偏误）；原有支持被推翻后，已经接受的论证又让人觉得是独立理由，于是继续坚持观点（信念固着）；面对纠正，反而更加坚定（逆火效应）。

打断链条： 成本最低的切入点是第二环。接受支持自己喜欢的结论的论证之前，先检查“它能推出来吗？”，就能阻止薄弱论证堆积成日后会抵抗纠正的貌似充分的理由。

14. 文化视角

信念偏误背后的三段论研究，绝大多数以英国、北美和西欧的大学生为对象。而从自己不相信的前提出发推理，这项任务本身就是学校教育培养的技能，并非人人具备。

最清楚的证据来自二十世纪中期的田野研究。20世纪30年代初，Alexander Luria在乌兹别克斯坦农村工作，给未上过学的农民提出这样的问题：“在有雪的极北地区，所有熊都是白色的。新地岛位于极北地区。那里的熊是什么颜色？”许多人拒绝按这些前提回答，他们从未去过北方，只见过黑熊，不愿仅凭陌生人的一句话，就断定某种动物的颜色。Sylvia Scribner在20世纪70年代的利比里亚克佩列人中发现了同样的“经验偏向”，上过几年学之后，这种偏向就减弱了。这并非智力不足，而是面对未经核实的说法时一种合理的态度。

正规教育训练的恰好是相反的态度：接受题目给定的前提，暂时搁置已有知识，检验推理。实验室测到的信念偏误，就是接受过理论式推理训练的人身上仍保留的经验取向。直接比较现代不同文化人群中效应大小的研究很少，关于哪些社会更容易出现这种偏误的说法，都还只是猜测。

15. 常见误解

16. 专家见解

“人的理解力一旦接受某种意见（无论因为它是公认的，还是因为它合乎自己的心意），就会拉来其他一切，使之支持并附和这一意见。” — 弗朗西斯·培根，《新工具》（1620），第一卷，箴言46

人们相信一个结论为真时，也很可能相信那些看似支持它的论证，即使论证并不可靠。（意译） — Daniel Kahneman，《思考，快与慢》，关于玫瑰三段论

要对某个说法作出良好推理，往往需要把它与已有信念分开，保持距离，将其当作假设而非事实；这种分离需要付出努力，而愿意这样做的思维倾向，与单纯的智力是两回事。（意译） — Keith Stanovich，《理性与反省心智》

17. 要点回顾

1. 两个不同的问题： “结论是真的吗？”和“结论能推出来吗？”感觉像同一个问题，实际却不同。信念偏误就是被问到后一个问题时，却回答了前一个。

2. 双向起作用： 可信的结论让薄弱论证被接受，不可信的结论让可靠论证被否定。

3. 效应真实、得到重复验证，部分源于反应偏差： 效应很大一部分来自回答“有效”的标准变化，并非区分有效与无效的能力下降；不过在较难的问题中，也会出现真正影响推理的效应。

4. 努力程度是关键： 时间压力和工作记忆负荷会加重偏误；指导语、能力和开放的思维倾向会减轻它。

5. 专业知识不能让人免疫： 数学家拒绝了蒙提霍尔问题的论证，营养研究者接受了试验不支持的因果解释。

6. 指出具体步骤： 说不出哪一步不成立，就先不要否定论证；尚未检查所有步骤是否成立，也先不要接受论证。

7. 让审查保持对称： 尽可能先遮住结论，对合意与不合意的结果使用同一份检查清单。

18. 延伸资源

学术论文

• Evans, J. St. B. T., Barston, J. L., & Pollard, P. (1983). On the conflict between logic and belief in syllogistic reasoning. Memory & Cognition, 11(3), 295-306.
• Klauer, K. C., Musch, J., & Naumer, B. (2000). On belief bias in syllogistic reasoning. Psychological Review, 107(4), 852-884.
• Dube, C., Rotello, C. M., & Heit, E. (2010). Assessing the belief bias effect with ROCs: It's a response bias effect. Psychological Review, 117(3), 831-863.
• De Neys, W. (2006). Dual processing in reasoning: Two systems but one reasoner. Psychological Science, 17(5), 428-433.
• Trippas, D., Handley, S. J., & Verde, M. F. (2013). The SDT model of belief bias: Complexity, time, and cognitive ability mediate the effects of believability. Journal of Experimental Psychology: Learning, Memory, and Cognition, 39(5), 1393-1402.

书籍

• Evans, J. St. B. T. (1989). Bias in Human Reasoning: Causes and Consequences. Lawrence Erlbaum Associates.
• Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.
• Stanovich, K. E. (2011). Rationality and the Reflective Mind. Oxford University Press.

书籍章节

• Evans, J. St. B. T. (2004). Biases in deductive reasoning. In R. F. Pohl (Ed.), Cognitive Illusions: A Handbook on Fallacies and Biases in Thinking, Judgement and Memory. Psychology Press.

19. 速记卡

20. 术语表

21. 讨论问题

适用于读书会、课堂或自我反思：

1. 想想过去一个月里，你曾迅速否定过的一个论证。现在你能指出具体哪一步不成立吗？

2. 信号检测论的重新分析提示，信念偏误很大一部分源于对合意结论降低标准，而非逻辑能力失灵。这会让你对公共讨论更担忧，还是更放心？

3. Luria接触的乌兹别克农民，不愿说出自己从未去过的地方的熊是什么颜色。这是推理不佳，还是对陌生人的说法作出了合理判断？

4. 近一千位博士告诉Marilyn vos Savant，她对蒙提霍尔问题的回答错了。这反映出专业知识与信念偏误之间怎样的关系？

5. 如果你能改变工作场所或课堂评估论证的一种做法，让推理比结论更受重视，你会改变什么？

最后更新：19 十月 2026