算法厌恶

一览

1. 概要

算法厌恶是指预测模型出错一次，我们就弃之不用，转而相信出错更频繁的人工预测者。Berkeley Dietvorst、Joseph Simmons 和 Cade Massey 在 2015 年为这种现象命名。他们发现，参与者仅仅因为亲眼见过统计模型犯错，就放弃了那个表现优于自己的模型。四年后，Jennifer Logg、Julia Minson 和 Don Moore 发现了相反的现象：如果人们没见过算法失误，而任务又涉及客观事实而非个人喜好，他们就更愿意采纳算法建议，而不是人的建议。看得见的错误、主观任务和自身的专业经验会让人倾向于厌恶算法；客观任务和没有失误的记录则会让人倾向于欣赏算法。自 1950 年代以来，在大多数直接对比检验中，统计规则的表现都不逊于甚至优于专家判断，因此厌恶的一端让我们损失准确性，欣赏的一端则让我们疏于审查。

用大白话说

算法厌恶，就是电脑头一次给错建议，你就不再用它，哪怕它答对的次数依然比人多。反过来，如果你从没见过电脑出错，也可能太相信它。这两种反应来自同一个习惯：你对机器的要求比对人的要求更严。

假设手机地图带你走了一条封闭的路。你迟到了，很生气，觉得这个软件毫无用处。第二天，你改向朋友问路。朋友让你迷了两次路，你却觉得没什么，毕竟人都会犯错。软件只错了一次，你就再也不用它了。

有个办法能帮你发现这种想法。遇到让你失望的工具，先问一句：“最近十次，到底谁答对的次数更多？”老老实实数一数。如果软件十次对了八次，朋友只对了五次，软件仍是更好的选择。如果你从没见过软件出错，也值得再查一查，因为没有什么能次次都对。

2. 背后的科学

2.1. 发现与历史

早在人们把“算法”一词写进心理学论文之前，这段历史就已开始。1954 年，临床心理学家 Paul Meehl 出版了篇幅不长、却让人难以坦然接受的著作《临床预测与统计预测》。他汇集了当时约二十项研究，这些研究让训练有素的临床专业人员与简单的统计公式同场较量。几乎每次比较，公式的表现都与临床专业人员相当，或比他们更好。但实际做法几乎没有改变，临床专业人员仍找出各种理由不相信那些统计表。这种抵触是该偏差最早的大规模体现，比它获得正式名称早了几十年。

证据此后不断积累。2000 年，William Grove 及其同事发表了一项元分析，汇总了 136 项比较临床预测与机械预测的研究。机械预测的准确性平均高出约 10%，在大约一半的比较中明显胜出，在其余比较中大多打成平手，只有少数几次明显落败。

实验室中的直接验证出现在 2015 年。当时在宾夕法尼亚大学的 Dietvorst、Simmons 和 Massey 开展了设有奖励的预测实验，并提出“算法厌恶”这个名称。参与者可以在自己的预测和统计模型的预测之间选择。一旦看过模型犯错，他们就远不如之前愿意选用模型，尽管他们也亲眼看到了模型胜过自己。

随着研究深入，结论变得更复杂，这也是一个研究领域健康发展的表现。Logg、Minson 和 Moore 在 2019 年发表的“算法欣赏”论文显示，普通人在修正判断时，更倾向于接受标为算法提供的建议，而非标为人类提供的建议，不过这种效应在专家中较弱。Jussupow、Benbasat 和 Heinzl（2020）、Burton、Stein 和 Jensen（2020），以及 Mahmud 及其同事（2022）的系统综述得出了共同结论：算法厌恶确实存在，但受具体条件影响。Logg 和 Schlund 在 2024 年的一篇工作论文中认为，文献中的大多数“厌恶”来自假设性的偏好问题；面对实际决策时，人们反而更多地采用算法建议，而非人的建议。2025 年在夏威夷国际系统科学会议上报告的一项元分析汇总了 32 项干预研究，发现干预平均只能小幅减轻厌恶，改变人与算法互动方式的干预效果最大。至少有一项预注册研究未能重复出这一基本效应。

重要节点：

• 1954： Meehl 的《临床预测与统计预测》表明，公式的表现不逊于甚至优于临床专业人员，但后者拒绝使用公式
• 2000： Grove 及其同事对 136 项研究的元分析发现，机械预测的准确性平均高出约 10%
• 2015： Dietvorst、Simmons 和 Massey 提出“算法厌恶”一词
• 2018： 同一团队表明，允许人们哪怕只是稍微调整模型输出，也能让他们重新使用模型
• 2019： Logg、Minson 和 Moore 发表“算法欣赏”论文；Castelo、Bos 和 Lehmann 表明，任务的主观性左右着信任；Longoni、Bonezzi 和 Morewedge 发现了独特性忽视
• 2024-2025： Logg 和 Schlund 调和既有研究结论的论文，以及夏威夷国际系统科学会议上一项针对 32 项干预研究的元分析，将厌恶与欣赏视为同一个信任调节钮的两种位置

2.2. 主要研究者

2.3. 里程碑研究

《算法厌恶：人们看到算法出错后错误地回避算法》（Dietvorst、Simmons & Massey，2015）

参与者根据入学申请资料预测 MBA 申请者的表现，或者预测美国各州的航空旅客人数。研究同时提供了一个基于相同数据建立的统计模型。部分参与者先观看模型的表现，再选择用谁的预测来决定自己的奖金。在所有实验条件下，模型都胜过了人。但看过模型表现、因而也见过它出错的参与者，押注模型的可能性明显低于完全没看过模型表现的人。

《克服算法厌恶》（Dietvorst、Simmons & Massey，2018）

同一团队进一步研究，什么能让人们重新使用模型。参与者可以采用模型的预测并作调整：有些条件下可自由调整，有些条件下只能改动几个点。只要允许调整，即使范围很窄，选择模型的参与者比例也会大幅提高，而且他们最终的预测比独自预测的人更准确。人们需要有发言权，并不要求完全掌控。

《算法欣赏：人们更偏好算法判断而非人的判断》（Logg、Minson & Moore，2019）

在六项实验中，参与者要根据照片估计陌生人的体重，或估计歌曲在排行榜上的名次等，随后接收被标为来自算法或某个人的建议。普通人会把自己的判断更多地向算法建议靠拢。当参与者需要在算法和自己的判断之间选择时，这种效应会减弱；在经验丰富的专业人士中，效应则出现逆转。

2.4. 神经科学基础

专门研究算法厌恶的神经科学证据还很少。这一领域前述的研究都是行为研究，尚无人扫描过参与者观看预测模型失误时的大脑。已有的相关证据来自一些较成熟的研究，它们关注大脑如何对待人类与非人类的互动对象。

经济博弈的神经影像研究显示，当人们相信自己在与另一个人互动，而不是与执行固定规则的计算机互动时，与推测他人心理状态有关的脑区，尤其是内侧前额叶皮层，反应会更强。McCabe 及其同事在 2001 年报告了这一发现，后续研究也重复出了这一模式。面对人类顾问，我们会在头脑中推测其意图；面对机器，我们则将它归为一种机制。机制出错，看起来像是有了故障；人出错，看起来仍然只是人。任何声称存在专门的“算法厌恶神经回路”的说法，都应视为推测。

3. 演化起源

我们的祖先没有接触过算法，却接触过与此有关的两类事物：工具和提供建议的人。大脑为这两者形成的判断规则，分别应对不同的问题。

一个人给出的建议，连同他的面孔、经历和声誉一起呈现。评估建议时，需要推测对方知道什么、抱有什么动机。这套判断机制容得下偶尔的失误，因为可靠的盟友即使有时判断失准，也仍值得保持关系。工具则按是否管用来评判。捕兽套没有触发，就要修理或丢弃；工具既不会学习，也不会道歉，因此没有理由对它宽容些。当现代人看到统计模型预测失准时，对待工具的规则就被触发了：丢弃。

另一种古老倾向是偏爱能够解释的事物。你可以问人类顾问“为什么”，对方也会给出一番解释。而一个只说“73%”的公式并不提供叙述。Yeomans、Shah、Mullainathan 和 Kleinberg 在 2019 年表明，比起算法推荐的同样好的笑话，人们更喜欢人推荐的笑话；提供解释后，这一差距大幅缩小。这些习惯本身没有失灵，只是被用在了一类新事物上：它的运作方式像工具，承担的功能却像顾问。

4. 这种偏差如何表现

4.1. 日常生活

• 导航软件只推荐错一次路线就将其删除，此后几个月凭记忆和习惯开车，走的路反而更远
• 野餐被雨打乱后，就说天气预报“从来都不准”，却忘了它准确预报的几十天
• 第一次使用食谱软件，就严格照着它给的烹饪时间操作，精确到秒，完全不查看烤箱里的情况

4.2. 工作场合

• 销售线索评分模型把一个明显优质的潜在客户排得较低，销售团队就推翻模型，重新凭直觉安排优先级，结果转化率更低
• 资深专业人士轻视初级同事本会接受的建议，正如 Logg 的国家安全领域样本所显示的那样

4.3. 商业与营销

Castelo 的研究解释了营销人员经常遇到的一种现象。顾客接受算法处理产品的“客观”部分，却抵触它处理“主观”部分。银行可以宣传由模型决定信用额度；交友软件若说“这是我们的模型为你选的对象”，却可能显得冷冰冰。企业会用几种办法应对：隐藏算法的存在，例如把播放列表称为“精选”；给算法取名字，让它显得像人；或象征性地加入一个人工环节。

4.4. 政治与媒体

公共领域的算法容易引发公众厌恶。政府用模型分配入学名额或调整考试成绩时，每个看得见的错误都会成为新闻，而被它替代的人工流程出了多少错，从未有人统计。英国 2020 年的成绩评定事件（案例 2）就是典型。但抛弃成绩评定模型的同一群公众，又会信任自己从未审查过的推荐信息流。

4.5. 医疗保健

从 Meehl 的时代起，临床专业人员就一直抵触统计预测。Grove 的元分析发现，几十年的相反证据也未能消除这种抵触。Longoni 及其同事表明，患者也有同样的倾向：在准确性相同的情况下，他们更喜欢由人来诊断，因为他们认为自己的情况很特殊。只要医生会“审核” AI 的输出，哪怕仅是名义上的审核，这一偏好就会逆转。信任摆向另一端时，便是本站另文介绍的自动化偏见。

4.6. 金融与投资

一位投资者按照规则进行资产再平衡，前两年表现良好，却往往会在某个季度因规则卖出得过早而将它放弃。Dietvorst 和 Bharti 在 2020 年发现，人们在本就充满不确定性的领域最容易拒绝算法，这一发现在投资中尤其切中要害。

5. 现实案例

案例 1：Zillow Offers 与盲目信任模型的代价

• 背景： 美国房产信息公司 Zillow 于 2018 年推出 Zillow Offers，利用房屋估值模型即时提出现金购房报价，再将房屋转售。
• 事件经过： 2021 年，随着疫情期间的房地产市场转向，模型给出的购入报价高于转售价格。到秋天，公司持有约 7,000 套房屋。2021 年 11 月，Zillow 宣布关闭该业务，报告该部门仅第三季度就亏损约 4.2 亿美元，并表示将裁减约四分之一的员工。
• 偏差的作用： 这是算法欣赏一端在企业层面的体现。模型此前没有出现过明显的失误，而公司又把信任自身估值作为身份认同的一部分，因此人工核查很薄弱。失误一旦显现，公司就彻底放弃了模型，没有选择重新校准。
• 后果： 数亿美元的损失、25% 的裁员，以及一项旗舰业务的终结。
• 经验教训： 没有在你面前失败过的模型，仍然可能失败。持续监测并预设预警条件，可以让一次看得见的错误引出检查，而不是否认或恐慌。

案例 2：2020 年英格兰考试成绩评定算法

• 背景： 2020 年，疫情导致英格兰 A-level 考试取消，监管机构 Ofqual 建立了一个标准化模型，用于调整教师预测成绩，防止成绩虚高。成绩于 2020 年 8 月 13 日公布。
• 事件经过： 模型把近 36% 的 A-level 成绩下调至比教师预测低一个等级，约 3% 的成绩低了两个等级。由于模型依赖各校以往的成绩，历史表现较弱学校中的优秀学生被压分最严重。几小时内就爆发了抗议。成绩公布四天后的 8 月 17 日，政府与 Ofqual 改变决定，按未经模型调整的教师预测重新公布成绩。
• 偏差的作用： 部分反应出于对公平的判断，而且有其道理，错误集中落在了可明确识别的群体身上。但这一事件也清晰地体现了算法厌恶机制。算法的错误可见，而且切身影响个人；人工替代方案的错误却隐蔽而分散，尽管人们早就知道教师预测往往过于乐观。全国彻底抛弃了这个看得见的错误来源，没有选择修正它。
• 后果： 成绩比往年大幅上升，大学仓促安置学生，Ofqual 的负责人于当月晚些时候辞职。
• 经验教训： 看得见的错误不等于更多的错误。拿模型与人的判断比较，也应公平地统计人的错误；模型上线前，还应在最可能受伤害的群体中检验其失败情形。

历史案例：奥克兰运动家队的球探与电子表格（2002）

2000 年代初，奥克兰运动家队这支薪资总额在联盟中位居末流的棒球队，开始运用统计分析寻找被球探低估的球员。总经理 Billy Beane 和助手 Paul DePodesta 倚重上垒率等指标，这些指标比球探沿用了一个世纪的判断方式更能预测得分。

球探们的反应，像是把 Meehl 的故事搬到了球场。模型看好的球员每失败一个，他们就拿来证明“棒球不能简化成一张电子表格”，却从未以同样方式统计自己的失误。2002 年，奥克兰运动家队以只有纽约洋基队三分之一的预算赢得了 103 场比赛，其中包括创纪录的二十连胜。Michael Lewis 在 2003 年出版的《点球成金》让这段经历广为人知。看到这种方法确实奏效后，几乎每支球队都开始采用，其中一些又摆向了另一极端，在数据不足的地方也照样相信模型。

6. 这种偏差的代价

6.1. 个人代价

• 在已有好工具的领域做出更差的决定：通勤时间更长、财务配置更差、错过健康信号
• 另一端的代价是未经审查就依赖推荐、信用评分或诊断软件，直到它以一种后果重大的方式失灵

6.2. 职业代价

• 白白损失预测准确性：在 Dietvorst 的实验中，放弃模型的参与者比继续使用模型的人奖金更少
• 一次明显错误后，就高成本地决定“恢复人工”，悄然让准确性更低的流程回归
• 自动化工作流中的相反失误：因为“系统会处理”，没人对输出负责，模型漂移数个季度都未被发现

6.3. 社会代价

• 公共服务放弃本可修复的模型，退回更不公平或准确性更低的人工流程
• 医疗、刑事司法和儿童保护领域中经过验证的风险工具未获充分使用，尽管支持统计方法的证据已有几十年
• 公共讨论只统计算法错误，不统计人的错误

6.4. 统计影响

• Grove 及其同事在 2000 年对 136 项研究的元分析发现，机械预测的准确性平均比临床判断高约 10%，临床专业人员只在少数几次比较中明显更好
• Dietvorst、Simmons 和 Massey 在 2015 年的实验中发现，看过模型表现（也见过它犯错）后，选择模型的参与者比例大幅降低，尽管模型在所有条件下都胜过他们
• 允许参与者在较窄范围内调整模型预测（Dietvorst 等人，2018），能明显提高模型使用率，预测准确性也优于不借助工具的预测
• 2025 年的一项元分析汇总了 32 项干预研究（89 个效应量），发现厌恶程度平均小幅下降；改变互动环境的干预效果约为平均水平的两倍

7. 隐含的益处

算法厌恶并非只是被美化了的判断错误。其中有几个方面值得保留。

模型出错一次，可能是因为世界变了，而模型无法告诉你这一点。预测者对明显失误作出强烈反应，有时是在发现某种环境转变，而经过历史数据回测的模型恰恰看不见这种转变。Zillow 的模型不知道房地产市场已经转向，保持怀疑的人却可能察觉。

Longoni 研究中的患者要求保留人的参与，这也是要求有人承担责任。医生可以回答“为什么”。在多数实际应用中，模型做不到；一项影响人命的决定，理应有人能为之作答。

厌恶的一端，也是抑制欣赏那一端的唯一刹车。问题出在审查时机：我们等到出错一次才开始审查算法，部署前及整个使用期间反而没有持续审查。

8. 自我评估：你有这种偏差吗？

8.1. 警示信号清单

• 一次糟糕的推荐后，你就停用某个工具，没有查看它的总体表现
• 模型错了，你说“我早就知道”；人错了，你说“难免的事”
• 你会完全相信一个系统，直到亲眼见它失败，随后又完全不信它
• 你曾凭直觉大幅推翻模型的输出，却没有记录结果
• 你认为自己的情况太特殊，任何统计工具都不适用
• 你接受算法对“数字”问题的建议，却拒绝它对“人”的问题的建议
• 对每天依赖的工具，你从未问过它有多大概率出错
• 算法的答案比你的好，会让你觉得受了冒犯
• 你更喜欢自己听得懂的解释，而不是过往表现更好的结果
• 对于公式曾胜过专家的某类决策，你曾说过“这不能简化成一个公式”

计分：

• 勾选 0-2 项：受影响程度低
• 勾选 3-5 项：受影响程度中等
• 勾选 6-8 项：受影响程度高
• 勾选 9-10 项：受影响程度很高

8.2. 自省问题

1. 想一个你放弃的工具或模型。你知道它的实际命中率与后来替代它的办法相比如何吗？
2. 想一个你毫不怀疑地依赖的工具。你上次检查它是否出现了自己未注意到的错误，是什么时候？
3. 工作中，哪些决定是“客观”的，哪些是“主观”的？你检验过这种分类吗？
4. 推翻系统输出时，你会记录下来，过后再回顾吗？
5. 如果同事和模型在同一次预测中出错，而且偏差相同，你会一视同仁吗？

8.3. 快速判断情境

情境： 过去十二个月中，你所在团队的需求预测模型有十一个月胜过计划人员的人工预测。本月，它严重高估了某条产品线的需求。经理问你应该怎么办。

你会怎样回答？

• A) 建议停用模型，恢复计划人员的预测，因为它显然不可信 → 受影响程度高
• B) 保留模型，但只要计划人员不同意，就允许他们自由推翻模型 → 受影响程度中等
• C) 保留模型，调查这条产品线发生了什么变化，并允许计划人员在有限范围内调整，每次调整都留下记录 → 受影响程度低

9. 如何识别他人的这种偏差

9.1. 行为表现

• 把模型的一次错误当作它毫无价值的证据，不与人的错误率作比较
• 把模型长期成功当作无需核查它的证据
• 对系统输出作大幅人工调整，却不留下记录
• 坚称自己的情况、客户或患者“与众不同”，任何工具都无法涵盖
• 是该领域公认的专家，却比新手更轻视工具

9.2. 谈话中的警示信号

受这种偏差影响时，人们常说：

• “看吧？模型错了。我早就说过。”
• “这没法用数字衡量。”
• “系统从没错过，为什么要查？”
• “它不了解我的情况。”
• “让我调一下就行，我干这行都二十年了。”

他们常用的论据：

• 拿一次印象深刻的算法失误，与“人通常都能判断正确”的模糊感觉比较
• 强调这个案例有多特殊，却不看相似案例的证据

他们回避的问题：

• “与我们相比，模型答对的次数有多少？”
• “我们上次审查它是什么时候？”

9.3. 情境诱因

• 看得见、能明确归因于算法的错误，尤其是公开发生的错误
• 让人感觉主观、涉及个人处境或道德的任务
• 面对假设性的“你会信谁”问题，而非有实际利害的真实决策
• 领域专长提高了对自身判断的信心
• 尚未出现明显失误，同时又有加快进度的压力，容易触发欣赏的一端

10. 减少认知偏差的策略

10.1. 即时方法

• 两列对照： 工具出错时，把它最近十次的结果写成一列，把人工替代方案的结果写在另一列。先比较，再决定。
• 同错检验： 问自己“同事如果犯了一模一样的错，我会辞退他吗？”如果不会，也别辞退模型。
• 有限调整： 对模型输出不必全盘接受或拒绝，可以在预设范围内作调整，并记录改动。Dietvorst 在 2018 年的实验中，参与者仅获准调整几个百分点，就取得了良好表现。
• 反过来问： 如果你从没见过一个系统失灵，就问问它失灵时会是什么样，以及自己能否发现。

10.2. 长期策略

• 保留人工调整日志： 记录每次对模型的人工调整，每季度回顾一次。大多数这样做的人会发现，自己的调整弊大于利，这比任何说教都更快地帮助人们校准信任。
• 了解基础概率： 读一遍 Grove 的元分析，或 Kahneman 讨论直觉与公式的章节。这会改变你看待单次失误的感受。
• 审查从未出错的系统： 为那些从未明显犯错的系统安排定期检查。它们最容易在无人察觉时发生漂移。

10.3. 环境设计

• 设置有限修改功能： 给用户一个较小且有记录的调整范围，替代单纯的接受或拒绝开关。2018 年的研究发现，这能同时提高使用率和准确性。
• 展示错误率对比： 在同一屏幕上并列显示模型命中率和人工基准，让人们结合总次数看待一次失误。
• 设置预警条件： 事先约定，一次明显错误应触发调查，并指定负责人和完成期限；只有形成书面调查结论，才能停用模型，不能用一次错误直接触发停用开关。

10.4. 何时寻求外部意见

• 你准备因一次明显错误而停用模型，却还没有比较双方的错误率
• 你准备在公共领域或高风险场景部署模型，却还没有针对最可能受影响的群体检验其失败情形
• 系统已经运行一年，却无人说得清它多大概率出错

该问谁：找能做对比的人，而不是找与你一样不满的人。

11. 实践练习

练习 1：公平检验

• 目标： 用有证据的比较取代凭一次错误就下的判决
• 所需时间： 45 分钟
• 所需材料： 工具以往的输出记录、人工替代方案以往的判断记录，以及一张电子表格
• 难度： 初级
• 步骤：
  1. 选择一个你已经放弃或不信任的工具
  2. 收集它最近 20 次的输出及实际发生的结果
  3. 收集人工替代方案在可比案例中最近 20 次的判断
  4. 用相同指标为双方评分
  5. 用一句话写明今后应该采用哪一方，以及原因
• 反思问题：
  • 比较结果符合你开始前的直觉吗？
  • 哪一次单独的失误最左右你对工具的看法？
  • 无论谁胜出，需要满足什么条件你才会信任它？
• 频率： 每当你想放弃某个工具时，为它做一次

练习 2：有限调整日志

• 目标： 了解你的人工调整究竟有益还是有害
• 所需时间： 每次决策 2 分钟，每月回顾 30 分钟
• 所需材料： 一本笔记本或一张共享表格
• 难度： 中级
• 步骤：
  1. 连续一个月，每次调整模型输出时，用一行记下模型数值、你的数值和理由
  2. 提前设定最大调整幅度（例如 10%）
  3. 月末补上实际结果，计算模型原始预测的误差和经你调整后的误差
  4. 将每次调整标为“有益”“有害”或“无差别”
  5. 决定下个月是缩小还是扩大调整范围
• 反思问题：
  • 有益的调整占多大比例？
  • 有帮助的调整，是有具体理由的那些，还是凭感觉的那些？
  • 知道自己会被评分，是否改变了你调整模型的频率？
• 频率： 每月一次，至少坚持三个月

练习 3：审查从未出错的系统

• 目标： 审查一个你默认信任的系统
• 所需时间： 60 分钟
• 所需材料： 能够访问一个你一直依赖、却不作检查的系统
• 难度： 中级
• 步骤：
  1. 写下你认为系统的错误率是多少。要具体。
  2. 写下什么情况算出错，以及自己能否看到
  3. 抽取最近 20 次输出，逐一对照实际真值，或作出你力所能及的最佳判断
  4. 将测得的错误率与第 1 步中的想法比较
  5. 写一段监测计划，说明查什么、多久查一次、由谁负责
• 反思问题：
  • 你原先认为的错误率偏高、偏低，还是根本没想过？
  • 没有这次练习，哪些错误会一直隐藏着？
  • 你能设置的成本最低的预警条件是什么？
• 频率： 每季度一次，轮流审查不同系统

每日练习

问清总次数

每天，任何工具或系统让你失望时，先大声问：“总共多少次里错了这一次？”作出反应之前，先用一个数字回答。

• 建议用时：30 秒
• 最佳时机：工具出错时
• 如何记录进展：每次先问了问题、再抱怨，就打一个勾

每周挑战

换一种判断标准

每周挑一项你通常凭感觉作出的判断，例如先回哪封邮件、任务要花多久、开车走哪条路，改用简单规则或工具来做。周末给两者评分。

• 坚持 4 周后的预期收获：得到一份个人记录，了解在哪些事情上规则胜过你，哪些事情上没有
• 反思日记提示：
  • 哪条规则的胜出让你意外？
  • 在哪些事情上，你的判断胜过了规则？你掌握了哪些规则没有的信息？

12. 给不同人群的建议

给领导者和管理者

• 预先设定停用规则： 部署之前就决定，什么证据足以支持停用模型。一次明显错误应触发调查，绝不应直接触发决定。
• 公开错误率： 同时公布模型准确性和人工基准。人们从没见过总次数，就无法衡量一次失误的分量。
• 给予有限控制权： 能在限定范围内调整模型输出的员工，比只能接受或拒绝的员工使用模型更多，表现也更好。

给家长和教育工作者

• 用适龄语言解释： “电脑和软件会犯错，人也一样。诀窍是数一数各自有多少次做对了，不要只记住出错的那一次。”
• 尽早教会孩子看总次数： 孩子说软件或计算器“笨”时，问问它本周算对了多少次。
• 两方面都作示范： 让孩子看到，你有时会用路牌核对地图，但也不会因为遇上一条封闭道路就扔掉地图。

给医疗专业人员

• 了解证据： 七十年来，在大多数比较中，统计预测的表现都不逊于甚至优于临床判断。风险评分一次失准，并不足以推翻它的可信度。
• 直接回应独特性忽视： 患者抵触算法医疗，是因为觉得自己没有被看见。解释工具如何处理他们的具体数据，并让他们明确看到你始终在参与。
• 也防范另一端： 工作人员未经核查就接受错误警报的自动化偏见，是同一个信任调节钮转向了另一边。培训应兼顾两者。

给金融专业人员

• 预料到回撤后的反应： 原本接受规则化策略的客户，会在第一个糟糕的季度后想放弃它。在这种情况发生前，就让客户对阶段性表现不佳有所预期。
• 展示完整记录： 用分布呈现策略的历史表现，而非只看最近结果，并将其与客户不借助工具时会作出的决定比较。
• 别把从未失误当作安全： 一个在客户记忆中从未失败过的模型，并未经过考验。赶在市场给出教训前，解释它可能怎样失灵。

13. 与其他偏差的相互作用

会放大这种偏差的偏差

有助于抵消这种偏差的偏差

常见偏差链

算法厌恶 → 结果偏见 → 后视偏差 → 非我所创

模型出现一次明显错误。团队根据这次结果而非过程来评价模型（结果偏见），很快又回想起自己“一直都知道”它不可靠（后视偏差），接着改用内部方法；信任这个方法是因为它由自己人开发，而非因为证据（非我所创），其自身的错误却无人统计。

反向链条是：自动化偏见 → 效度错觉 → 算法厌恶。系统未经检查就获得信任，等到无声的漂移终于酿成一次明显失误，人们便彻底转向厌恶。

打断链条： 两个方向的干预点相同，持续、清楚地展示模型与人工替代方案的错误率比较。

14. 文化视角

算法厌恶的文献大多来自美国和西欧样本。少量跨文化比较应视为早期发现，还不能当作定论。

第一种模式涉及个人主义。Longoni 所说的独特性忽视，即“我的情况很特殊”的感觉，在强调个体自我的文化中更容易出现。相关综述总结的跨国研究报告，在更偏集体主义的样本中，算法厌恶较少。这与上述想法一致，但尚未得到充分的重复验证。

第二种模式涉及技术被赋予的权威。在国家广泛部署算法的地方，人们对公共生活中的算法决策接受度更高，不过很难区分这是对算法的信任，还是对机构的服从。如果近期发生过公开丑闻，例如英国 2020 年的成绩评定事件、荷兰的育儿补贴事件，人们对政府模型的厌恶就更强，其中一部分是基于经历作出的合理反应。

15. 常见误解

16. 专家见解

“社会科学中，没有哪一场争论像这一场一样，有如此庞大、性质各异的研究，结论却如此一致地指向同一方向。” — Paul Meehl，1986，谈临床预测与统计预测的比较证据

“要最大限度提高预测准确性，最终决定应交给公式，尤其是在低效度环境中。” — Daniel Kahneman，《思考，快与慢》，2011

目睹算法和人犯同样的错误后，人们对算法丧失信心的速度比对人更快，因此即使算法更准确，他们仍会选择人。 — Berkeley Dietvorst、Joseph Simmons 和 Cade Massey，2015（对论文核心发现的意译）

17. 要点

1. 信任会来回摆动： 同一个人，会因一次错误放弃某个模型，却又过度信任另一个从未明显失误的模型。

2. 看得见的错误是触发点： Dietvorst、Simmons 和 Massey 表明，亲眼看到模型犯错，对信任的损害大于看到人犯同样的错。

3. 基础概率支持公式： 从 Meehl 在 1954 年汇集的二十项研究，到 Grove 在 2000 年汇集的 136 项研究，在大多数接受检验的领域，统计预测都不逊于甚至优于专家判断。一次失准无法推翻这份记录。

4. 任务表述和专业经验很重要： 客观任务和无失误记录容易引来欣赏；主观任务、个人利害和专业经验容易引来厌恶。

5. 少量控制权就有很大作用： 在 2018 年的实验中，允许人们在较小且有记录的范围内调整模型输出，恢复了使用意愿，也提高了准确性；2025 年的元分析则发现，改变互动方式胜过提供解释。

6. 效应取决于条件，也部分取决于提问方式： 综述列出了许多调节因素，Logg 和 Schlund 认为假设性问题会夸大厌恶，且已有一项预注册重复研究未能成功。

7. 审查应从出错前开始： 审查那些从未明显失败的系统，提前设定停用规则，保留人工调整日志。无论信任朝哪个方向摆动，目标都是校准信任。

18. 延伸资源

学术论文

• Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General, 144(1), 114-126.
• Dietvorst, B. J., Simmons, J. P., & Massey, C. (2018). Overcoming algorithm aversion: People will use imperfect algorithms if they can (even slightly) modify them. Management Science, 64(3), 1155-1170.
• Logg, J. M., Minson, J. A., & Moore, D. A. (2019). Algorithm appreciation: People prefer algorithmic to human judgment. Organizational Behavior and Human Decision Processes, 151, 90-103.
• Castelo, N., Bos, M. W., & Lehmann, D. R. (2019). Task-dependent algorithm aversion. Journal of Marketing Research, 56(5), 809-825.
• Longoni, C., Bonezzi, A., & Morewedge, C. K. (2019). Resistance to medical artificial intelligence. Journal of Consumer Research, 46(4), 629-650.
• Burton, J. W., Stein, M.-K., & Jensen, T. B. (2020). A systematic review of algorithm aversion in augmented decision making. Journal of Behavioral Decision Making, 33(2), 220-239.
• Jussupow, E., Benbasat, I., & Heinzl, A. (2020). Why are we averse towards algorithms? A comprehensive literature review on algorithm aversion. Proceedings of the 28th European Conference on Information Systems (ECIS 2020).
• Mahmud, H., Islam, A. K. M. N., Ahmed, S. I., & Smolander, K. (2022). What influences algorithmic decision-making? A systematic literature review on algorithm aversion. Technological Forecasting and Social Change, 175, 121390.
• Grove, W. M., Zald, D. H., Lebow, B. S., Snitz, B. E., & Nelson, C. (2000). Clinical versus mechanical prediction: A meta-analysis. Psychological Assessment, 12(1), 19-30.
• Dietvorst, B. J., & Bharti, S. (2020). People reject algorithms in uncertain decision domains because they have diminishing sensitivity to forecasting error. Psychological Science, 31(10), 1302-1314.

书籍

• Meehl, P. E. (1954). Clinical versus Statistical Prediction: A Theoretical Analysis and a Review of the Evidence. University of Minnesota Press.
• Kahneman, D., Sibony, O., & Sunstein, C. R. (2021). Noise: A Flaw in Human Judgment. Little, Brown Spark.
• Lewis, M. (2003). Moneyball: The Art of Winning an Unfair Game. W. W. Norton.

书中章节

• Kahneman, D. (2011). Intuitions vs. formulas. In Thinking, Fast and Slow (Chapter 21). Farrar, Straus and Giroux.
• Mosier, K. L., & Skitka, L. J. (1996). Human decision makers and automated decision aids: Made for each other? In R. Parasuraman & M. Mouloua (Eds.), Automation and Human Performance: Theory and Applications (pp. 201-220). Lawrence Erlbaum Associates.

19. 速览卡

20. 文中术语表

21. 讨论问题

适合读书会、课堂讨论或自我反思：

1. 想一个你因失望而停用的工具或软件。如果必须拿它与替代方案的实际命中率作比较，来为自己的决定辩护，你能做到吗？

2. 为什么人出错时，会让人觉得是“今天状态不好”，模型出错时，却让人觉得它“坏了”？这种区别对待有没有合理的时候？

3. 英国公众拒绝了错误看得见的考试成绩评定算法，转而接受错误看不见的教师预测。这是厌恶、对公平的判断，还是两者都有？

4. Logg 和 Schlund 认为，问人们更喜欢哪一种顾问，会得出厌恶；观察他们实际怎么做，却会发现欣赏。这种差距对问卷和产品设计有什么启示？

5. 在你的生活或工作中，哪里有一个系统一直运行，却从未明显失败？它失败时会是什么样，你能注意到吗？

最后更新：19 十月 2026