样本量忽视
概览
| 类别 | 详情 |
|---|---|
| 定义 | 忽视了“随着样本量增加,方差会减小”这一基本统计学原理,从而错误地认为小样本和大样本一样具有代表性的系统性倾向。 |
| 类别 | 意义不足 (即使数据稀少,我们也能从中找出故事和规律) |
| 克服难度 | 非常困难 |
| 普遍程度 | 普遍存在 |
| 相关偏差 | 代表性启发法、赌徒谬误、基础概率谬误、热手效应(热手谬误)、幸存者偏差、外延忽视 |
1. 快速总结
我们本能地认为,一小撮数据看上去就该和它所属的大总体一模一样。十次抛硬币没有凑出干净的 50/50 时,我们读出的是模式、连续性或者不公平,而不是小数目本来就有的波动。于是我们从单薄的数据里得出笃定的结论,把随机噪声当成真实趋势,也忘了数量对统计可靠性有多重要。
用大白话说
样本量忽视,就是把一丁点证据看得和一大堆证据一样可信。只试几次,光靠运气就可能出现奇怪的结果。试很多次,看到的情况才公平得多。
比如,篮球训练来了一个新同学,他头三次投篮都进了。大家马上认定他是全队投得最准的。可是三次投篮实在太少了。你那位整个赛季投进过几百个球的朋友,可能还是比他强。再想想一款新游戏,只有两条五星好评。听起来很棒,可两个人并不算多。另一款游戏有一千条评价,平均四星,它能告诉你的要多得多。
有个简单的小窍门。拿定主意之前,先问问自己:“这件事我到底亲眼看到过几次?”如果只有几次,就再等等,多看一阵子。等你知道得更多了,随时可以再做决定。
2. 背后的科学原理
2.1. 发现与历史
对样本量忽视的正式识别源于1970年代心理学领域的认知革命。1971年,Amos Tversky 和 Daniel Kahneman 在《心理学公报》上发表了《对小数定律的信念》,提出人类直觉的运作方式,就好像大数定律对小数目同样适用。三年后,他们在1974年发表于《科学》的开创性论文《不确定性下的判断:启发法与偏差》中,把这一现象正式归纳为代表性启发法这一更大框架下的一种具体认知偏差。
其思想根源可以追溯到数学概率论,特别是吉罗拉莫·卡尔达诺和雅各布·伯努利早期对大数定律的阐述。但真正追问人类为何会系统性地违反这条数学原理的,是 Kahneman 与 Tversky 的合作研究。
1970年代以来,解释本身也变了。由马克斯·普朗克研究所的 Gerd Gigerenzer 领导的“生态理性”学派挑战了最初的理解,认为这种偏差可能有一部分是问题呈现方式造成的人为现象。当统计信息被重新表述为自然频率而不是抽象概率时,人们的表现会大幅提高。
这种偏差甚至把它的发现者也绕了进去。1985年,Thomas Gilovich、Robert Vallone 和 Amos Tversky 报告称篮球中的“热手”并不存在。但在2018年,Joshua Miller 和 Adam Sanjurjo 指出,1985年论文所依赖的统计量在短序列中本身就存在向下偏差;一旦消除这种偏差,原始投篮数据其实支持热手的存在。当初将热手定性为错觉的研究人员,实际上自己就在过度解读小样本。
2.2. 主要研究人员
| 研究者 | 贡献 | 年份 |
|---|---|---|
| Amos Tversky | 共同发现该偏差;提出“对小数定律的信念”理论 | 1971-1974 |
| Daniel Kahneman | 共同发现该偏差;将其整合到启发法和偏差框架中;2002年诺贝尔奖 | 1971-2011 |
| Gerd Gigerenzer | 挑战了该偏差的解释;发展了生态理性和频率格式假说 | 1995-至今 |
| Thomas Gilovich | 共同撰写了1985年“热手”研究,其零结果后来被追溯到该研究所用统计量本身的小样本偏差 | 1985 |
| Howard Wainer | 在流行病学中展示了这种偏差;肾癌地图分析 | 2006 |
| Richard Thaler | 将该偏差应用于行为金融学;2017年诺贝尔奖 | 1980年代至今 |
| Ulrich Hoffrage | 合作进行频率格式研究;领导了医生乳房X光检查研究 | 1995-1998 |
| Joshua Miller 和 Adam Sanjurjo | 发现了热手统计量中的连中序列选择偏差;重新分析推翻了1985年的结论 | 2018 |
| Ward Edwards | 贝叶斯更新中关于证据权重和样本量的早期研究 | 1968 |
2.3. 里程碑式研究
医院问题(Tversky 和 Kahneman,1974)
在这个经典实验中,参与者阅读了以下内容:“某镇由两家医院提供服务。在较大的医院里,每天大约有45名婴儿出生;在较小的医院里,每天大约有15名婴儿出生。如你所知,大约50%的婴儿是男孩。但是,确切的百分比每天都在变化。在为期 1 年的时间里,每家医院都记录了男孩出生率超过60%的天数。你认为哪家医院记录的这种天数更多?”
结果令人吃惊:56%的本科生受试者选择了“差不多一样”,22%的人选择了大医院,只有大约22%的人正确指出了小医院。正确答案是小医院,因为较小的样本波动更大,更容易产生偏离平均值的极端情况。受试者把样本量视作无关紧要,以为无论样本是15还是45,50%的比例都同样适用。
身高估计实验(Tversky 和 Kahneman,1974)
参与者估计了从总人口中抽取的10人、100人和1,000人男性样本中,平均身高超过6英尺(183厘米)的概率。从逻辑上讲,找到平均身高超过6英尺的1,000名男性实际上是不可能的,而10名男性达到该平均身高仅仅是不太可能。然而,受试者为所有三种样本量赋予了相同的概率。他们仅仅依据对样本的描述(“男性”)来做出判断,完全忽视了大数字带来的稳定力量。
乳房X光检查问题(Hoffrage 和 Gigerenzer,1998)
Ulrich Hoffrage 和 Gerd Gigerenzer 向慕尼黑和杜塞尔多夫的48名医生提出了四道诊断题,其中一道是乳房X光检查呈阳性时患乳腺癌的概率。当患病率、敏感度和假阳性率以百分比呈现时,医生正确估算阳性预测值的比例仅有10%。而当同样的问题以自然频率呈现时(“每1,000名女性中有10名患有癌症……”),准确率上升到46%。在分母中明确写出样本量,大幅改善了统计推理。该方法建立在 Gigerenzer 和 Hoffrage 1995年针对学生的频率格式研究基础之上。
热手研究(Gilovich、Vallone 和 Tversky,1985)
通过分析费城76人队和波士顿凯尔特人队的投篮记录,再加上一项针对大学球员的受控投篮实验,研究人员对比了每位球员在连续三次命中后的命中率与连续三次投失后的命中率。两者的差异看起来很小,论文因而得出结论,认为“热手”是一种错觉:球迷、球员和教练是在实际上相当于一连串抛硬币的序列里看出了连续命中。
这个结论后来反转了。2018年,Joshua Miller 和 Adam Sanjurjo(Econometrica)指出,该统计量本身就存在偏差。在短序列中,紧跟在连中之后的投篮是以某种方式被筛选出来的,这会把测得的命中率拉低到真实命中率以下,即使对一枚均匀的硬币也是如此。在1985年的实验设计中(每位球员投篮100次),一个完全没有热手效应的射手在三次连中之后,应当显示出大约8个百分点的劣势。一旦消除这种偏差,原始受控投篮数据表明,球员在三次命中后的命中率比三次投失后高出约13个百分点。球迷并没有被小样本愚弄,被愚弄的是研究人员。在日常判断中,人们对热手的信念可能依然有所夸大,但1985年的研究已不能再作为热手纯属想象的证据。
2.4. 神经学基础
这种偏差通过心理学家 Keith Stanovich、Richard West 和 Daniel Kahneman 所称的“系统1”思维起作用:这是一套快速、自动、直觉的认知过程,把速度和连贯性放在数学精确性之前。在评估统计证据时,系统1处理的是相似性和模式识别,而不去调动进行恰当统计推理所需的那套更慢、更费力的系统2过程。
大脑的模式识别回路是为快速评估威胁和因果推断而进化的,它会自动在数据中寻找有意义的结构。这些回路分不清大样本和小样本;它们响应的是信息的表面特征(比例、明显的模式),而不是关于可靠性的元信息(样本量、方差)。
负责执行功能和数学推理的前额叶皮层可以覆盖系统1的判断,但这需要有意识的努力、统计学训练和认知资源。在时间压力、认知负荷或情绪激动的情况下,系统1的默认设置占上风,样本量就被忽视了。
3. 进化起源
人类心智进化出来,是为了在一个充满噪音和危险的世界里生存,那里数据匮乏,犹豫可能致命。在更新世环境中,我们的祖先需要根据有限的观察迅速做出归纳:只要遭遇一次捕食者或有毒浆果,就足以形成普遍的回避法则。
这套进化工具包把模式识别和快速推断放在数学精确性之前。从小样本中得出广泛结论的能力是一种明显的适应性优势。如果等到积累了具有“统计学意义”的捕食者遭遇样本再决定逃跑,那将是致命的。
同一套在数据匮乏的祖先环境中保命的认知适应,到了数据丰富的今天就成了负担。我们如今生活在随机过程和海量数据之间,直觉却仍然顽固地黏在小样本的逻辑上。
这种偏差可以被视为一种进化特征而非缺陷,它是为了适应以下环境而校准的:(1)样本本质上很小;(2)假阳性(看出不存在的模式)的代价低于假阴性(错过真实威胁);(3)立即行动胜过统计准确性。
4. 这种偏差的表现形式
4.1. 在日常生活中
在日常决策中,我们不断地过度解读小样本。在去一家新餐厅吃了一次平庸的饭菜后,我们断定“那个地方很糟糕”,却没意识到自己只是在一个晚上尝了其中一道菜。遇到来自特定城市或职业的人,就会触发基于那一次相遇的概括。
我们通过少数几个轶事来判断社区的安全性,根据三条亚马逊评论对产品形成看法,并基于一次模棱两可的维修就断定我们的修车工不诚实。我们看到朋友节食成功,就假设它对我们也会有效,忽略了决定结果的数千种个体差异。
在人际关系中,伴侣在几天里的行为就塑造了我们对其性格的判断。孩子在一次测试中表现不佳,会让父母得出他们“不擅长数学”的结论。几次成功的预测使我们相信自己擅长预测未来。
4.2. 在工作场所
职场环境放大了忽视样本量所带来的代价。管理者基于少数观察到的事件而非系统性数据来评估员工的表现。招聘决定往往取决于简短的面试(一小段行为样本),却被当作决定性的评估。
仅仅代表三个月(公司发展轨迹的一小部分样本)的季度业绩,却驱动着重大的战略决策。一项表现不佳两个月的新举措会在变异可能稳定下来之前被取消。早期成功的领导者被认为是“有远见的”,而那些遭遇早期挫折的人则被打上失败者的标签,不管结果的实际分布如何。
绩效评估通常会不成比例地看重最近发生的事件,把过去几周的表现当作全年的代表。培训项目有效与否是基于第一批学员来判断的,忽略了群体之间的自然差异。
4.3. 在商业和营销中
“新可乐”灾难体现了企业如何沦为这种偏差的受害者。可口可乐进行了近200,000次盲测,发现人们对他们更甜的新配方有压倒性的偏好。然而,这些都是“啜饮测试”,只是饮用整罐饮料这段体验的微小样本。喝一小口时,大脑对高甜度有积极的反应。但喝完整罐时,同样的甜度就变得令人腻烦了。可口可乐高管假设啜饮样本能代表整罐体验,结果引发了大规模的消费者抵制。
福特埃德塞尔的失败展示了时间维度上的样本量忽视。福特在1955-1956年进行了广泛的市场研究,表明美国人想要大而华丽的汽车。他们把这个受时间限制的样本当成了永久的真理。到1958年推出时,市场已经转向较小的汽车,埃德塞尔成了营销失败的代名词。
公司经常根据8-12人的焦点小组、运行了几天而不是几周的A/B测试,以及在不具代表性市场的试点项目来推出产品。营销活动是根据尚未稳定的初始响应率进行规模扩张的。
4.4. 在政治和媒体中
1936年的《文学文摘》民意调查灾难说明了庞大但存在偏差的样本是如何失败的。该杂志对240万人进行了民意调查,并预测阿尔弗雷德·兰登将击败富兰克林·罗斯福。他们以为数量保证了准确性,却忽略了自己的样本(来自汽车注册和电话簿)系统性地排除了大萧条时期没有这些财富标志的选民。乔治·盖洛普仅用了50,000人的代表性样本就正确预测了结果。
现代民意调查仍难以正确解读样本量。媒体把误差范围内的民意波动大肆报道为重大转变。权威人士根据早期投票结果进行外推,把小样本当作有预测力的证据。尚未决定选民的焦点小组成为定义叙事的时刻,尽管他们代表的不过是统计噪声。
基于少数关于移民、福利接受者或警察的轶事形成政治观点,每个故事都被当作数百万不同个体的代表。
4.5. 在医疗保健中
肾癌地图是一个引人注目的医学例子。统计学家 Howard Wainer 和 Harris Zwerling 指出,肾癌发病率最低的县绝大部分是农村且人口稀少。直觉上的解释是:农村生活凭借新鲜空气和健康作息预防了癌症。随后他们揭示,发病率最高的县同样绝大部分是农村且人口稀少。共同因素并非生活方式,而是人口规模偏小。在仅有500名居民的县里,出现一例确诊就会把发病率推向全国极端,而零确诊又会让它跌至谷底。
医生在罕见疾病中过度解读阳性检测结果,未能考虑到基础概率和样本量。一名读数三次升高的患者被诊断患有慢性疾病,但这可能只是反映了测量方差。治疗效果往往是根据少数患者而不是随机对照试验来判断的。
公共卫生官员追逐所谓的“癌症聚集区”和“健康区”,而那些不过是小人口地区的统计假象。资源根据会在更大样本下回归均值的极值而被错误分配。
4.6. 在金融和投资中
幸存者偏差是金融市场中一种特别有害的样本量忽视形式。当投资者分析过去10年的共同基金表现时,他们只考察仍然存在的基金(幸存者)。失败和被清算的基金从样本中缺失,人为地抬高了表面上的平均回报率。投资者可能会看到8%的平均回报率,并得出主动管理有效的结论,而如果把“已清盘”基金也算进来,回报率会是4%或更低。
投资者追逐拥有3-5年业绩记录的基金,把这小段时间样本当作持久技能的证据。Richard Thaler 的研究表明,投资者从少量收益新闻样本中过度外推:三个季度超出预期的业绩被当作结构性的优异表现,把价格推至不理性的水平。
Robert Shiller 记录了市场价格波动远远超出基本面所能支持的程度。这种“过度波动”源于投资者把短期新闻(公司长期未来的小样本)当成关于永久价值的决定性信息。
5. 真实世界案例研究
案例研究 1:心理学中的可重复性危机
-
背景: 几十年来,心理学研究都在小样本下运行(通常每个条件 N=20 或 N=40)。“力量姿势”研究(Carney、Cuddy 和 Yap,2010)声称,保持“高权力”姿势两分钟会导致荷尔蒙变化并增加冒险行为。样本量为42名参与者。
-
发生了什么: 这项研究发表在一流期刊上,引起了媒体的极大关注,并催生了被观看数百万次的TED演讲。科学界接受了 N=42 足以检测到细微荷尔蒙效应的假设。
-
偏差的作用: 研究人员、编辑和审稿人深受 Tversky 和 Kahneman 所描述的这种偏差之害,他们相信小样本足够强大,能够检测出细微的效应。他们在噪声中看到了规律。
-
后果: 当随后尝试使用 N=200+ 进行大规模重复实验时,荷尔蒙效应完全消失了。开放科学合作组织(2015)重复了100项心理学研究,发现能够成功重现的不到一半。主要罪魁祸首就是对统计效力不足的研究的依赖。
-
经验教训: 科学出版中的“赢家诅咒”意味着,得以发表的研究往往是那些夸大了效应量且恰好跨过统计显著性门槛的研究。真正的效应只有在大样本中才会显现。此后,心理学界推行了要求更大样本和研究预注册的改革。
案例研究 2:新可乐灾难
-
背景: 1985年,可口可乐面临着来自百事可乐“百事挑战”盲测越来越大的市场压力。内部研究表明,在逐口品尝的比较中,更甜的百事可乐获胜。
-
发生了什么: 可口可乐进行了近200,000次盲测,发现人们对更甜的新配方有压倒性的偏好。基于这些数据,他们用“新可乐”取代了其拥有百年历史的配方。
-
偏差的作用: 这些都是“啜饮测试”,只是饮用整罐饮料这段体验的微小样本。高管们假设这个微观样本能够代表完整的消费体验。喝一小口时,甜味令人愉悦;喝完整罐时,它就变得令人腻烦了。
-
后果: 消费者的反抗直接而强烈。在79天内,可口可乐就将原配方以“经典可口可乐”之名重新推向市场。该公司损失了数百万美元,并遭受了持久的品牌损害。
-
经验教训: “样本”必须与它所代表的“总体”相匹配。喝一小口不是喝一整罐,就像进一次店不等于顾客忠诚度。分析单位必须与现实世界中的真实行为相对应。
历史例子:1936年《文学文摘》民意调查
《文学文摘》杂志开展了一次看似达到民调黄金标准的调查:发出1000万份问卷,收回240万份。他们预测阿尔弗雷德·兰登将以57%的选票击败富兰克林·罗斯福。结果罗斯福以61%的得票率获胜。
《文摘》的编辑们相信巨大的样本量能够保证准确性。他们未能意识到的是,自己的抽样框架(电话簿和汽车登记册)系统性地排除了大萧条时期没有这些财富标志的低收入选民,而这批选民压倒性地支持罗斯福的新政政策。乔治·盖洛普仅对50,000名受访者进行了适当的概率抽样,便准确预测了选举结果。
这一案例给我们的启示是,一个代表性良好的小样本(n=3,000)远比一个规模庞大但存在偏差的样本(N=240万)可靠得多。《文摘》杂志在两年后停刊,成为了自身未能理解样本质量与样本量之间关系的牺牲品。
6. 这种偏差的代价
6.1. 个人代价
当我们根据少数行为样本来判断伴侣时,人际关系就会受损:几个糟糕的日子成了根本性性格缺陷的证据。当我们在有限的尝试后断定自己“不能”做某事时,个人成长就会停滞。职业转变在只是反映自然差异的初期挫折后被放弃。
当我们从自己的单一经历或朋友的少数轶事来判断治疗效果时,健康决策就会出错。当我们追逐近期的赢家或逃离近期的输家时,投资组合就会管理不善。我们会产生迷信,相信纯粹随机的事物中存在模式。
心理代价包括对不稳定的结论抱有不合理的信心,随之而来的是当预测失败时的困惑。我们为纯粹随机的变异构建繁复的因果解释,也建立了与实际模式不符的现实心理模型。
6.2. 职业代价
当管理者根据有限的观察错误判断我们的能力时,职业发展就会受到影响。优秀的员工被忽视,因为早期的印象(行为的小样本)与成功的刻板印象不符。糟糕的招聘决定浪费了组织资源并破坏了团队活力。
当商业战略针对早期结果而不是长期趋势进行调整时,它们就会失败。产品过早推出,或者根据噪音数据过早终止。当小样本被当作有代表性时,市场研究会把公司引入歧途。
随着投资决策追逐近期业绩,财务损失不断累积。在三年内表现良好的基金经理吸引了大量资金流入,结果却回归均值,让假设小样本能预测未来回报的投资者大失所望。
6.3. 社会代价
可重复性危机已使数以十亿计的研究资金浪费在无法重现的研究上。医疗方法基于小型试验被采用,结果却在更大人群中显示出没有任何益处。公共卫生资源被错误分配去处理小人群中的统计假象。
当关于个别案例的轶事塑造了关于数百万人的政策辩论时,政治讨论就会被毒化。当引人注目的案件(小样本)推动立法时,刑事司法系统就会被扭曲。当发现的结果随着样本量增加而发生逆转时,公众对科学的信任就会受到侵蚀。
市场变得比基本面更不稳定,制造出破坏财富和经济稳定性的繁荣-萧条周期。由于政客回应公共舆论的小样本而不是稳定的偏好,公共政策在极端之间摇摆不定。
6.4. 统计影响
研究结果提示,样本量低于 N=50 的研究,其效应量严重夸大,通常达到100%或更多。开放科学合作组织发现,只有36%的心理学研究能够被成功重复,统计效力不足的研究是主要驱动因素。
在金融领域,幸存者偏差把表面上的共同基金回报率每年抬高了大约1-2%,这个差额在数百万投资者身上复合,造成了数百万美元的退休储蓄被错误配置。
由基础概率谬误和样本量忽视引发的医疗诊断错误,估计每年影响1200万美国人,其中大约一半导致了伤害。
7. 隐藏的益处
这种偏差并不完全是不良适应。它是速度和准确性之间的一种权衡,在数据稀缺且必须立即采取行动的祖先环境中得到了优化。
从有限数据中快速学习: 在真正危险的环境中,从单一事例中概括的能力(遭遇一次捕食者,尝到一颗有毒浆果)具有显而易见的生存价值。等待“具有统计学意义”的证据可能是致命的。
认知经济性: 要将信心恰当地对应到样本量上,需要调用系统2,那是缓慢、费力且耗费代谢能量的。在低风险情况下,系统1的认知捷径能以最低的认知成本提供“足够好”的判断。
行动导向: 这种偏差促进果断行动,而非令人瘫痪的犹豫不决。在现实世界的许多情况下,依据不完整的信息采取行动,胜过等待永远不会到来的确定性。
模式检测: 在小样本中看出规律的倾向虽然经常犯错,但偶尔也能发现纯统计方法容易漏掉的真实信号。在某些领域中,假阳性(看到不存在的规律)的代价可能低于假阴性(错过真实规律)。
完全消除这种偏差需要持续不断的统计计算,这会耗尽认知资源。目标不是消除,而是恰当校准:在高风险情况下运用统计推理,同时在低风险背景下允许启发法发挥作用。
8. 自我评估:你是否有这种偏差?
8.1. 警告标志清单
- 我会在仅有一次体验后就对餐厅、产品或服务形成强烈的看法
- 我把体育运动、赌博或投资中短期的连赢或连输视作持久趋势的证明
- 当硬币连续三次或更多次同一面朝上时,我会觉得很惊讶
- 我期望短期的投资回报能持续到长期
- 我把朋友讲的个例看得和统计证据一样重要
- 我曾因为一件事就改变了对某人品行的看法
- 无论评价人数多么少,只要意见一致,我就更信任它
- 我觉得一个精心挑选的小样本应该给出与大样本相同的结果
- 在看到一种模式两三次之后,我就对其充满信心
- 根据少数几次经历,我经常说“这种事总是发生在我身上”
计分:
- 勾选 0-2 项:敏感度低
- 勾选 3-5 项:中等敏感度
- 勾选 6-8 项:敏感度高
- 勾选 9-10 项:极高敏感度
8.2. 自我反思问题
-
当你读到一种新药在临床试验中“有效率达80%”时,你会本能地想到问研究中有多少患者吗?
-
你是否曾经在头两周内放弃了一个新习惯、节食或日常规律,因为觉得它“没用”,而没有考虑过你是否给了它足够的时间来显示结果?
-
当朋友根据他们的一次经历推荐医生、餐厅或产品时,与综合评价相比,你在多大程度上看重那个推荐?
-
你是否曾经觉得随机事件在连胜/连败之后“欠”你一个不同的结果(例如,老虎机“该”吐钱了)?
-
是否有人曾指出你是从太少的信息中得出结论的?
8.3. 快速诊断场景
场景: 你正在为退休储蓄研究两只共同基金。A基金由明星经理打理,过去3年年化回报率为15%。B基金管理水平一般,过去15年年化回报率为9%。你会选择哪只基金?
- A) A基金,因为15%比9%好得多,而且经理显然技能出众 → 敏感度高
- B) A基金,但我想在完全投入之前看到更多的历史数据 → 中等敏感度
- C) B基金,因为15年的数据比3年更可靠,而且这种差异可能只是运气 → 敏感度低
9. 识别他人身上的这种偏差
9.1. 行为指标
观察决策模式:他们是否根据有限的证据做出强有力的承诺?他们是否根据最近的结果迅速改变路线?他们是否在仅仅几个数据点之后就表达了高度自信?
留意他们如何讨论概率和机会:他们是否期望随机性在短期内“平衡”?他们是否在看似噪声的事物中看到了有意义的模式?当结果不符合预期时,他们是否把它当成“侥幸”而置之不理?
注意对轶事与统计数据的反应:他们是否比汇总数据更看重生动的个人故事?他们是否把单个例子概括为普遍规律?
9.2. 对话中的危险信号
受这种偏差影响的人常说的话:
- “这已经连续发生三次了。这里肯定有规律”
- “我试过一次但没用,所以……”
- “概率最终总会扯平的”
- “我朋友在那件事上的体验糟透了,所以我绝不会尝试”
- “过去两个季度表现非常棒,这家公司显然管理得很好”
他们提出的论点类型:
- 把少数几个例子当作趋势的证明
- 期望小样本完美地代表总体特征
他们回避提出的问题:
- “这是基于多少次观察?”
- “样本量是多少?”
- “这会不会只是随机波动?”
9.3. 情境触发因素
激活此偏差的情况:
- 时间压力迫使快速做出决定
- 情绪激动的环境中生动的例子很突出
- 复杂的统计信息以百分比而不是频率格式呈现
- 反馈滞后的领域(投资、招聘、健康选择)
- 轶事比数据更容易获得的背景下
环境因素:
- 阻止仔细进行统计评估的信息过载
- 呈现出有偏差的舆论样本的信息茧房
- 强调故事而非统计数据的媒体
增加脆弱性的情绪状态:
- 焦虑时从任何可用证据中寻求确定性
- 兴奋促使对早期积极信号过度自信
- 挫折感驱使在模棱两可的情况下寻找规律
10. 认知去偏策略
10.1. 即时技巧
“N”问题: 在得出任何结论之前,先问问“这个结论基于多大的样本量?”,在解读结果之前务必让样本量显现出来。
稳定性测试: 问问自己“如果样本量翻一倍或增加到三倍,我还会预期这个结果保持不变吗?”,如果答案是否定的,就先保留判断。
重新构建为频率: 将百分比转换为自然频率(“80%有效”转换为“10个人中有8个”)。这样自然会把样本量纳入分母之中。
均值回归法则: 假设极端结果终将向均值回归。如果某件事显得异常优异或差劲,预料它随着时间的推移会变得更趋于平均水平。
寻找基础概率: 在评估具体证据之前,先确定在总体中通常会发生什么,以此作为锚点。
10.2. 长期策略
统计素养: 投资于基础概率和统计学教育。了解方差、标准误和置信区间,能给你一套概念框架,用来判断样本量在什么时候真正要紧。
培养怀疑的习惯: 训练自己自动质疑小样本发现的可靠性。把“这数据够吗?”变成一个条件反射式的问题。
追踪你的预测: 记录下从有限数据得出的结论,以及它们随时间推移是否站得住脚。这提供了关于校准的个人反馈。
学习经典案例: 熟悉经典案例(医院问题、肾癌地图),以便在评估新情况时能浮现在脑海中。
10.3. 环境设计
将样本量纳入决策流程: 建立组织规则,要求在得出结论之前有最低样本量。在根据早期结果采取行动前实施等待期。
使用视觉工具: 创建仪表板,显示小样本的置信区间扩大。在视觉上突出不确定性。
要求频率格式: 在组织沟通中,强制要求概率以带有明确分母的自然频率呈现。
安排“魔鬼代言人”: 指派团队成员专门质疑样本量是否足以支撑信心水平。把怀疑精神制度化。
10.4. 何时寻求外部意见
高风险决策: 任何基于有限数据做出的重大选择(重大投资、招聘、医疗方案)都值得寻求统计学专业咨询。
当你感到确信时: 矛盾的是,从小样本中产生的强烈信心恰恰应该触发外部审查。不妨自问“手头的数据真的足以支撑这份确信吗?”。
领域专家: 统计学家、数据科学家和研究人员可以提供经过校准的证据强度评估。可以这样提出咨询,“在 N=X 的情况下,我对这一结论应当抱有多大信心?”。
当模式快速显现时: 如果你在仅仅几次观察后就看到了清晰的规律,请咨询那些对结果没有切身利益关联的人,以评估这种规律是否可能持续。
11. 实践练习
练习 1:抛硬币实验
- 目标: 培养对小样本变异性的直觉
- 所需时间: 20分钟
- 所需材料: 一枚硬币、纸、笔
- 难度等级: 初级
- 指示:
- 抛掷硬币10次,记录正面朝上的百分比
- 重复此操作10次,创建10个样本,每个样本包含10次抛掷
- 注意百分比的范围(可能在20%到80%之间)
- 现在抛掷硬币100次并记录百分比
- 重复进行第二组100次抛掷
- 比较10次抛掷样本与100次抛掷样本的变异性
- 反思问题:
- 小样本的变异性让你感到多惊讶?
- 是否有任何10次抛掷的序列让人感觉“被操纵了”,即使你知道硬币是公平的?
- 100次抛掷的百分比相互比较情况如何?
- 频率: 一次,然后在你需要提醒时回顾
练习 2:评论分析
- 目标: 练习在实际决策中将信心与样本量进行校准
- 所需时间: 30分钟
- 所需材料: 互联网接入
- 难度等级: 中级
- 指示:
- 搜索一个你可能会购买的产品类别(耳机、书籍、餐厅)
- 找到三个项目:一个有5条评论,一个有50条评论,一个有500条评论
- 对于每一个,记下平均评分并阅读几条评论
- 写下你对每个评分准确性的信心程度
- 考虑:一条极端的新评论会在多大程度上改变每个平均值?
- 反思问题:
- 你是否自然地对拥有更多评论的评分感到更有信心?
- 评论的分布(全是5星对毁誉参半)如何影响你的信心?
- 你需要多大的最低样本量才会信任一个评分?
- 频率: 每月一次,使用不同的产品类别
练习 3:历史回测
- 目标: 体验小样本结论随着时间的推移是如何失败的
- 所需时间: 45分钟
- 所需材料: 历史股票数据或体育统计数据(在线免费获取)
- 难度等级: 高级
- 指示:
- 选择数据跨度至少10年的10只股票或运动员
- 仅看第一年的数据。找出前3名表现最好的
- 预测他们在第2年仍会是表现最好的
- 检查第2年的结果。有多少保留在前3名中?
- 现在查看5年平均值。找出前3名表现最好的
- 检查随后的5年表现。比较准确性
- 反思问题:
- 短期表现如何预测长期结果?
- 什么解释了你所观察到的均值回归现象?
- 这会如何改变你的投资或下注策略?
- 频率: 每季度一次
每日练习
每天,注意一个你正在从有限数据中得出的结论。在接受它之前,问问自己:“这是基于多少次观察得出的?”和“如果我有10倍的数据,我会得出什么结论?”仅仅标记样本量问题就够了。你不需要改变结论,只需注意其局限性。
- 建议时长:2分钟
- 一天中最佳时间:晚上反思
- 如何追踪进度:在小笔记本上记录每天的观察次数
每周挑战
每周一次,找一篇引用了统计数据的新闻文章或社交媒体帖子。研究原始来源并找出样本量。简要写一条笔记,判断证据强度是否足以支撑这些结论。
- 4周后的预期结果:对报道的发现产生自然的怀疑;自动关注样本量
- 反思日记提示:
- 本周我发现的最令人惊讶的样本量是多少?
- 了解样本量如何改变了我对该发现的解释?
- 我最初的怀疑态度是否变得更加校准?
12. 针对特定受众
致领导者和管理者
领导者经常根据有限的数据做出高风险决策:季度业绩、早期产品反馈、面试印象、试点项目结果。样本量忽视的成本会在组织规模上产生复利。
具体策略:
- 在断定计划成功或失败之前制定最短的观察期
- 要求在所有内部研究和分析中报告样本量
- 创建明确纳入来自小样本不确定性的决策框架
- 做统计谦逊的榜样:当更多数据改变情况时,公开修正结论
- 组建拥有统计专业知识的团队,挑战过度自信的解释
基于团队的干预措施:
- 在重要会议中指定一个“样本量倡导者”角色
- 围绕信心校准建立规范:“考虑到这个 N 值,我们应该有多大把握?”
- 对过去基于有限数据做出的决策进行事后剖析
致父母和教育工作者
儿童需要在接受正式的概率教育之前培养统计直觉。目标是建立质疑证据强度的思维习惯。
适合不同年龄的解释:
- 幼儿:“当我们只尝试过某件事几次时,我们没法真正知道它是否总是那样”
- 稍大儿童:使用游戏和实验(抛硬币、掷骰子)来演示小样本是如何变化的
- 青少年:讨论社交媒体如何制造有偏差的同伴行为和观点样本
活动:
- 用骰子和硬币做家庭实验,观察方差
- 讨论在断定某事是“好”或“坏”之前,它值得尝试多少次
- 一起分析广告主张:“他们怎么知道的?”
致医疗保健专业人员
医疗决策关乎生死,这让对样本量保持敏感变得十分关键。乳房X光检查问题表明,即使受过训练的医生,也难以做好统计推理。
临床意义:
- 认识到个别患者的异常检测结果可能是抽样差异
- 对罕见疾病要格外小心,因为那里的基础概率使得假阳性很可能出现
- 在与患者沟通风险时使用频率格式
医患沟通策略:
- 解释单个测试结果只是一个数据点;随时间推移的监测能提供更可靠的信息
- 以明确的样本量呈现治疗效果数据:“在一项针对500名患者的研究中……”
- 帮助患者理解他们的个人经历可能与总体统计数据不符
致金融专业人士
市场对忽视样本量的行为惩罚严厉。追逐三年的业绩记录、对季度盈利过度反应以及忽视幸存者偏差,每年使投资者损失数十亿美元。
特定于投资的应用:
- 在断定存在经理技能之前,要求更长的业绩记录
- 在分析基金类别时要考虑幸存者偏差
- 认识到短期跑赢大盘与随机波动是一致的
客户沟通策略:
- 教育客户关于短期表现不可靠的常识
- 以适当的置信区间呈现历史数据
- 解释均值回归:极端结果通常随着时间的推移而变得缓和
风险管理影响:
- 假设近期赢家将会回归均值来构建投资组合
- 要求对新策略进行更长的评估期
- 把小样本产生的不确定性纳入风险模型中
13. 与其他偏差的相互作用
会放大这种偏差的偏差
| 偏差 | 相互作用方式 |
|---|---|
| 代表性启发法 | 上位偏差;我们通过与刻板印象的相似度来判断概率,而不是依据样本的可靠性。 |
| 可得性启发法 | 生动、难忘的轶事(小样本)比抽象统计数据更容易在脑海中浮现。 |
| 确认偏误 | 我们接受能印证自身信念的小样本,同时要求大样本来改变我们的想法。 |
| 叙事谬误 | 我们构建因果故事来解释小样本模式,而这些模式实际上是随机的。 |
| 赌徒谬误 | 期望短期序列“达到平衡”源于期望小样本能匹配总体。 |
能抵消这种偏差的偏差
| 偏差 | 如何起到帮助作用 |
|---|---|
| 现状偏见 | 不愿根据新信息进行改变可以防止对小样本发现反应过度。 |
| 损失厌恶 | 对损失的恐惧可能会促使在根据有限证据采取行动之前进行更仔细的评估。 |
常见的偏差链
代表性启发法 → 样本量忽视 → 赌徒谬误 → 沉没成本谬误
解释:我们一开始根据相似性而不是样本可靠性来判断概率。当小样本偏离预期模式时,我们期望它们会“纠正”,于是有了赌徒谬误。当它们没有纠正时,我们可能会继续投资(沉没成本),相信“转机”即将到来。
打断此链条:在最初阶段就质疑样本量。在展开任何因果解释之前,先问问自己“这批数据真的足以让人信赖吗?”。
14. 文化视角
关于这种偏差在文化差异方面的研究仍然有限,但跨文化认知心理学中出现了一些模式。
强调分析性思维的文化(通常与西方、个人主义社会相关)可能会表现出与强调整体性思维的文化(通常与东亚、集体主义社会相关)不同的弱点模式。整体性思考者可能更关注背景和情境因素,这或许在一定程度上缓和了从小样本得出的极端结论。
强调死记硬背数学计算还是概念统计推理的教育系统,可能会影响偏差的严重程度。频率格式假说提示,具有更强具体和体验式数学传统的文化,可能在对样本量敏感的任务中表现得更好。
| 文化类型 | 表现形式 |
|---|---|
| 个人主义文化 | 可能更关注个体数据点和结果,可能增加对轶事证据的敏感度。 |
| 集体主义文化 | 可能更看重群体共识和积累的智慧,可能对个体小样本提供一定的防御。 |
| 高语境文化 | 可能认识到有限的显性信息无法捕捉全貌,从而可能缓和过度自信。 |
| 低语境文化 | 可能要求显性证据,但在缺乏对样本大小敏感性的情况下,小的显性样本可能会被赋予过高权重。 |
来自 Project Implicit(参与研究者来自以色列本-古里安大学和哈佛大学)等机构的跨文化研究表明,虽然这种偏差是普遍存在的,但对启发法的依赖程度可能因教育系统和文化规范而异。
15. 迷思与误解
| 误解 | 实际情况 |
|---|---|
| “只要样本量足够大,偏差就无关紧要” | 1936年的《文学文摘》民意调查收到了240万份回复,但由于样本存在偏差而惨遭失败。样本质量和大小一样重要。 |
| “专家对这种偏差具有免疫力” | 研究表明,医生、科学家和金融专业人士忽视样本量的情况与普通人类似,尤其是在时间压力下。 |
| “统计学只是关于数字;直觉对于日常决策就足够了” | 日常决策(招聘、人际关系、健康)往往比抽象的统计问题具有更高的个人风险。这种偏差在两个领域都会造成系统性错误。 |
| “这只影响概率问题” | 这种偏差影响任何基于有限观察做出的判断:性格评估、产品评价、趋势识别和因果推断。 |
| “一旦你了解了这种偏差,你就会受到保护” | 知识提供了一定的保护,但这种偏差通过自动的系统1过程运作。持续的警惕和环境设计是减轻其影响所必需的。 |
16. 专家见解
“人们对机会法则有着错误的直觉。特别是,他们认为从总体中随机抽取的样本具有高度的代表性,即在所有基本特征上都与总体相似。” — Amos Tversky 和丹尼尔·卡尼曼,“Belief in the Law of Small Numbers,” Psychological Bulletin 76(2)(1971),第 105-110 页 https://doi.org/10.1037/h0031322
Tversky 和卡尼曼把对样本量的不敏感描述为一种失误:人们没有看到小样本的波动远大于大样本,于是依据结果与总体有多相似来判断,而忽略了它所依据的观察有多少。 — 概述自 Amos Tversky 和丹尼尔·卡尼曼,“Judgment under Uncertainty: Heuristics and Biases,” Science 185(4157)(1974),第 1124-1131 页 https://doi.org/10.1126/science.185.4157.1124
Gerd Gigerenzer 和 Ulrich Hoffrage 表明,当统计证据以自然频率(例如 1,000 人中有 10 人)而不是概率或百分比给出时,人们的推理要好得多。 — 概述自 Gerd Gigerenzer & Ulrich Hoffrage,“How to Improve Bayesian Reasoning Without Instruction: Frequency Formats,” Psychological Review 102(4)(1995),第 684-704 页 https://doi.org/10.1037/0033-295X.102.4.684
17. 关键要点
-
方差随样本量增加而减小: 这一数学真理(σ/√n)总是被人类直觉所违反。小样本本质上是波动的;大样本是稳定的。
-
这种偏差是普遍的: 从普通人到诺贝尔奖得主,每个人都表现出这种倾向。统计学训练可以减少但不能消除它。由 Tversky 本人共同署名的1985年热手研究,正是依赖了在短序列中表现异常的统计量,其结论在2018年被推翻。
-
我们在噪音中看到规律: 大脑的模式识别系统没有考虑样本的可靠性,导致我们为随机波动编造因果故事。
-
呈现格式很重要: 以自然频率(“1,000个中的10个”)而不是百分比呈现信息,可以大大改善推理,这提示该偏差在一定程度上是信息设计的问题。
-
代价是巨大的: 可重复性危机、医疗误诊、金融泡沫和营销灾难,全都可以追溯到这单一的错误上。
-
这种偏差的进化有其充分理由: 在数据匮乏的祖先环境中,从小样本中快速得出概括具有适应性。它与现代数据丰富环境的不匹配造成了这个问题。
-
问问“N 是多少?”: 最有效的干预措施就是在得出结论之前把样本量显现出来。
18. 延伸资源
学术论文
- Tversky, A., & Kahneman, D. (1971). Belief in the law of small numbers. Psychological Bulletin, 76(2), 105-110. https://doi.org/10.1037/h0031322
- Tversky, A., & Kahneman, D. (1974). Judgment under uncertainty: Heuristics and biases. Science, 185(4157), 1124-1131. https://doi.org/10.1126/science.185.4157.1124
- Gigerenzer, G., & Hoffrage, U. (1995). How to improve Bayesian reasoning without instruction: Frequency formats. Psychological Review, 102(4), 684-704. https://doi.org/10.1037/0033-295x.102.4.684
- Gilovich, T., Vallone, R., & Tversky, A. (1985). The hot hand in basketball: On the misperception of random sequences. Cognitive Psychology, 17(3), 295-314. https://doi.org/10.1016/0010-0285(85)90010-6
- Hoffrage, U., & Gigerenzer, G. (1998). Using natural frequencies to improve diagnostic inferences. Academic Medicine, 73(5), 538-540. https://doi.org/10.1097/00001888-199805000-00024
- Miller, J. B., & Sanjurjo, A. (2018). Surprised by the hot hand fallacy? A truth in the law of small numbers. Econometrica, 86(6), 2019-2047. https://doi.org/10.3982/ecta14943
- Wainer, H., & Zwerling, H. L. (2006). Evidence that smaller schools do not improve student achievement. Phi Delta Kappan, 88(4), 300-303. https://doi.org/10.1177/003172170608800411
书籍
- Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.
- Gigerenzer, G. (2002). Calculated Risks: How to Know When Numbers Deceive You. Simon & Schuster.
- Thaler, R. H. (2015). Misbehaving: The Making of Behavioral Economics. W. W. Norton & Company.
- Stanovich, K. E. (2009). What Intelligence Tests Miss: The Psychology of Rational Thought. Yale University Press.
书籍章节
- Kahneman, D., & Tversky, A. (1972). Subjective probability: A judgment of representativeness. In Cognitive Psychology, 3(3), 430-454. https://doi.org/10.1007/978-94-010-2288-0_3
19. 总结卡片
| 要素 | 内容 |
|---|---|
| 偏差名称 | 样本量忽视 |
| 定义 | 系统性地未能认识到方差会随着样本量增加而减小 |
| 类别 | 意义不足 |
| 关键迹象 | 根据有限的观察得出自信的结论 |
| 主要原因 | 代表性启发法:通过相似性而不是可靠性来判断概率 |
| 最大风险 | 将策略、治疗和信念建立在终将回归均值的不可靠数据之上 |
| 快速修复 | 在接受任何统计结论之前,总是问“N 是多少?” |
| 长期策略 | 培养统计素养;将概率转换为频率;将最低样本要求制度化 |
| 铭记 | “小样本在尖叫;大样本在低语。相信低语。” |
20. 术语表
| 术语 | 定义 |
|---|---|
| 大数定律 | 指出随着样本量的增加,样本均值趋向于总体均值的数学定理。 |
| 标准误 | 衡量抽样变异性的指标;等于 σ/√n,表明更大的样本拥有更小的误差。 |
| 系统1 / 系统2 | Kahneman 的理论框架:系统1是快速、直觉、自动的;系统2是缓慢、深思熟虑、费力的。 |
| 代表性启发法 | 根据与刻板印象的相似性,而不是基于实际基础概率和样本可靠性来判断概率。 |
| 赌徒谬误 | 错误地认为随机事件在短期内会“达到平衡”的观念。 |
| 幸存者偏差 | 仅分析成功案例(幸存者)而忽略失败案例,导致估值被夸大。 |
| 基础概率 | 某一事件在总体中潜在的发生频率,在概率判断中经常被忽视。 |
| 均值回归 | 一种统计现象,极端值往往会被更典型的值所跟随。 |
| 自然频率 | 将概率呈现为计数(例如“1,000次中的10次”)而不是百分比。 |
| 生态理性 | Gigerenzer 的理论,认为认知过程是对自然环境结构的适应。 |
| 连中序列选择偏差 | 在短序列中,紧随连中之后的投篮构成了有偏差的样本,导致测得的连中后命中率低于真实命中率;这是1985年热手研究统计方法中的缺陷。 |
21. 讨论问题
供读书俱乐部、课堂或自我反思使用:
-
想想你最近做出的一个重要决定。该决定基于多少数据?如果你拥有十倍的信息,你还会做出同样的选择吗?
-
为什么你认为统计学训练不能完全消除这种偏差?这揭示了关于人类认知结构的什么信息?
-
肾癌地图显示,最高和最低的癌症发病率都出现在人口少的农村县。受过统计学培训的公共卫生官员的处理方式,与未受过培训的官员会有何不同?
-
Gigerenzer 认为,以自然频率而不是百分比来呈现信息,可以大大改善推理。为什么我们的大脑处理“1,000个中的10个”比处理“1%”更好?
-
如果这种偏差在祖先的环境中具有适应性,这说明我们应当如何看待它,是将其视作必须消除的缺陷,还是应当适度加以引导?