Регрессия к среднему (Regression to the Mean)

Краткий обзор

Категория Детали
Определение Статистическая закономерность: если результат хотя бы отчасти зависит от случая, за необычно крайним показателем обычно следует показатель, более близкий к среднему. Само явление не является искажением. Искажение, строго называемое ошибкой регрессии, заключается в привычке приписывать это возвращение к среднему любым действиям между событиями: строгому разговору, новой таблетке, смене тренера или счастливой рубашке.
Категория Недостаточно смысла (мы находим истории и закономерности даже в скудных данных)
Сложность преодоления Высокая
Распространенность Повсеместная
Связанные когнитивные искажения Феномен «горячей руки», Ошибка игрока, Иллюзорная корреляция, Эвристика репрезентативности, Нечувствительность к размеру выборки, Искажение результата, Эффект плацебо

1. Краткое содержание

Любой показатель, в котором смешаны навык и удача, после крайнего значения смещается обратно к своему долгосрочному среднему, поскольку удача, породившая крайность, вряд ли повторится. Студент, проваливший один экзамен, следующий обычно сдает лучше; бейсболист, отбивающий 0,400 в апреле, остывает; пациент, пришедший к врачу в самый тяжелый день обострения, через неделю чувствует себя лучше, с лечением или без него. Фрэнсис Гальтон измерил эту закономерность на росте членов семей в 1886 году, а Канеман и Тверски в 1973 году показали, что человеческая интуиция ее игнорирует. Беда в том, что мы действуем именно на крайностях: хвалим после лучшего результата и наказываем после худшего, начинаем прием лекарств на пике симптомов, а затем видим, как цифры выравниваются, и решаем, что помогли похвала или таблетка. Этот вывод и есть ошибка регрессии, и на нее попадаются даже опытные статистики.


Простыми словами

Когда у тебя случается очень удачный или очень неудачный день, следующий обычно оказывается более обычным. Это происходит само собой. Удача не держится на краю долго. Ошибка в том, чтобы думать, будто перемену вызвало то, что ты сделал в промежутке.

Представь, что ты играешь в видеоигру и набираешь худший счет за все время. Старший брат говорит, что ты неправильно держишь геймпад, и заставляет тебя сменить хват. В следующей игре счет растет. Помог ли новый хват? Возможно. Но такой плохой результат был в основном невезением, и следующий счет все равно оказался бы лучше. Теперь брат уверен, что его совет про хват работает, и ты тоже.

Вот полезный прием. Когда что-то улучшается после твоего вмешательства, задай себе один вопрос: было ли положение дел необычайно плохим прямо перед этим? Если да, твое действие могло вообще ничего не изменить. Попробуй вернуться к старому способу еще на несколько попыток и сравни. Только тогда станет понятно, что сработало на самом деле.


2. Научное обоснование

2.1. Открытие и история

Фрэнсис Гальтон впервые заметил эту закономерность в 1870-х годах на душистом горошке: потомство очень крупных семян было крупным, но не таким крупным, как родительские семена, а потомство очень мелких семян было не таким мелким. Он назвал это «возвратом» (reversion) и счел фактом о наследственности.

Данные по людям появились в статье 1886 года «Regression towards mediocrity in hereditary stature». Гальтон собрал данные о росте 928 взрослых детей из 205 родительских пар и сопоставил их с объединенным ростом родителей («mid-parent»). У высоких родителей дети были высокими, но в среднем их рост проходил лишь около двух третей пути от среднего по популяции до роста родителей. Слово «mediocrity» означало середину, а не низкое качество. Сначала Гальтон принял это за действующую силу наследственности, но затем увидел, что сопоставление родителей с детьми дает тот же результат: регрессия возникает везде, где две величины коррелируют, но не идеально, в обоих направлениях и без всякой биологии.

Самую наглядную раннюю демонстрацию этой ошибки дал в 1933 году Хорас Секрист, профессор статистики Северо-Западного университета, опубликовав книгу The Triumph of Mediocrity in Business. Он десять лет отслеживал рентабельность сотен фирм и обнаружил, что самые прибыльные в первый год фирмы к десятому году сползли к среднему, а наименее прибыльные поднялись. Он истолковал это как конкуренцию, перемалывающую превосходство. Гарольд Хотеллинг в рецензии на книгу в Journal of the American Statistical Association указал, что Секрист заново открыл регрессию и что разброс рентабельности в его собственных данных не уменьшился.

Дональд Кэмпбелл и Джулиан Стэнли перенесли этот урок в планирование исследований в 1963 году, включив «статистическую регрессию» в перечень угроз внутренней валидности: любая группа, отобранная по крайнему баллу, будет выглядеть улучшившейся после любого воздействия. Психология подключилась со статьей Канемана и Тверски 1973 года «On the psychology of prediction», которая показала, что люди прогнозируют так, будто связь между данными и исходом идеальна. Позже Канеман рассказал историю, стоявшую за ней: инструктор летной подготовки ВВС Израиля на основе опыта пришел к выводу, что похвала делает курсантов хуже, а крик лучше.

Ключевые вехи:

  • 1877: Гальтон сообщает о «возврате» к среднему в размерах семян душистого горошка
  • 1886: статья Гальтона о росте находит коэффициент регрессии около двух третей у 928 взрослых детей
  • 1933: в книге The Triumph of Mediocrity in Business Секрист принимает регрессию за закон конкуренции; рецензия Хотеллинга выявляет ошибку
  • 1963: Кэмпбелл и Стэнли называют статистическую регрессию угрозой внутренней валидности
  • 1973: Канеман и Тверски показывают, что интуитивные прогнозы «нерегрессивны»
  • 1999: Кэмпбелл и Кенни публикуют книгу A Primer on Regression Artifacts
  • 2005: Барнетт, ван дер Полс и Добсон публикуют методическое руководство в International Journal of Epidemiology

2.2. Ключевые исследователи

Исследователь Вклад Год
Фрэнсис Гальтон Открыл и назвал регрессию к среднему 1877-1886
Хорас Секрист Невольно создал самый известный пример ошибки регрессии 1933
Гарольд Хотеллинг Диагностировал ошибку Секриста в Journal of the American Statistical Association 1933
Дональд Кэмпбелл и Джулиан Стэнли Включили статистическую регрессию в число угроз внутренней валидности 1963
Даниэль Канеман и Амос Тверски Показали, что интуитивный прогноз игнорирует регрессию; привели пример с похвалой и наказанием 1973
Адриан Барнетт, Йолике ван дер Полс и Аннетт Добсон Написали широко цитируемое руководство для медицинских исследований 2005

2.3. Знаковые исследования

«Regression towards mediocrity in hereditary stature» (Гальтон, 1886)

Гальтон сгруппировал 928 взрослых детей по объединенному росту родителей и свел медианы в таблицу. Дети родителей, чей объединенный рост был на 3 дюйма выше среднего по популяции, в среднем оказывались выше среднего примерно на 2 дюйма; дети родителей на 3 дюйма ниже среднего оказывались ниже примерно на 2 дюйма. Суть в самой структуре: когда прогноз строится по неидеальному предиктору, лучший прогноз менее экстремален, чем предиктор.

«On the psychology of prediction» (Канеман и Тверски, 1973)

Участники читали описания людей и прогнозировали такие исходы, как средний балл успеваемости (GPA). Диагностическая ценность описаний была невелика, однако прогнозы оказывались почти в точности такими же крайними, как созданные описаниями впечатления: восторженный абзац давал прогноз блестящего среднего балла. Слабый предиктор должен давать прогноз близко к среднему; участники вели себя так, будто он идеален. Авторы назвали это «нерегрессивным» прогнозом и связали его с эвристикой репрезентативности. В статье также разбирается случай из летной подготовки: инструкторы видели, что после похвалы курсанты в следующий раз летали хуже, а после выговора лучше, и сделали неверный причинный вывод.

The Triumph of Mediocrity in Business и рецензия Хотеллинга (Секрист, 1933; Хотеллинг, 1933)

Секрист разбил фирмы на децили по базовому году и проследил за каждым децилем на протяжении 1920-х годов. Каждый верхний дециль опустился, каждый нижний поднялся. Хотеллинг заметил, что та же картина возникает, если сортировать по последнему году и читать назад: «лучшие» фирмы 1930 года в 1920 году были ближе к среднему. Никакого сближения не происходило. Секрист отобрал крайности и наблюдал, как вымывается случайная составляющая. В последовавшей переписке Хотеллинг сравнил этот метод с доказательством таблицы умножения путем расстановки слонов по рядам и столбцам.

2.4. Неврологическая основа

Нейровизуализационных исследований именно ошибки регрессии нет, и этот раздел не должен делать вид, что они есть. Существует хорошо изученная картина механизмов, на которых эта ошибка работает.

Обучающие системы мозга выявляют причины по временной последовательности: сделать что-то, увидеть изменение, укрепить связь. Дофаминовые нейроны среднего мозга активируются пропорционально тому, насколько исход отличается от ожидаемого (ошибка предсказания награды, описанная Вольфрамом Шульцем и коллегами в 1990-х годах), поэтому неожиданные события, включая крайние результаты, несут непропорционально сильный обучающий сигнал. Сопоставимого сигнала для «это произошло бы в любом случае» нет, потому что контрфактическая базовая линия не является событием и не вызывает удивления. Распознать регрессию значит перекрыть автоматическую связь сознательной статистической мыслью, а это медленно, и этот шаг легко пропустить.


3. Эволюционное происхождение

Нашим предкам не требовалось понятие шума. Им нужно было быстро усваивать, за какими действиями следуют какие исходы, а правило, которое считает любую последовательность «действие, затем изменение» свидетельством причинности, хорошо работает, когда у большинства изменений есть причины, а ложное убеждение стоит дешево.

Регрессия становится проблемой только при определенном масштабе измерений. Для нее нужны величина, которую измеряют многократно, достаточная доля случайной изменчивости и отбор по крайнему значению. Древние люди редко отслеживали числа на множестве попыток и никогда не имели контрольной группы. В малых выборках случайная составляющая огромна, поэтому почти любое замеченное изменение можно было приписать последнему, что кто-то сделал, и никакая обратная связь не могла преподать обратный урок.

За этой ошибкой стоит и социальное давление. Лидер, который действует решительно, когда дела хуже некуда, и за чьим вмешательством следует улучшение, укрепляет свой авторитет. Поскольку дела в худшей точке обычно действительно выправляются, вмешательства в этот момент вознаграждаются обстоятельствами независимо от их достоинств. Тот же механизм вознаграждает наказание: за дисциплинарными мерами после худшего поведения следует лучшее поведение, и культуры, которые наказывают, чувствуют себя правыми.


4. Как проявляется это искажение

4.1. В повседневной жизни

  • Приписывание выздоровления средству от простуды, прием которого начался на пике болезни, когда люди обычно и тянутся за лекарством
  • Вера в то, что «разговор» с ребенком после ужасного табеля привел к улучшению оценок, которое последовало
  • Убеждение, будто счастливый талисман или ритуал перед игрой помогли прервать череду неудач
  • Ожидание, что ребенок, однажды блестяще написавший тест, и дальше будет писать блестяще, и восприятие следующего обычного результата как спада

4.2. На рабочем месте

  • Аттестации сотрудников, где награждают лидеров прошлого квартала и отчитывают отстающих, а сближение их результатов в следующем квартале считают доказательством пользы аттестации
  • Оценка тренингов исключительно по сотрудникам, направленным на курсы из-за плохих результатов, чьи показатели выросли бы в любом случае
  • Убежденность менеджеров в том, что критика полезна, а похвала расхолаживает, поскольку выговор получали после провала, а похвалу после триумфа

4.3. В бизнесе и маркетинге

  • Оценка рекламных кампаний по продажам за месяц после запуска, когда запуск был приурочен к спаду
  • Кейсы о «переломе», посвященные фирмам, которые отобрали потому, что на момент начала исследования они были на самом дне
  • Отзывы покупателей, начавших использовать продукт в момент максимального обострения своей проблемы
  • Рейтинги магазинов «с наибольшим улучшением», которые во многом показывают, каким магазинам больше всего не повезло в базовом периоде

4.4. В политике и медиа

Государственные институты реагируют на крайности практически по определению. Всплески преступности порождают жесткие рейды, а отстающие школы получают целевые программы, поэтому любая инициатива заранее выглядит эффективной независимо от ее реального вклада.

Типичные примеры включают:

  • Программы борьбы с преступностью, объявленные во время всплеска и получающие признание за последующий спад
  • Системы контроля школ, где заведения с худшими баллами показывают самый заметный «прогресс», а школы-лидеры демонстрируют «ухудшение»
  • Камеры контроля скорости на перекрестках, где недавно был худший по аварийности год: последующее улучшение преувеличивает эффект камер
  • Комментарии к опросам, в которых выбивающийся опрос трактуют как тренд, а возврат к среднему как «обвал»

4.5. В здравоохранении

Медицина является сферой, где эта ошибка причиняет больше всего вреда, потому что пациенты обращаются за помощью, когда симптомы хуже всего, а болезни протекают волнообразно. Барнетт, ван дер Полс и Добсон (2005) берут в качестве примера артериальное давление: если набрать людей по одному высокому замеру, среднее по группе при следующем измерении снизится еще до всякого лечения, потому что часть замеров была высокой отчасти случайно. Бланд и Альтман высказали ту же мысль в BMJ в 1994 году. Многое из того, что в неконтролируемых исследованиях приписывают эффекту плацебо, представляет собой регрессию плюс естественное течение болезни; это одна из причин, по которым метаанализ Хробьяртссона и Гётцше 2001 года обнаружил столь малую разницу между группами плацебо и группами без лечения.

Практические следствия:

  • Болезни с обострениями (боли в спине, мигрень, экзема, депрессия) заставляют почти любое лечение, начатое во время обострения, выглядеть эффективным
  • Нетрадиционная медицина процветает благодаря этой схеме, поскольку к ней обращаются после того, как обычное лечение «не помогло» на пике симптомов
  • Врачи могут вынести из опыта убеждение, что лечение работает, хотя наблюдали его только на крайностях
  • Пациенты, бросающие препарат из-за того, что симптомы улучшились, могут бросать как помогавший препарат, так и тот, что ничего не давал

4.6. В финансах и инвестициях

  • Покупка паев фондов, лидировавших по доходности в прошлом году, которые в следующем году в среднем показывают доходность ближе к среднерыночной
  • Увольнение управляющего после плохого года и найм другого после хорошего года, то есть покупка дорого и продажа дешево
  • Интерпретация рекордного квартального отчета корпорации как выхода на принципиально новый уровень, а не как удачного выброса из зашумленного распределения
  • Приписывание центральному банку заслуги в отскоке, который последовал за паническим дном

5. Примеры из реальной жизни

Пример 1: Инструкторы летной школы

  • Контекст: В 1960-х годах Даниэль Канеман, тогда молодой психолог в Израиле, читал инструкторам летной подготовки ВВС Израиля лекции о том, что вознаграждение улучшает обучение навыкам сильнее, чем наказание.
  • Что произошло: Опытный инструктор возразил. Всякий раз, когда он хвалил курсанта за чисто выполненный маневр, следующая попытка обычно выходила хуже; всякий раз, когда он кричал на курсанта за плохой маневр, следующая попытка обычно выходила лучше. Опыт показывает, сказал он, что похвала вредит, а наказание помогает.
  • Механизм искажения: Инструктор был прав в том, что видел, и неправ в том, почему. Маневр, достаточно хороший для похвалы, отчасти был удачей, поэтому следующий, скорее всего, выходил обычнее; маневр, достаточно плохой для крика, отчасти был невезением, поэтому следующий, скорее всего, выходил лучше. Канеман продемонстрировал это на месте: каждый инструктор бросил по две монеты в мишень за спиной, и те, у кого лучше получился первый бросок, во втором в основном бросили хуже, без всякой обратной связи.
  • Последствия: Канеман назвал это одним из самых приятных озарений своей карьеры. Поскольку мы вознаграждаем после хороших исходов и наказываем после плохих, мы, по его словам, статистически наказаны за похвалу и вознаграждены за наказание.
  • Извлеченные уроки: Опыт сам по себе не может отличить действенное вмешательство от вмешательства, примененного на крайности. Это может только сравнение с бездействием.

Пример 2: Проклятие обложки Sports Illustrated

  • Контекст: С 1950-х годов болельщики верят, что обложка Sports Illustrated приносит несчастье. Эдди Мэтьюз из «Милуоки Брэйвз» был на первом номере в 1954 году; вскоре победная серия команды прервалась, а он сломал кисть.
  • Что произошло: В январе 2002 года журнал расследовал собственное проклятие. Журналист Александр Вольф просмотрел все обложки и обнаружил, что чуть больше трети героев обложек вскоре после этого пережили измеримый спад результатов, травму или другую неудачу. На обложке этого номера была черная кошка, потому что ни один спортсмен не согласился для нее позировать.
  • Механизм искажения: Спортсмены попадают на обложку на пике, а пик представляет собой точку, после которой следующее измерение, скорее всего, будет ниже. Добавьте, что обычный сезон после рекордного выглядит как спад, и «доля проклятых» в треть не требует никакого проклятия. «Проклятие Мэддена» и «синдром второго сезона» представляют собой тот же артефакт под другими названиями.
  • Последствия: Команды продлевают контракты на пике и подписывают игроков после лучшего года в их карьере, а затем платят за регрессию. Аналитики вроде Билла Джеймса, назвавшего эту закономерность «принципом плексигласа», построили прогностические системы, которые сжимают крайние недавние сезоны к устоявшемуся уровню каждого игрока.
  • Извлеченные уроки: Когда условием, при котором мы что-то замечаем, служит крайность, продолжение почти всегда будет менее крайним. Любое объяснение такого спада должно оказаться лучше объяснения, которому вообще не нужна причина.

Исторический пример: The Triumph of Mediocrity in Business (1933)

Хорас Секрист был уважаемым статистиком и автором учебников, когда после примерно десяти лет работы опубликовал The Triumph of Mediocrity in Business. Он распределил фирмы десятков отраслей по показателям прибыльности в базовом году, а затем проследил за каждой группой на протяжении нескольких сотен страниц таблиц. Графики были однообразны: лучшие группы сползали к среднеотраслевому уровню, худшие поднимались. Секрист заключил, что сама конкуренция разрушает превосходство и вытягивает неудачников.

Гарольд Хотеллинг сразу увидел, что перед ним регрессия к среднему и ничего больше. Разброс рентабельности между фирмами, который должен был бы сократиться, если бы посредственность действительно торжествовала, не сократился. Секрист защищался на страницах переписки, и Хотеллинг ответил сравнением со слонами, которое пережило саму книгу.

Этот эпизод остается стандартным предостережением в преподавании статистики, потому что жертвой ошибки стал профессионал, работавший тщательно и с обильными данными. Отбор по крайнему значению гарантирует артефакт, сколько бы данных за ним ни стояло.


6. Цена этого искажения

6.1. Личные издержки

  • Деньги, потраченные на препараты, добавки и курсы, которые «помогли» лишь потому, что были начаты в точке глубочайшего кризиса
  • Отношения, в которых критику считают действенной, а теплоту вредной
  • Дети, которых воспитывают строже, чем родители выбрали бы в ином случае

6.2. Профессиональные издержки

  • Повышения и увольнения по одному крайнему кварталу, за которыми следуют разочарование в «звезде» и удивление восстановлением «проблемного» сотрудника
  • Бюджеты на обучение, потраченные на программы, которые никогда не проверяли в сравнении с контрольной группой
  • Потеря доверия, когда уверенное «это работает» не выдерживает нормальной проверки

6.3. Общественные издержки

  • Государственные средства, направленные на программы, выглядевшие действенными только из-за старта на пике проблемы
  • Школьные системы, которые ранжируют и наказывают по изменениям от года к году, а они в основном представляют собой шум
  • Методы лечения и альтернативная терапия, держащиеся на отзывах пациентов, лечившихся в худший момент
  • Подрыв доверия к оценке программ, когда программы, которые «очевидно работали», проваливаются в рандомизированных испытаниях

6.4. Статистические последствия

  • Коэффициент регрессии роста человека у Гальтона составил около двух третей: дети родителей, отклонявшихся от среднего на 3 дюйма, в среднем отклонялись от него примерно на 2 дюйма
  • Ожидаемая регрессия пропорциональна единице минус корреляция между двумя замерами; при корреляции 0,5 крайний первый замер, как ожидается, при втором потеряет половину своего расстояния до среднего
  • Метаанализ Хробьяртссона и Гётцше 2001 года обнаружил небольшую разницу между группами плацебо и группами без лечения для большинства исходов; это означает, что значительная часть «улучшения на плацебо» в неконтролируемых исследованиях объясняется регрессией и естественным течением болезни

7. Скрытые преимущества

Само явление регрессии приносит одну пользу тому, кто его понимает. Это бесплатный инструмент прогнозирования: если нужно предсказать следующий замер по последнему, зашумленному, сдвиньте оценку к среднему, и вы обойдете большинство интуитивных прогнозов. У самой ошибки есть побочные эффекты, и не все они плохие:

  • Она поддерживает готовность пытаться: Вера в то, что вмешательства работают, даже если за ней стоит регрессия, заставляет пациентов принимать лекарства, менеджеров заниматься наставничеством, а родителей участвовать в жизни детей. Альтернативой служит выученная беспомощность.
  • Она дает безобидное утешение: Счастливые талисманы и истории о возвращении дают людям ощущение контроля в трудные моменты. Когда цена невелика, ложное ощущение влияния на спаде может стоить больше, чем правда.
  • Она часто попадает на реальный эффект: Многие вмешательства на крайностях действительно работают: антибиотики при тяжелой инфекции, серьезный разговор с подростком, у которого проблемы. Ошибка преувеличивает эффект, но направление действия часто верное.

Эти плюсы действуют лишь до тех пор, пока ставки не вырастут. В медицине, политике и финансах цена того, что шум принимают за сигнал, намного превышает комфорт от ощущения контроля.


8. Самодиагностика: подвержены ли вы этому искажению?

8.1. Чек-лист тревожных сигналов

  • Когда что-то улучшается сразу после того, как вы это изменили, вы считаете, что улучшение вызвано изменением
  • У вас есть средство, добавка или ритуал, в который вы верите из-за одного яркого выздоровления
  • По вашему опыту, критика действует на людей лучше похвалы
  • Вы ожидаете, что человек, только что показавший лучший в жизни результат, и дальше будет держаться на этом уровне
  • Вы ожидаете, что человек, только что показавший худший в жизни результат, и дальше будет держаться на этом уровне
  • Оценивая, сработало ли действие, вы редко спрашиваете: «Не было ли все необычно плохо прямо перед тем, как я вмешался?»
  • Вы оценили бы новую программу, сравнив цифры «до и после», без контрольной группы
  • Вы меняете инвестиционные фонды, подрядчиков, врачей или стратегии после единственного провального периода
  • Вы чаще всего пробуете что-то новое, когда дела хуже некуда, а потом приписываете новому заслугу
  • Вы можете назвать несколько вещей, которые «переломили» ситуацию, но мало таких, которые проверялись в сравнении с бездействием

Подсчет баллов:

  • От 0 до 2 отмеченных пунктов: низкая подверженность
  • От 3 до 5 отмеченных пунктов: умеренная подверженность
  • От 6 до 8 отмеченных пунктов: высокая подверженность
  • От 9 до 10 отмеченных пунктов: очень высокая подверженность

8.2. Вопросы для саморефлексии

  1. Вспомните последнее средство или методику, которые вы советовали, потому что они «помогли вам». Насколько плохо обстояли дела, когда вы начали?
  2. Кого у вас на работе выделяют для похвалы или исправления и когда? Привязан ли этот момент к крайнему результату?
  3. Когда вы в последний раз оценивали изменение по цифрам «до и после», как выглядел бы показатель «после» вообще без изменения?
  4. Можете ли вы вспомнить спад, который закончился сам? Чему вам хотелось приписать его окончание?
  5. Когда человек, которым вы руководите или которого учите, показывает прорывной результат, воспринимаете ли вы следующий, более обычный, как проблему, которую надо исправлять?

8.3. Быстрый диагностический сценарий

Сценарий: Индекс удовлетворенности клиентов у вашей команды, обычно около 7,5 из 10, в прошлом месяце упал до 6,1. Вы провели двухчасовой семинар по стандартам обслуживания. В этом месяце показатель 7,4.

Как вы поступите?

  • A) Внедрите семинар во всех командах: он поднял показатель больше чем на балл → Высокая подверженность
  • B) Сочтете это вероятным успехом, но присмотритесь к цифре следующего месяца → Умеренная подверженность
  • C) Отметите, что 6,1 было необычно низким значением, поэтому возврат к 7,4 был наиболее вероятным исходом в любом случае; проверите семинар на половине команд, прежде чем делать выводы → Низкая подверженность

9. Как распознать это искажение у других

9.1. Поведенческие признаки

  • Действует решительнее всего на крайностях и ссылается на последующее улучшение как на подтверждение
  • Держит в голове список того, что «сработало», без единого сравнения с бездействием
  • Читает любой рейтинг «наибольшего улучшения» как список успешных вмешательств
  • Отвечает на один плохой результат крупными переменами, а на один хороший крупными обязательствами
  • Предпочитает наказание похвале на основании «того, что я видел»

9.2. Маркеры в разговоре

Фразы людей, находящихся под влиянием этого искажения:

  • «Я попробовал это, когда мне было хуже всего, и за неделю все прошло».
  • «Каждый раз, когда я его хвалю, он расслабляется; каждый раз, когда я на него наседаю, он подтягивается».
  • «Показатели были ужасными, мы наняли консультантов, и посмотрите на них сейчас».
  • «Преступность упала на 20 процентов после жестких мер. Какие еще нужны доказательства?»

Характерные аргументы:

  • Сравнения «до и после» без контрольной группы и без упоминания того, что побудило к действию
  • Отзывы людей, обратившихся за помощью на пике своей проблемы

Вопросы, которых избегают:

  • «Что было бы, если бы мы ничего не делали?»
  • «Насколько необычным был результат, который вообще заставил нас действовать?»

9.3. Ситуационные триггеры

  • Любое решение, принятое потому, что какое-то число было необычно высоким или низким
  • Программы, набирающие участников по крайнему баллу (коррекционные классы, списки пациентов высокого риска, «проблемные» сотрудники)
  • Колеблющиеся состояния, такие как боль, настроение, аллергия и проблемы с кожей
  • Кризисы, которые приходят на пике и сменяются облегчением

10. Стратегии преодоления искажения

10.1. Экстренные техники

  • Вопрос «Почему именно сейчас?»: Прежде чем приписывать заслугу любому изменению, спросите, почему действие было предпринято именно тогда. Если ответ «потому что дела были необычно плохи (или хороши)», считайте, что часть последующего движения представляет собой регрессию.
  • Сжатие прогноза: Прогнозируя по одному крайнему результату, начинайте с долгосрочного среднего и сдвигайтесь к результату лишь на часть пути. Чем слабее связь между прошлым и будущим, тем меньше сдвиг.
  • Обратная сортировка: Сделайте то, что Хотеллинг сделал с Секристом. Выберите крайние значения в конце периода и посмотрите назад. Если окажется, что они тоже пришли из середины, перед вами регрессия.

10.2. Долгосрочные стратегии

  • Изучите механизм, а не лозунг: Разберите один пример с цифрами (две трети у Гальтона или корреляция 0,5 и крайний замер), пока мысль о том, что регрессии не нужна причина, не станет очевидной.
  • Ведите журнал прогнозов для крайних значений: Каждый раз, когда результат выделяется, записывайте прогноз следующего. Пересматривайте записи раз в квартал. Большинство людей обнаруживают, что их прогнозы слишком крайние в сторону последнего результата.
  • Разделяйте отбор и оценку: Если приходится отбирать по одному замеру, оценивайте по другому или по более позднему, сделанному после того, как эффект отбора прошел.

10.3. Организация среды

  • Контрольные группы по умолчанию: Любую программу, которую можно сначала развернуть на половине подходящих единиц, нужно разворачивать именно так. Половина без вмешательства служит единственной честной базовой линией.
  • Множественные базовые замеры: Требуйте двух или трех замеров до вмешательства, прежде чем кого-либо включают в программу на основании крайнего значения. Их усреднение убирает из отбора большую часть случайности.
  • Доверительные полосы в рейтингах: Любая сводная таблица или список «наибольшего улучшения» должны показывать диапазон нормальных колебаний, чтобы движение внутри полосы не принимали за изменение.

10.4. Когда обращаться за внешней оценкой

  • Когда программа или лечение применены потому, что показатель был крайним, и вы собираетесь их масштабировать
  • Когда вы делаете вывод о людях (похвала, дисциплина, стимулы) на основе собственных наблюдений за их следующим результатом
  • Когда сравнение «до и после» остается единственным свидетельством, а ставки высоки
  • Когда вы замечаете, что все, что вы пробуете, похоже, работает

К кому обращаться: К специалисту по планированию экспериментов или эпидемиологии, который спросит об отборе и контроле, прежде чем спрашивать о величине эффекта. Сформулируйте просьбу так: «Расскажите, как этот результат мог появиться вообще без реального эффекта».


11. Практические упражнения

Упражнение 1: Инструктор и подбрасывание монет

  • Цель: Ощутить регрессию на собственном опыте там, где никакая причинная история невозможна
  • Требуемое время: 20 минут
  • Необходимые материалы: Две монеты, мишень (стакан на полу), лист фиксации результатов, минимум четыре участника
  • Уровень сложности: Начальный
  • Инструкции:
    1. Каждый участник встает спиной к мишени и бросает две монеты через плечо в ее сторону. Оцените каждый бросок по расстоянию до мишени.
    2. Запишите результат каждого участника в первом раунде.
    3. Без всякой обратной связи и советов повторите второй раунд и снова запишите результаты.
    4. Отсортируйте участников по результату первого раунда и сравните результаты второго раунда у верхней и нижней половины. Лучшие в первом раунде в основном стали хуже, а худшие в основном лучше, хотя в промежутке ничего не делалось.
  • Вопросы для рефлексии:
    • Если бы тренер между раундами похвалил верхнюю половину и отругал нижнюю, к какому выводу он бы пришел?
    • Где в вашей жизни обратная связь приходит в такой же форме?
  • Регулярность: Один раз, затем повторяйте как демонстрацию, когда нужно объяснить идею команде

Упражнение 2: Прогноз со сжатием к среднему

  • Цель: Потренироваться строить регрессивные прогнозы по крайним результатам
  • Требуемое время: 15 минут на одну сессию
  • Необходимые материалы: Блокнот и любой источник повторяющихся измерений (спортивные результаты, данные о продажах, количество шагов)
  • Уровень сложности: Средний
  • Инструкции:
    1. Найдите недавний замер, который выделяется как необычно высокий или низкий.
    2. Запишите свой интуитивный прогноз следующего замера.
    3. Вычислите долгосрочное среднее значение по предшествующим десяти или более замерам.
    4. Примерно оцените, насколько сильно один замер предсказывает следующий (около нуля для исходов вроде подбрасывания монеты, около единицы для устойчивых черт). Сдвиньте прогноз от среднего к крайнему замеру примерно на эту долю.
    5. Запишите оба прогноза. Когда придет следующий замер, отметьте, какой оказался ближе.
  • Вопросы для рефлексии:
    • Насколько различались интуитивный прогноз и сжатый?
    • Какой прогноз за десять попыток выигрывал чаще?
  • Регулярность: Еженедельно на протяжении двух месяцев

Упражнение 3: Аудит выборки

  • Цель: Найти регрессию, спрятанную в ваших нынешних убеждениях о том, что работает
  • Требуемое время: 45 минут
  • Необходимые материалы: Бумага и ручка
  • Уровень сложности: Средний
  • Инструкции:
    1. Перечислите десять вещей, которые, по-вашему, работают, потому что вы видели, как они работают: средства, приемы управления, воспитательные тактики, инвестиционные правила.
    2. Для каждой запишите, что побудило вас ее попробовать. Была ли ситуация в тот момент необычно плохой или необычно хорошей?
    3. Для каждой запишите, видели ли вы когда-нибудь этот исход без вмешательства в похожих условиях.
    4. Отметьте все пункты, где на шаге 2 стоит «крайность», а на шаге 3 «нет». Именно эти убеждения регрессия могла бы объяснить полностью.
    5. Выберите одно и придумайте самую дешевую честную проверку: период для сравнения или поиск нормального испытания.
  • Вопросы для рефлексии:
    • Сколько из ваших десяти убеждений пережили аудит?
    • Какое убеждение вам меньше всего хотелось отмечать?
  • Регулярность: Дважды в год

Ежедневная практика

Проверка «Было ли значение крайним?»

Раз в день, когда вы слышите или сами высказываете утверждение, что нечто вызвало улучшение или ухудшение, спрашивайте, не была ли исходная точка необычно высокой или низкой.

  • Рекомендуемая продолжительность: 1 минута каждый раз, когда звучит утверждение «до и после»
  • Лучшее время дня: Когда читаете новости, просматриваете результаты или слышите «это сработало»
  • Как отслеживать прогресс: Подсчитывайте проверенные утверждения и то, сколько из них начиналось с крайности

Еженедельный челлендж

Предскажите возврат

Каждую неделю выбирайте одного человека, команду, акцию или показатель с только что выдающимся результатом и записывайте прогноз следующего результата, более близкий к его среднему. Проверяйте итог на следующей неделе.

  • Ожидаемые результаты через 4 недели: Меньше удивления от «спадов» и «восстановлений»; рабочее чутье на то, насколько сжимать прогноз
  • Вопросы для дневника саморефлексии:
    • Какие возвраты к среднему я предсказал верно, а какие крайние значения оказались реальным изменением уровня?
    • Какое объяснение каждому возврату давали новости и нужно ли оно было?

12. Для специфических аудиторий

Для руководителей и менеджеров

  • Управление результативностью: Поощряйте и исправляйте по средним за несколько периодов. Один квартал на вершине или на дне в основном представляет собой шум, и реакция на него приучает вас к тому, что исправление работает, а похвала нет.
  • Личная практика: Когда за вашим вмешательством следует улучшение, прежде чем сказать что-то еще, скажите себе: «И часть этого произошла бы в любом случае».

Для родителей и педагогов

  • Объяснение по возрасту: «За очень плохим днем обычно сам по себе идет день получше. Поэтому если ты что-то меняешь в плохой день, а следующий день лучше, нельзя быть уверенным, что помогла перемена. Попробуй несколько раз, чтобы выяснить».
  • Дисциплина: За наказанием после худшего поведения всегда следует лучшее поведение, поэтому строгая дисциплина кажется эффективной. Оценивайте свой подход по неделям и месяцам, а не по следующему часу.
  • Коррекционные программы: Дети, отобранные для дополнительной помощи по одному низкому баллу, следующий тест в любом случае напишут лучше. Оценивайте программу по более поздней проверке или в сравнении с похожими детьми, которые ее не получали.

Для медицинских работников

  • Клинический опыт: Большинство пациентов вы видите в худший момент колеблющихся состояний, поэтому любое лечение, назначенное тогда, будет казаться действенным. Доверяйте испытаниям больше, чем воспоминаниям о пациентах, которым стало лучше.
  • Скрининг и набор: Набор по одному отклоняющемуся от нормы замеру гарантирует улучшение при следующем. Проводите повторные базовые замеры перед постановкой диагноза или включением в испытание.
  • Общение с пациентами: Когда пациент приписывает заслугу добавке или альтернативной терапии, спросите, когда он начал ее применять. Бережное объяснение регрессии на примере «худшего дня» воспринимается лучше, чем отрицание терапии.

Для финансистов и инвесторов

  • Выбор фондов: Верхний дециль фондов прошлого года в следующем году в среднем ближе к середине. Сопротивляйтесь клиентам, которые хотят за ним гнаться, и такому же порыву в собственном распределении активов.
  • Истории клиентов: Клиенты припишут восстановление советнику, нанятому на дне, и обвинят в спаде советника, нанятого на пике. Расскажите историю регрессии до того, как это произойдет.

13. Взаимодействие с другими искажениями

Искажения, усиливающие этот эффект

Искажение Характер взаимодействия
Эвристика репрезентативности Прогноз исхода, который лучше всего соответствует данным, а не наиболее вероятного, и есть нерегрессивный прогноз, описанный Канеманом и Тверски
Нечувствительность к размеру выборки Если считать один крайний замер таким же надежным, как долгосрочное среднее, дрейф обратно к среднему выглядит как реальное изменение
Иллюзорная корреляция Человек видит связь между вмешательством и последовавшим улучшением, хотя улучшение наступило бы в любом случае
Предвзятость подтверждения Каждый «успех», вызванный регрессией, записывается в доказательства метода; случаи, когда за вмешательством не последовало изменений, забываются

Искажения, ослабляющие этот эффект

Искажение Как оно помогает
Консервативное искажение Недостаточная реакция на новые данные удерживает прогнозы рядом с долгосрочным средним, где примерно и должен находиться регрессивный прогноз
Эффект привязки Прогнозист, привязанный к историческому среднему, сжимает к нему крайние замеры, часто примерно на нужную величину
Склонность к статусу-кво Нежелание менять курс после одного плохого периода удерживает от действий по шуму с последующим приписыванием заслуги этим действиям

Типичные цепочки искажений

Экстремальный результат → Эвристика репрезентативности → Вмешательство → Регрессия к среднему → Иллюзорная корреляция → Предвзятость подтверждения

Появляется выдающийся результат, и эвристика репрезентативности читает его как реальное изменение уровня, что побуждает к действию. Следующий замер регрессирует, как и должен был. Улучшение связывается с действием, эта пара запоминается, а несобытия забываются, и рождается вера в действие, которую новые крайности продолжают подкреплять.

Прерывание цепочки: Дешевле всего вмешаться на первом звене. Если крайний результат признан отчасти случайным еще до каких-либо действий, последующее улучшение не несет удивления, которое требовало бы объяснения. Если этого не произошло, контрольная группа в момент действия разрывает цепочку на третьем звене.


14. Культурный контекст

Прямых кросс-культурных исследований ошибки регрессии мало. Статистическое явление везде одно и то же, а механизм, который его неверно истолковывает, причинное обучение по последовательности, насколько известно, не сильно различается у разных народов. Различаются истории, которыми каждая культура объясняет спад после пика, и эти истории похожи на народные способы закодировать регрессию, приписывающие ей причину там, где она не нужна.

Во многих обществах предостерегают от слишком громкой похвалы ребенку, урожаю или успеху. Традиции веры в сглаз в Средиземноморье, на Ближнем Востоке и в Южной Азии учат, что восхищение навлекает беду, и народное доказательство легко увидеть: восхищение приходит на пике, а за пиками следуют спады. Греческая мысль ставила рядом гордыню (гибрис) и возмездие (немезиду), а китайские пословицы о самом высоком дереве, которое ловит ветер, несут тот же урок. В англоязычном мире эта закономерность проявляется как «сглаз» и страх «искушать судьбу».

Отношение к наказанию и похвале тоже взаимодействует с этой ошибкой. Там, где нормой считается строгая дисциплина, обратная связь, описанная Канеманом, ежедневно подтверждает норму. Там, где нормой считается воспитание через похвалу, та же регрессия работает в обратную сторону, и практики могут втайне чувствовать, что подход «не работает», не умея объяснить почему.

Тип культуры Проявление
Культуры с традициями защиты от сглаза или страхом «искушать судьбу» Спад после пика, за который хвалили, приписывают зависти или сверхъестественной причине; самой похвалы избегают
Культуры с сильными сюжетами о гордыне и падении Спады после успеха читают как нравственный урок о гордыне, а не как статистический возврат
Культуры воспитания и управления, ориентированные на дисциплину Ежедневное подтверждение того, что наказание работает, поскольку его применяют после худших результатов
Культуры воспитания и управления, ориентированные на похвалу Навязчивое ощущение, что за поощрением следует расслабленность, поскольку похвалу применяют после лучших результатов
Институциональные культуры, управляемые метриками (сводные таблицы, ежегодные рейтинги) В списках «наибольшего улучшения» и «наибольшего ухудшения» преобладают прошлогодние выбросы

15. Мифы и заблуждения

Миф Реальность
«Регрессия к среднему означает, что со временем все становится средним» Регрессия описывает, что происходит с отобранным крайним значением при следующем замере. Она ничего не говорит о разбросе во всей популяции, который может оставаться прежним или расти. Ошибка Секриста состояла именно в этой путанице.
«Регрессия является силой, которая тянет значения обратно к центру» Никакой силы нет. Часть любого крайнего замера составляет случайность, а случайность не повторяется. Та же арифметика порождает регрессию в обоих направлениях времени, на что никакая сила не способна.
«Если второй замер ближе к среднему, значит, первый был ошибкой измерения» Ошибка измерения является одним из источников регрессии, но не единственным. Точно измеренные величины тоже регрессируют, когда в измеряемом есть случайная составляющая, как в месячном среднем бейсболиста.
«Знание о регрессии означает, что ничего нельзя объяснить причинно» Регрессия является нулевой гипотезой, а не универсальным ответом. У некоторых восстановлений есть причины, а некоторые спады представляют собой реальное изменение уровня. Вопрос в том, превосходит ли объяснение базовую линию без причины.
«На ошибку регрессии попадаются только любители» Секрист был профессором статистики с данными за десять лет. Канеман описывает эту идею как трудную даже для тех, кого ей учили. Книга Кэмпбелла и Кенни существует потому, что подготовленные специалисты по оценке программ продолжают совершать эту ошибку.

16. Мнения экспертов

«Поскольку мы склонны вознаграждать других, когда у них получается хорошо, и наказывать, когда у них получается плохо, и поскольку существует регрессия к среднему, частью человеческой участи является то, что мы статистически наказаны за вознаграждение других и вознаграждены за их наказание». — Даниэль Канеман, Thinking, Fast and Slow (2011), глава 17

«Наш разум сильно склонен к причинным объяснениям и плохо справляется с „простой статистикой“». — Даниэль Канеман, Thinking, Fast and Slow (2011)

Среднее отклонение детей от среднего по популяции составляло лишь долю, около двух третей, от отклонения их родителей; крайности одного поколения сглаживаются в следующем, в какую сторону ни посмотри. — Фрэнсис Гальтон (1886), пересказ главного вывода статьи «Regression towards mediocrity in hereditary stature»

Отбор людей в исследование по одному крайнему замеру гарантирует, что их следующий замер в среднем окажется менее крайним, что бы с ними ни делали; надежная защита состоит в рандомизированной контрольной группе и повторных базовых замерах. — Адриан Барнетт, Йолике ван дер Полс и Аннетт Добсон (2005), пересказ выводов их руководства в International Journal of Epidemiology


17. Главные выводы

  1. Само явление не искажение: Регрессия к среднему является статистическим фактом о любой величине со случайной составляющей. Искажение представляет собой ошибку регрессии: придумывание причины для возврата к среднему, которому причина не была нужна.

  2. Мы действуем на крайностях: Мы лечим на пике симптомов, наказываем после худшего поведения и реорганизуемся после худшего квартала. Каждый из этих моментов готов выставить эффективным все, что последует.

  3. Похвала и наказание одинаково смешаны с регрессией: Летные инструкторы Канемана усвоили, что крик работает, потому что кричали только после плохих полетов. Та же логика делает похвалу на вид вредной. Ни один из этих выводов не следует.

  4. Объем данных не защищает: У Секриста были цифры за десять лет по сотням фирм, и он все равно прочел регрессию как закон бизнеса. Отбор по крайнему значению гарантирует артефакт.

  5. Сжимайте прогнозы: Лучший прогноз по крайнему замеру лежит между этим замером и долгосрочным средним, и тем ближе к среднему, чем слабее корреляция.

  6. Контрольные группы лечат оценку: Сравнения «до и после» на единицах, отобранных по крайним баллам, не позволяют отличить действенную программу от пустой. Это позволяют рандомизация, множественные базовые замеры или группа сравнения.

  7. Спрашивайте «Почему именно сейчас?»: Прежде чем приписывать заслугу любому изменению, спросите, не было ли действие предпринято потому, что дела были необычно плохи или хороши. Если так, считайте, что часть улучшения произошла бы в любом случае.


18. Дополнительные ресурсы

Научные статьи

  • Galton, F. (1886). Regression towards mediocrity in hereditary stature. Journal of the Anthropological Institute of Great Britain and Ireland, 15, 246-263.
  • Kahneman, D., & Tversky, A. (1973). On the psychology of prediction. Psychological Review, 80(4), 237-251.
  • Hotelling, H. (1933). Review of The Triumph of Mediocrity in Business by Horace Secrist. Journal of the American Statistical Association, 28(184), 463-465.
  • Barnett, A. G., van der Pols, J. C., & Dobson, A. J. (2005). Regression to the mean: What it is and how to deal with it. International Journal of Epidemiology, 34(1), 215-220.
  • Bland, J. M., & Altman, D. G. (1994). Statistics notes: Regression towards the mean. BMJ, 308(6942), 1499.
  • Stigler, S. M. (1997). Regression towards the mean, historically considered. Statistical Methods in Medical Research, 6(2), 103-114.
  • Hróbjartsson, A., & Gøtzsche, P. C. (2001). Is the placebo powerless? An analysis of clinical trials comparing placebo with no treatment. New England Journal of Medicine, 344(21), 1594-1602.

Книги

  • Campbell, D. T., & Kenny, D. A. (1999). A Primer on Regression Artifacts. Guilford Press.
  • Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.
  • Stigler, S. M. (1999). Statistics on the Table: The History of Statistical Concepts and Methods. Harvard University Press.

Главы в книгах

  • Kahneman, D. (2011). Regression to the mean. In Thinking, Fast and Slow (Chapter 17). Farrar, Straus and Giroux.
  • Campbell, D. T., & Stanley, J. C. (1963). Experimental and quasi-experimental designs for research on teaching. In N. L. Gage (Ed.), Handbook of Research on Teaching (pp. 171-246). Rand McNally.

19. Краткая памятка

Элемент Содержание
Название искажения Регрессия к среднему
Определение После крайнего результата следующий обычно оказывается ближе к среднему просто в силу случайности; ошибка регрессии приписывает это возвращение тому, что было сделано в промежутке
Категория Недостаточно смысла
Главный признак Вмешательство, вызванное необычно плохим (или хорошим) результатом, которому затем приписывают последовавшее улучшение (или ставят в вину последовавший спад)
Основная причина Причинное обучение по последовательности: мы действуем на крайностях, видим естественный возврат к среднему и связываем одно с другим
Главный риск Масштабирование пустых методов лечения, политик и управленческих практик, которые казались действенными только из-за момента их применения
Быстрое решение Спросите: «Почему именно сейчас?» Если действие предприняли потому, что ситуация была крайней, считайте, что часть изменения произошла бы в любом случае
Долгосрочная стратегия Сжимайте прогнозы к среднему; требуйте контрольных групп и множественных базовых замеров, прежде чем оценивать любое вмешательство
Главная мысль «Мы статистически наказаны за вознаграждение других и вознаграждены за их наказание» (Канеман)

20. Глоссарий терминов

Термин Определение
Регрессия к среднему Тенденция экстремального показателя сменяться значением, более близким к среднему, поскольку случайная составляющая крайности не повторяется
Ошибка регрессии Приписывание возврата к среднему причине (вмешательству, проклятию, изменению усилий), когда его объясняет одна лишь регрессия
Нерегрессивный прогноз Прогноз, такой же крайний, как данные, на которых он основан, будто эти данные являются идеальным предиктором
Коэффициент корреляции Мера от -1 до 1, показывающая, насколько согласованно меняются две величины; ожидаемая регрессия пропорциональна единице минус это значение
Отбор по крайнему значению Выбор единиц для внимания потому, что их последний замер был необычно высоким или низким; схема, гарантирующая регрессию
Контрольная группа Сопоставимая группа объектов, не получающая вмешательства, служащая базовой линией для отделения регрессии от реального эффекта
Множественные базовые замеры Несколько замеров до вмешательства с последующим усреднением, что убирает из отбора большую часть случайной составляющей
Естественное течение заболевания Развитие болезни без лечения, включая ее спонтанные улучшения и волнообразные колебания
Сжатие прогноза (shrinkage) Смещение прогноза от наблюдаемого крайнего значения к долгосрочному среднему на величину, зависящую от уровня шума в наблюдениях

21. Вопросы для обсуждения

Для книжных клубов, учебных аудиторий или саморефлексии:

  1. Летные инструкторы Канемана были опытными, внимательными и честными, и все же сделали неверный вывод. Какой опыт в вашей жизни устроен так же, когда обратная связь приходит только после крайностей?

  2. Хорас Секрист десять лет работал с тщательно собранными данными и опубликовал уверенный закон бизнеса. Какие институциональные привычки помогли бы поймать его ошибку раньше?

  3. Во многих культурах предостерегают от слишком громкой похвалы успеху. Является ли традиция веры в сглаз народной теорией регрессии? Что теряется и что приобретается, когда статистическая закономерность закодирована в виде суеверия?

  4. Многое из того, что в неконтролируемых условиях приписывают эффекту плацебо, представляет собой регрессию и естественное течение болезни. Как это должно изменить то, как пациенты и врачи говорят о лечении, которое «мне помогло»?

  5. Регрессией можно злоупотреблять, а не только игнорировать ее: не каждое восстановление является возвратом к среднему. Как бы вы решили для конкретной политики или лечения, исключено ли объяснение без причины?