Упорство убеждений (Belief Perseverance)

Краткий обзор

1. Краткое содержание

Упорство убеждений проявляется в ситуациях, когда почву из-под идеи уже выбили, но сама идея остается на месте. В классическом эксперименте 1975 года студентам сообщили выдуманные баллы за выполнение задания, затем прямо сказали, что эти результаты были сфабрикованы, однако участники все равно оценивали собственные способности с оглядкой на фальшивые цифры. Причина кроется в объяснении: как только мы принимаем утверждение, мы начинаем выстраивать цепочку доводов в его пользу, и эти доводы не исчезают после опровержения самого тезиса. Это явление отличается от предвзятости подтверждения, связанной со сбором доказательств во время существования убеждения, а также от эффекта обратного результата (представления о том, что опровержения укрепляют ложные взгляды; недавние масштабные исследования показали, что такое случается редко). Опровержения действительно работают, хотя и отчасти. Просто после них остается след.

Простыми словами

Упорство убеждений означает, что вы продолжаете верить во что-то даже после того, как узнали: причина вашей веры оказалась ошибкой. Ваш мозг успел придумать объяснение, и эта история никуда не исчезает, когда факты отменили.

Представьте, что подруга шепнула вам, будто одноклассник списал контрольную. Вы вспоминаете детали, и все сходится: он сдал работу слишком быстро и всегда садится рядом с отличниками. На следующий день подруга признается, что выдумала эту историю от обиды. Казалось бы, вопрос закрыт. Но через неделю этот парень получает хорошую оценку, и первой вашей мыслью становится сомнение. Слух опровергли, но осадок остался.

Вот простой способ справиться с этим. Когда вы узнаете, что ваша мысль была неправдой, произнесите вслух причину, по которой вы в нее верили, а затем спросите себя: как еще можно это объяснить? Он сдал работу раньше всех, потому что усердно готовился. Он сидит рядом с отличниками просто потому, что они дружат. Когда вы находите старым зацепкам новое объяснение, прежней уверенности становится легче вас отпустить.

2. Научные основы

2.1. История и открытие

Francis Bacon еще в 1620 году писал, что человеческий разум, приняв какое-то мнение, «притягивает все остальное для его подтверждения и согласия с ним». Leon Festinger наблюдал это явление в 1954 году, когда члены группы, чей лидер предсказал конец света, встретили утро после несостоявшегося катаклизма с новым объяснением и удвоенным энтузиазмом; в книге When Prophecy Fails автор описал это через концепцию когнитивного диссонанса, однако фактически зафиксировал именно упорство убеждений.

Лабораторные исследования начались в Stanford с прикладного вопроса: в психологических экспериментах участников нередко вводят в заблуждение, а затем проводят «дебрифинг» (разъяснительную беседу). Lee Ross, Mark Lepper и Michael Hubbard решили выяснить, действительно ли дебрифинг устраняет последствия обмана. В 1975 году они показали, что процедура не устраняет эффект или устраняет его лишь частично. Lord, Ross и Lepper (1979) продемонстрировали, что сторонники противоположных взглядов, читая один и тот же противоречивый набор данных, лишь укрепляются в исходной правоте (предвзятая ассимиляция). Anderson, Lepper и Ross (1980) перенесли изучение феномена на представления об окружающем мире, а работы Craig Anderson 1982 и 1983 годов выявили движущую силу искажения: крепче всего за идеи держались те испытуемые, кто предварительно записал собственное объяснение, а формулирование противоположных доводов оказалось единственным вмешательством, надежно ослаблявшим искажение.

Исследования памяти добавили родственный феномен: эффект продолжительного влияния, при котором отозванная деталь продолжает определять последующие выводы (Johnson & Seifert, 1994), а обзор Lewandowsky и коллег 2012 года объединил эти научные направления. Затем возник политический контекст. Nyhan и Reifler (2010) сообщили, что опровержение ложных политических тезисов может усиливать веру в них у части сторонников той или иной партии («эффект обратного результата»), и эта идея мгновенно стала популярной. Однако Wood и Porter (2019) на выборке более чем в десять тысяч участников по 52 темам практически нигде не обнаружили подтверждения эффекту обратного результата, а сам Nyhan в 2021 году утверждал, что заблуждения сохраняются по другим причинам. Объективный итог таков: результаты экспериментов с дебрифингом надежны, выстраивание объяснений служит главным механизмом, а опровержения снижают веру в ложные факты, пусть и не стирают ее полностью.

Ключевые вехи:

• 1956: Festinger, Riecken и Schachter публикуют книгу When Prophecy Fails
• 1975: Ross, Lepper и Hubbard демонстрируют упорство убеждений в парадигме дебрифинга и показывают, что «процессуальный дебрифинг» нейтрализует искажение
• 1979–1982: Lord, Ross и Lepper описывают предвзятую ассимиляцию; Anderson, Lepper и Ross связывают упорство убеждений с механизмом объяснения; Anderson показывает, что контробъяснение ослабляет искажение
• 2010: Nyhan и Reifler заявляют об эффекте обратного результата; 2019: Wood и Porter не находят подтверждения эффекту обратного результата по 52 темам

2.2. Ключевые исследователи

2.3. Знаковые исследования

Упорство убеждений в парадигме дебрифинга (Ross, Lepper & Hubbard, 1975)

Студенты Stanford знакомились с 25 парами предсмертных записок и пытались определить подлинную в каждой паре; в действительности эту задачу никто не способен решить надежно. Обратная связь была задана заранее: участникам группы «успеха» сообщали, что они угадали 24 из 25 записок, группе «неудачи» называли результат 10, а средней группе сообщали о 17 правильных ответах. Затем экспериментатор подробно объяснял, что обратная связь была задана заранее, после чего участников просили оценить свои реальные способности к выполнению подобных заданий.

Ложные оценки к этому моменту должны были утратить всякую силу, однако этого не произошло. Участники, которым ранее сообщили об успехе, оценивали свои способности выше тех, кому сообщили о неудаче. Наблюдатели со стороны, видевшие весь ход эксперимента, включая дебрифинг, продемонстрировали такое же распределение оценок. Во втором эксперименте авторы добавили «процессуальный дебрифинг», подробно разъяснявший участникам сам психологический механизм упорства убеждений, и эта версия сработала.

Упорство социальных теорий (Anderson, Lepper & Ross, 1980)

Участники читали две истории пожарных, подобранные так, что в одном условии успеха добивался склонный к риску сотрудник, а в другом осторожный. На основе всего двух примеров люди формулировали уверенную теорию о связи склонности к риску и профессиональной пригодности пожарных. Затем им сообщали, что обе истории были чистым вымыслом. При последующем опросе участники продолжали придерживаться выводов, подсказанных вымышленными историями, причем крепче всего за свои взгляды держались те, кто перед этим подробно изложил объяснение на бумаге.

Предвзятая ассимиляция и поляризация установок (Lord, Ross & Lepper, 1979)

Сторонники и противники смертной казни знакомились с кратким изложением двух исследований: в одном утверждалось, что высшая мера наказания сдерживает преступность, а в другом говорилось об отсутствии такого эффекта. Обе группы оценили исследование, подтверждавшее их изначальную позицию, как более качественно спланированное, нашли изъяны в противоположной работе и в итоге разошлись с еще более полярными взглядами, чем до начала эксперимента. Именно так сформированное убеждение перерабатывает новую информацию, защищая само себя.

2.4. Нейробиологические основы

Нейробиологические исследования, посвященные непосредственно упорству убеждений, пока немногочисленны. Насколько мне известно, ни в одной нейровизуализационной работе парадигма дебрифинга не воспроизводилась в томографе, поэтому ниже описан правдоподобный механизм, собранный из более надежно установленных данных.

Наиболее близким по тематике является исследование Kaplan, Gimbel и Harris (2016), в котором мозг участников сканировали в момент критики их политических взглядов. Попытки оспорить твердые убеждения вызывали повышенную активность в сети пассивного режима работы мозга (DMN), а также в миндалевидном теле и островке. Участники с более выраженной активацией этих зон реже меняли свое мнение. Данный факт отражает скорее сопротивление критике, чем упорство после разоблачения фактов, поэтому он показывает, что защита собственных взглядов задействует эмоциональные системы и контуры самовосприятия, но не описывает сам эффект дебрифинга.

Со стороны механизмов памяти картина более определенная. Опровержение информации не удаляет ее из памяти: исходный след сохраняется, опровержение записывается рядом как конкурирующий след, а при извлечении побеждает тот, к которому доступ проще. Исходная версия часто берет верх просто потому, что была закодирована первой и удачно встроилась в ментальную модель человека. Именно поэтому опровержения, предлагающие альтернативное причинное объяснение, работают гораздо лучше. Эффект гиперкоррекции (Butterfield & Metcalfe, 2001), при котором ошибки, совершенные с высокой уверенностью, с большей вероятностью исправляются после получения обратной связи, показывает, что система не просто упряма. Неожиданное, замеченное опровержение способно прочно закрепиться в памяти. Упорство убеждений возникает тогда, когда этого не происходит.

3. Эволюционные истоки

Эволюционные гипотезы упорства убеждений не проверялись в прямых экспериментах, поэтому данные положения представляют собой логическую реконструкцию того, почему человеческий разум мог сформироваться подобным образом.

Убеждения должны быть стабильными, чтобы приносить пользу. Существо, меняющее картину мира при каждом противоречивом наблюдении, было бы не способно к целенаправленным действиям. Информация в среде предков была зашумленной: водопой, безопасный вчера, скорее всего безопасен и сегодня, даже если поблизости однажды заметили хищника. Упорство убеждений представляет собой ту же разумную адаптивную стратегию, примененную к ситуации, для которой эволюция ее не готовила: когда новым свидетельством выступает достоверное сообщение о фальсификации прежних данных.

Объяснение является главным инструментом мозга для прогнозирования. Мы запоминаем причинно-следственные модели, а не изолированные факты, поскольку модель позволяет предсказывать будущее. Оборотная сторона этого механизма такова: при отзыве исходного факта модель, успевшая опереться на другие фоновые знания, продолжает выдавать прежний прогноз.

Последовательность выгодна в социуме. На человека, чьи взгляды колеблются от каждого слуха, трудно положиться, и им легко манипулировать. Твердость позиции формирует репутацию надежного партнера, поэтому упорство убеждений проявляется сильнее, когда мнение уже было озвучено публично или подкреплено действием.

Отказ от убеждения обходится дорого. Пересмотр одной идеи требует корректировки всей цепочки зависящих от нее представлений и признания собственной ошибки. В краткосрочной перспективе сохранить прежнюю позицию психологически выгоднее, даже когда она объективно ошибочна.

4. Как проявляется искажение

4.1. В повседневной жизни

• Слух о соседе опровергли, но вы все равно продолжаете присматриваться к нему с подозрением
• Пугающая новость о вреде продукта, прочитанная годы назад и давно разоблаченная, до сих пор определяет ваши покупки
• Первое впечатление о человеке, сложившееся в его неудачный день, сохраняется даже после того, как вы увидели его в нормальных обстоятельствах
• Учитель когда-то сказал вам, что математика вам не дается, он был неправ, но вы до сих пор стараетесь избегать таблиц и расчетов

4.2. На рабочем месте

• Мнение руководителя о сотруднике, сформированное из-за одной проваленной презентации, сохраняется несмотря на год добротной работы
• Стратегия, принятая на основе позже отозванного рыночного отчета, продолжает выполняться, поскольку команда уже объяснила себе ее логику
• Разборы инцидентов, в которых выясняются истинные причины сбоя, после чего участники все равно продолжают винить первоначального подозреваемого
• Проверка рекомендаций, которая, как выяснилось, относилась к полному тезке соискателя, но оставила у комиссии остаточные сомнения

4.3. В бизнесе и маркетинге

• Убеждения о свойствах бренда, заложенные рекламным слоганом, который позже признали вводящим в заблуждение, продолжают повторяться покупателями
• Инвесторы, сформировавшие гипотезу вокруг раннего заявления основателя, сохраняют ее даже после опровержения этого заявления
• Мифы о товарах («меняйте его каждый год»), которые переживают официальные опровержения самих производителей
• Потребители читают опровержение мифа, но запоминают из него только исходное ложное утверждение

4.4. В политике и медиа

Политическая сфера дает наибольший объем эмпирических данных, который при этом чаще всего неверно интерпретируют. Lewandowsky, Stritzke, Oberauer и Morales (2005) опросили жителей США, Германии и Австралии во время войны в Ираке 2003 года относительно официально опубликованных и впоследствии отозванных утверждений. Американские респонденты продолжали использовать отозванные сведения в своих суждениях; немецкие и австралийские респонденты в большинстве своем этого не делали, причем эта разница была связана с подозрительностью в отношении мотивов войны. Позднее Nyhan и Reifler (2010) сообщили об эффекте обратного результата, идея которого доминировала в дискуссиях до тех пор, пока Wood и Porter (2019) не показали, что опровержения повсеместно снижают приверженность ложным утверждениям.

Типичные проявления:

• Ложное заявление широко расходится в СМИ, а его опровержение доходит лишь до немногих, и годы спустя значительная часть общества продолжает считать утверждение правдивым
• Сторонники противоположных лагерей читают один и тот же отчет официального расследования, и каждая сторона находит в нем подтверждение собственной правоты
• Опровержения, в которых исходный миф повторяется на самом видном месте, лишь глубже внедряют его в память аудитории

4.5. В здравоохранении

Ignaz Semmelweis в 1847 году доказал, что мытье рук раствором хлорной извести снижает смертность от послеродовой горячки; медицинское сообщество отвергало это открытие десятилетиями, поскольку оно противоречило господствовавшей теории болезней, и ученый умер в 1865 году, так и не дождавшись признания. Barry Marshall и Robin Warren в начале 1980-х годов открыли бактерию Helicobacter pylori как причину большинства язв желудка, однако стрессовая теория держалась еще много лет; в 2005 году оба ученых разделили Нобелевскую премию.

На практике:

• Пациенты, прочитавшие отозванное исследование о якобы вредном побочном эффекте препарата, по-прежнему отказываются от лечения
• Врачи продолжают придерживаться предварительного диагноза, поставленного по ранним результатам анализов, даже после их корректировки
• Родители признают, что данные о связи вакцинации с аутизмом были сфальсифицированы, но все равно испытывают тревогу на приеме у педиатра

4.6. В финансах и инвестициях

• Инвестиционный тезис, построенный на ранней презентации компании, сохраняется даже после официального пересмотра финансовых показателей, на которые он опирался
• Трейдеры удерживают позицию после того, как аналитический отчет, послуживший поводом для сделки, был официально отозван
• Представления о выдающемся мастерстве управляющего фондом, возникшие благодаря ранней череде случайных удач, сохраняются годами на фоне посредственной доходности
• Клиенты, которым продавец назвал продукт «гарантированным» и позже был за это наказан, продолжают описывать продукт именно так

5. Реальные примеры и кейсы

Пример 1: Вакцина MMR и аутизм

• Контекст: В 1998 году Andrew Wakefield с соавторами опубликовал в журнале The Lancet статью с описанием двенадцати клинических случаев, где предполагалась возможная связь между комбинированной вакциной против кори, паротита и краснухи (MMR) и аутизмом. Тема широко освещалась в прессе.
• Что произошло: Крупные эпидемиологические исследования не обнаружили никакой связи. В 2004 году большинство соавторов отозвали свои подписи после того, как журналистское расследование вскрыло скрытый конфликт интересов автора; в 2010 году The Lancet официально отозвал публикацию, а Генеральный медицинский совет Великобритании лишил Wakefield лицензии врача. К тому моменту охват вакцинацией MMR в Англии упал с более чем 90 процентов до примерно 80 процентов.
• Как проявилось искажение: Родители успели выстроить правдоподобное объяснение: совпадение по времени кажется логичным, вакцину вводят примерно в том возрасте, когда проявляются первые симптомы аутизма, а авторитетный врач подтвердил гипотезу. Отзыв статьи устранил доказательства, но оставил нетронутой саму объяснительную историю. Многие родители, даже зная о фальсификации данных, по-прежнему говорили о своей тревоге.
• Последствия: Вспышки кори охватили Европу и Северную Америку, сосредоточившись в сообществах с низким уровнем вакцинации. Всемирная организация здравоохранения в 2019 году подтвердила, что Великобритания утратила статус страны, победившей корь.
• Уроки: Даже полное опровержение все равно конкурирует с историей, у которой были годы, чтобы укорениться. Разъяснения, показывающие естественные причины совпадения по времени, работают лучше, чем сухое констатирование ложности исходной статьи.

Пример 2: Оружие массового уничтожения в Ираке

• Контекст: Вторжение в Ирак в 2003 году обосновывалось в основном утверждениями о наличии у режима запасов химического и биологического оружия. Масштабные поиски ничего не выявили, и официальные лица государств, начавших войну, публично отозвали эти заявления.
• Что произошло: Lewandowsky, Stritzke, Oberauer и Morales (2005) проверили, продолжают ли жители США, Германии и Австралии опираться в своих рассуждениях на отозванные военные тезисы, ложность которых им известна. Американские респонденты продолжали использовать эти тезисы; граждане Германии и Австралии в основном отказались от них. Главным разделяющим фактором оказалось сомнение в официальных поводах к войне. Опросы общественного мнения годы спустя показывали, что значительное меньшинство американцев по-прежнему верило в то, что оружие действительно нашли.
• Как проявилось искажение: У сторонников военной кампании было готово связное объяснение: режим уже применял подобное оружие в прошлом, чинил препятствия инспекторам, а высокопоставленные лица заверяли в надежности разведданных. Когда факты были отозваны, готовое объяснение продолжало воспроизводить прежний вывод.
• Последствия: Это заблуждение определяло политический дискурс на протяжении десятилетия и послужило материалом для переоцененного эффекта обратного результата, когда Nyhan и Reifler использовали опровержение данных об ОМУ в 2010 году.
• Уроки: Успех опровержения напрямую зависит от наличия у человека мотивации обновить свою позицию. Позднейшие исследования Wood и Porter показали, что даже в столь идеологизированных вопросах ясные опровержения приближают оценки людей к реальности, пусть и не устраняют предубеждение целиком.

Исторический пример: Когда пророчество не сбывается (1954)

Осенью 1954 года Leon Festinger, Henry Riecken и Stanley Schachter узнали о жительнице пригорода Чикаго (в их книге названной «Marian Keech»), которая утверждала, что получает послания от внеземной цивилизации с предсказанием всемирного потопа 21 декабря. Вокруг нее собралась небольшая группа последователей; некоторые из них уволились с работы и раздали имущество. Исследователи присоединились к группе в качестве наблюдателей.

Пророчество ожидаемо не сбылось. Члены группы провели всю ночь 20 декабря в ожидании летающей тарелки, которая так и не прилетела. Рано утром Keech объявила о новом послании: вера группы оказалась настолько сильной, что высшие силы решили пощадить планету. Члены общины, ранее избегавшие прессы, начали сами звонить репортерам. Критики отмечали, что присутствие исследователей могло повлиять на поведение группы, однако подобная модель регулярно повторяется в самых разных группах после провала их предсказаний. Опровержение не устраняет веру: оно порождает потребность в объяснении, и первое найденное объяснение сохраняет убеждение в живых.

6. Последствия и цена искажения

6.1. Личные потери

• Разрушение отношений из-за негативных впечатлений, которые формально были опровергнуты, но так и не забыты
• Годы избегания определенной дисциплины или профессии из-за давней оценки способностей, основанной на ложных данных
• Ошибочные решения о здоровье, продиктованные медицинскими мифами, давно признанными несостоятельными
• Уязвимость к манипуляциям: тот, кто первым успел донести до вас версию событий, получает в свое распоряжение часть вашего убеждения

6.2. Профессиональные издержки

• Решения о найме и продвижении сотрудников под влиянием опровергнутых, но осевших в памяти слухов
• Продолжение стратегий даже после того, как лежавшие в их основе предпосылки рассыпались
• Ситуации, когда команды на разборе полетов приходят к верным выводам, но в дальнейшей работе продолжают действовать по старым шаблонам
• Замедленное организационное обучение, при котором опровержения подшиваются к отчетности, а реальные решения принимаются на базе первоначальных заблуждений

6.3. Общественные последствия

• Срыв программ в сфере общественного здравоохранения из-за страхов, вызванных данными, опровергнутыми много лет назад
• Политические дебаты, строящиеся на тезисах, об отзыве которых знают обе стороны
• Ошибочные обвинительные приговоры, которые держатся на первом впечатлении присяжных: указание судьи не принимать улики во внимание не устраняет его полностью
• Общество, устойчивое к исправлению ошибок, что делает создание дезинформации дешевым, а борьбу с ней крайне ресурсоемкой

6.4. Статистические данные

• В исследовании Ross, Lepper и Hubbard (1975) участники, узнавшие о вымышленности своих результатов, все равно различались в оценках собственных способностей; стандартный дебрифинг лишь сократил разрыв, тогда как процессуальный дебрифинг устранил его
• Anderson, Lepper и Ross (1980) обнаружили, что участники, записавшие объяснение до разоблачения ложности данных, демонстрировали более сильное упорство убеждений
• Метаанализ Chan, Jones, Hall Jamieson и Albarracín (2017) показал: опровержения стабильно снижают веру в дезинформацию, однако редко опускают ее до уровня людей, никогда с этой дезинформацией не сталкивавшихся
• Wood и Porter (2019) в ходе исследования 52 тем с участием более 10 000 респондентов выяснили, что опровержения снижают веру в ложные тезисы практически во всех случаях, тогда как устойчивого эффекта обратного результата зафиксировано не было

7. Скрытые преимущества

Упорство убеждений представляет собой обратную сторону свойства, от которого мы вряд ли захотели бы отказаться: способности разума сохранять устойчивость взглядов.

• Стабильность в условиях шума: Большинство противоречивых наблюдений представляет собой случайный шум. Когнитивная система, сохраняющая стабильность до накопления критической массы доказательств, оказывается более эффективной, чем система, меняющая позицию от каждого случайного сообщения.

• Защита от манипуляций: Если бы единичное опровержение могло полностью стереть убеждение, столь же легко работало бы и ложное опровержение. Людьми, способными держаться за самостоятельно осмысленные выводы, сложнее манипулировать.

• Упорство перед лицом раннего неприятия: Концепция дрейфа континентов Alfred Wegener отвергалась научным сообществом полвека до появления подтверждающих данных. Barry Marshall выпил культуру бактерий H. pylori, чтобы доказать тезис, который никто не хотел слушать. Способность отстаивать идею вопреки имеющимся на данный момент данным сохраняет жизнь верным, но непопулярным открытиям до момента их признания.

• Психологическая устойчивость: Самооценка, способная разрушиться от любого критического замечания, была бы истощающей для психики. Определенный уровень сопротивления изменениям позволяет человеку воспринимать критику без личностного кризиса.

Эти преимущества работают только тогда, когда убеждение изначально имело под собой твердую почву. Они превращаются в проблему, когда фундамент оказывается выдумкой.

8. Самодиагностика: подвержены ли вы этому искажению?

8.1. Чек-лист тревожных признаков

• Вы узнали, что пересказанная вами новость оказалась ложной, но все равно ловите себя на мысли, что продолжаете в нее верить
• Когда авторитетный для вас источник дискредитирован, ваше отношение к объектам его критики не становится лучше
• Вы можете вспомнить первое впечатление о человеке, которое так и не пересмотрели, несмотря на годы противоположных свидетельств
• Вы ловите себя на мысли «исследование было некачественным, но сама идея, скорее всего, верна», не утруждая себя поиском других доказательств
• Вы отчетливо помните сенсационный заголовок пугающей новости, но смутно помните последовавшее затем опровержение
• Узнав, что убеждение держится всего на одном источнике, вы начинаете искать причины, по которым оно все равно может быть верным
• Вы продолжали следовать привычке даже после того, как лежавший в ее основе совет был отозван
• Вам кажется, что отказ от убеждения после опровержения выставит вас непоследовательным
• Вы объясняли кому-то логику некоего факта и затем с трудом смогли отказаться от своего объяснения, когда факт был признан ложным
• Вы соглашаетесь с тем, что опровержение «формально справедливо», но в реальной жизни продолжаете действовать по-старому

Подсчет баллов:

• 0-2 пункта: низкая подверженность
• 3-5 пунктов: умеренная подверженность
• 6-8 пунктов: высокая подверженность
• 9-10 пунктов: очень высокая подверженность

8.2. Вопросы для саморефлексии

1. Какого убеждения вы придерживаетесь прямо сейчас, впервые услышав его из источника, которому больше не доверяете? Пересматривали ли вы это мнение?
2. Вспомните случай, когда вам сообщили о ложности ранее принятой информации. Что произошло с той цепочкой объяснений, которую вы успели выстроить вокруг нее?
3. Есть ли в вашем окружении человек, первое сильное впечатление о котором должно было измениться под влиянием фактов, но так и не изменилось?
4. Читая опровержение, что вы помните месяц спустя: само опровержение или первоначальное утверждение?
5. От какого из ваших текущих взглядов вам было бы тяжелее всего отказаться, если бы лежащие в его основе данные опровергли завтра, и почему?

8.3. Экспресс-сценарий для диагностики

Сценарий: Полгода назад вы прочитали популярную статью о том, что распространенная пищевая добавка вызывает проблемы с памятью. Вы исключили ее из рациона и объяснили друзьям почему. Сегодня вы узнаете, что исследование, лежавшее в основе статьи, официально отозвано из-за фальсификации данных, а никакие другие эксперименты этот вред не подтвердили.

Как вы поступите?

• А) Продолжите избегать добавки: возможно, исследование и было сомнительным, но дыма без огня не бывает → Высокая подверженность
• Б) Признаете отсутствие доказательств и снова начнете покупать продукт, но при каждом употреблении будете ощущать легкое беспокойство → Умеренная подверженность
• В) Примете факт опровержения, перепроверите, во что еще вы поверили на основе этой статьи, и сообщите об этом предупрежденным друзьям → Низкая подверженность

9. Как распознать искажение у других

9.1. Поведенческие признаки

• Человек формально соглашается с опровержением, но продолжает строить диалог так, будто никакого опровержения не было
• Воспринимает аннулирование источника данных как незначительную формальность, а не как уничтожение доказательной базы
• Когда доказательства отозваны, переходит от аргумента «данные показывают» к позиции «это и так всем известно»
• Находит новые оправдания для прежнего вывода за считанные минуты после утраты исходного довода
• Отчетливо воспроизводит исходное утверждение, а содержание опровержения помнит лишь туманно

9.2. Маркеры в речи и общении

Характерные реплики человека, находящегося под влиянием искажения:

• «Да, то исследование оказалось фейком, но сама мысль вполне здравая»
• «Дыма без огня не бывает»
• «Я знаю, что новость опровергли, но я все равно считаю...»

Типичные линии аргументации:

• Замена отозванного факта общими рассуждениями о правдоподобии
• Использование придуманного ими самими объяснения в качестве независимого доказательства

Вопросы, которых люди старательно избегают:

• «Если бы я никогда не слышал то первоначальное утверждение, поверил бы я в это сейчас?»
• «Какие фактические доказательства, кроме дискредитированного источника, у меня реально есть?»

9.3. Ситуационные триггеры

• Убеждение сформировалось на основе яркого единичного случая, а не сухой статистики (Anderson в 1983 году показал, что конкретные примеры вызывают более стойкое упорство, чем абстрактные данные)
• Человек успел подробно объяснить логику убеждения кому-то другому до того, как пришло опровержение
• Опровержение сводится к сухому вердикту «это неправда» и не предлагает альтернативной картины произошедшего
• Опровержение поступило спустя долгое время после новости или доходит разрозненными фрагментами
• Человек относится с большим недоверием к автору опровержения, чем к первоисточнику ложной новости

10. Стратегии преодоления искажения

10.1. Быстрые техники

• Генерируйте контробъяснения: Когда убеждение лишается доказательств, уделите две минуты размышлениям о том, почему правдой может быть прямо противоположное. Anderson (1982) показал, что это надежно ослабляет упорство, поскольку у старого объяснения появляется конкурент.
• Рассмотрите противоположное: Lord, Lepper и Preston (1984) установили, что вопрос: «Оценил бы я эти свидетельства точно так же, если бы они вели к противоположному выводу?» снижает предвзятую ассимиляцию там, где общие призывы к объективности не работают.
• Заполняйте смысловой пробел: Зафиксируйте то, что произошло на самом деле. Johnson и Seifert (1994) выяснили, что опровержения, предлагающие альтернативное причинное объяснение, снижают эффект продолжительного влияния значительно сильнее, чем простое отрицание факта.
• Назовите эффект своими словами: Процессуальный дебрифинг в исследовании Ross, Lepper и Hubbard (1975) сработал потому, что участники узнали о самом существовании упорства убеждений. Сказать себе: «Сейчас история переживает факты», значит применить компактный аналог того же научного приема.

10.2. Долгосрочные стратегии

• Ведите журнал опровержений: Записывайте убеждения, от которых вам пришлось отказаться, их источники и то, что вы сделали с вытекавшими из них убеждениями. Письменная фиксация делает опровержение столь же запоминающимся, сколь и исходное заявление.
• Откладывайте объяснения: Не спешите придумывать логическое обоснование для яркой новости, пока не проверите ее. Необъясненный тезис отбросить легко, а объясненный уже нет.
• Опирайтесь на базовые вероятности, а не на истории: Убеждения, привязанные к единичному живому примеру, цепляются за сознание крепче всего.
• Практикуйте публичный пересмотр позиций: Произносите вслух, и почаще: «Раньше я думал X, но ошибался, потому что Y». Каждое такое признание снижает психологический барьер перед следующим.

10.3. Организация среды

• Опровержения с тем же охватом, что и новость: Запускайте исправление ошибки по всем тем каналам, где распространялось исходное заявление, снабжая его собственным заметным заголовком.
• Журнал решений с источниками данных: Фиксируйте свидетельства, лежащие в основе каждого ключевого решения, чтобы при дискредитации источника можно было легко отследить все связанные выводы.
• Пребангинг (упреждающее разоблачение): Предупреждайте людей о вероятном ложном утверждении и об объяснении, которое они для него выстроят, до того, как они с ним столкнутся. Условие «прививки» в эксперименте Anderson 1982 года и работы 2010-х годов по психологической прививке от дезинформации указывают в ту же сторону.
• Начинайте с правды: Сначала излагайте достоверную информацию и лишь затем однократно упоминайте ложный миф, чтобы в памяти читателя закреплялась именно правда.

10.4. Когда обращаться за независимой оценкой

• Когда решение строится на данных из источника, признанного ненадежным, и вы не можете назвать других независимых опор
• Когда ваше мнение о человеке носит выраженно негативный характер и сложилось рано
• Когда вы ловите себя на том, что спешно придумываете новые доводы для старого вывода сразу после потери исходного аргумента

К кому обращаться: к человеку, который не видел первоначальной ложной информации. Опишите текущие факты без дискредитированных деталей и спросите, к какому выводу пришел бы он. Если его ответ отличается от вашего, эта разница и составляет осадок опровергнутых свидетельств.

11. Практические упражнения

Упражнение 1: Журнал опровержений

• Цель: Сделать опровержения столь же памятными, как и заявления, которые они исправляют
• Необходимое время: 10 минут на каждую запись, 20 минут на ежемесячный обзор
• Материалы: Блокнот или заметки в телефоне
• Уровень сложности: Начальный
• Инструкции:
  1. Каждый раз, узнав о ложности того, во что вы верили, запишите само убеждение, первоисточник и суть опровержения
  2. Перечислите другие убеждения и решения, которые зависели от этой информации
  3. Для каждого пункта отметьте, сохраняет ли он независимое обоснование
  4. Решите, будете ли вы что-то делать иначе, и если да, то что
  5. Раз в месяц перечитывайте записи и проверяйте, не вернулись ли опровергнутые идеи обратно в мышление
• Вопросы для рефлексии:
  • От каких опровергнутых идей было сложнее всего отказаться, и что между ними общего?
  • Проявилось ли какое-то из опровергнутых убеждений в ваших мыслях уже после того, как вы его записали?
• Периодичность: Регулярно, с ежемесячным анализом записей

Упражнение 2: Практика контробъяснений

• Цель: Сформировать навык поиска конкурирующих версий для каждого объяснения
• Необходимое время: 15 минут
• Материалы: Бумага и ручка
• Уровень сложности: Средний
• Инструкции:
  1. Выберите суждение о причинах некоего явления (почему коллега так себя ведет, почему товар продается именно так)
  2. Запишите свое привычное объяснение в трех-четырех предложениях
  3. Составьте столь же детальное объяснение прямо противоположного вывода, будто вам предстоит защищать его в споре
  4. Составьте список фактов, способных рассудить эти две позиции
  5. Оцените уровень уверенности в первоначальной идее сейчас по сравнению с тем, что было до упражнения
• Вопросы для рефлексии:
  • Оказалось ли составление противоположного объяснения сложнее, чем вы ожидали?
  • Какими реальными фактами вы располагаете помимо самой придуманной истории?
• Периодичность: Еженедельно в течение двух месяцев, затем каждый раз, когда суждение кажется подозрительно бесспорным

Упражнение 3: Анатомия убеждения

• Цель: Отследить давнее убеждение до первоисточника и проверить, сохраняет ли он силу
• Необходимое время: 45 минут
• Материалы: Бумага, доступ в интернет
• Уровень сложности: Средний
• Инструкции:
  1. Выберите убеждение о здоровье, финансах, людях или устройстве мира, которого вы придерживаетесь годами
  2. Запишите, когда и при каких обстоятельствах вы впервые в него поверили
  3. Найдите первоисточник информации. Считается ли он по-прежнему надежным, или его отозвали либо опровергли?
  4. Разделите все причины своей уверенности на две колонки: «независимые факты» и «объяснения, которые я придумал сам после принятия тезиса»
  5. Если колонка фактов пуста, а источник дискредитирован, сформулируйте вывод, к которому вы пришли бы при первом знакомстве с темой сегодня
• Вопросы для рефлексии:
  • Какая часть вашей уверенности опиралась на источник, а какая на ваше собственное объяснение?
  • Что реально требуется для изменения убеждения в отличие от простого согласия с тем, что изменить его необходимо?
• Периодичность: Раз в квартал по одному убеждению за раз

Ежедневная практика

Вопрос «Откуда я это знаю?»

Раз в день, заметив за собой утверждение чего-либо в качестве непреложного факта, сделайте паузу и спросите себя, откуда взялась эта информация. Если источником служит единственный канал, отметьте, проверяли ли вы его хоть однажды.

• Рекомендуемая продолжительность: 2 минуты
• Оптимальное время: Всякий раз, когда вы ловите себя на трансляции чужого тезиса
• Как отслеживать прогресс: Сравнивайте число утверждений с проверенным первоисточником и утверждений без него

Челлендж на неделю

Публичное исправление собственных ошибок

Каждую неделю находите одно утверждение, высказанное вами в беседе, которое оказалось неверным или необоснованным, возвращайтесь к собеседнику и прямо говорите об ошибке и о том, как обстоят дела в действительности.

• Ожидаемый результат через 4 недели: Снижение дискомфорта при пересмотре позиций; четкое понимание того, какие взгляды опираются на единичные источники
• Темы для записей в дневнике рефлексии:
  • Какое исправление далось сложнее всего, и чем это было вызвано: реальными фактами или боязнью показаться непоследовательным?
  • Скорректировал ли собеседник свое мнение, или он тоже проявил упорство убеждений?

12. Рекомендации для целевых аудиторий

Для руководителей и менеджеров

• Оценка людей: Первое впечатление о сотруднике, сложившееся в начале его работы, сохраняется даже после изменения показателей. Оценивайте подчиненного по фактам за последний год, а не по впечатлениям первого месяца.
• Опровержения в организации: Если решение принималось на основе отчета, который позже был отозван, доносите опровержение по всем тем же каналам и прямо указывайте, какие решения оно затрагивает.
• Дисциплина объяснений: Просите команды воздерживаться от объяснения неожиданных результатов до тех пор, пока данные не перепроверены. Команда, уже объяснившая результат, будет защищать его и после того, как он будет опровергнут.

Для родителей и педагогов

• Объяснение на понятном языке: «Иногда мы узнаем, что мысль, в которую мы верили, возникла из-за ошибки. Мозг все равно держится за нее, потому что уже придумал для нее объяснение. В таких случаях полезно попробовать придумать объяснение для противоположной мысли».
• Заблуждения в процессе обучения: Ученики приходят с интуитивными представлениями (например, что тяжелые предметы падают быстрее), которые переживают уроки, потому что учитель исправляет факт, но не объяснение. Модель «спрогнозировать, понаблюдать и объяснить разницу» работает куда лучше, чем прямое сообщение правильного ответа.
• Личный пример пересмотра взглядов: Произносите вслух при детях: «Я ошибался в этом вопросе, и вот что я думаю теперь». Дети учатся обновлять свои взгляды, видя, что взрослые делают это спокойно и без драмы.

Для медицинских работников

• Диагностические якоря: Предварительный диагноз, выставленный по ранним результатам анализов, сохраняется после их пересмотра. При уточнении данных формируйте дифференциальный ряд заново с чистого листа, а не редактируйте старую гипотезу.
• Убеждения пациентов: Пациенты, признающие вымышленность данных о вреде процедуры, все равно могут испытывать остаточный страх. Объясните естественные причины замеченного ими совпадения, а не ограничивайтесь сухим вердиктом об отзыве статьи.
• Подача опровержений: Сначала излагайте достоверную информацию, упомяните ложный миф только один раз и объясните, почему люди в него поверили. Опровержения, начинающиеся с пересказа мифа, лишь обновляют его в памяти.

Для финансистов и инвесторов

• Гигиена инвестиционных гипотез: Фиксируйте конкретные свидетельства, лежащие в основе каждого инвестиционного решения. Если часть данных отозвана, выводите гипотезу заново из оставшихся фактов, вместо того чтобы спрашивать себя, «кажется ли идея по-прежнему верной».
• Убеждения клиентов: Клиенты нередко держатся за убеждения о финансовых продуктах и управляющих, внушенные источниками, которые с тех пор были дискредитированы. Прежде чем спорить, выясните первопричину их уверенности.
• Предварительные обязательства: Заранее определите и зафиксируйте на бумаге условия, при которых вы закроете позицию. Письменное правило устоит перед объяснениями, которые ваш мозг начнет генерировать позже.

13. Взаимодействие с другими искажениями

Искажения, усиливающие упорство убеждений

Искажения, ослабляющие упорство убеждений

Типичные цепочки искажений

Эффект привязки → Предвзятость подтверждения → Упорство убеждений → Эффект продолжительного влияния

Первое утверждение задает якорь. Предвзятость подтверждения собирает подкрепляющие наблюдения, и человек конструирует объяснение. При отзыве исходного заявления объяснение и накопленные детали продолжают поддерживать веру, а опровергнутый тезис исподволь влияет на выводы, даже если человек помнит о самом факте опровержения.

Как разорвать цепочку: Самый простой способ вмешательства работает на раннем этапе: отложите объяснение до проверки фактов. Наиболее эффективный метод после закрепления идеи заключается в создании контробъяснения вместе с альтернативной версией событий, закрывающей пробел.

14. Культурный контекст

Прямые кросс-культурные исследования упорства убеждений немногочисленны, поэтому данный раздел частично опирается на теоретические обобщения. Единственное хорошо задокументированное межстрановое различие, описанное Lewandowsky и коллегами в исследовании иракской кампании 2005 года, не было культурным в привычном смысле: американцы продолжали использовать отозванные сведения, тогда как немцы и австралийцы отказались от них. Разница объяснялась подозрительностью по отношению к источнику заявлений. Доверие к источнику предсказывало упорство убеждений сильнее, чем национальная принадлежность.

Исследования стилей мышления предлагают еще один возможный модератор. Peng и Nisbett (1999) показали, что китайские респонденты терпимее американцев относятся к сосуществованию противоположных суждений — этот стиль мышления авторы назвали диалектическим. Мыслитель, спокойно принимающий противоречия, может быть менее склонен конструировать жесткую объяснительную цепочку либо способен удерживать исходный тезис и опровержение параллельно. В научной литературе пока нет окончательного ответа на этот вопрос. Культуры также различаются по цене публичного пересмотра взглядов: там, где отказ от позиции считывается как слабость, упорство убеждений подкрепляется социальным одобрением в дополнение к когнитивным механизмам.

15. Мифы и заблуждения

16. Мнения экспертов

«Человеческий разум, раз приняв какое-либо суждение (будь то общепринятое мнение или нечто ему понравившееся), притягивает все остальное для его подтверждения и согласия с ним». — Francis Bacon, Novum Organum (1620)

«Человека с твердыми убеждениями трудно изменить. Скажите ему, что вы не согласны, и он отвернется. Покажите ему факты или цифры, и он усомнится в ваших источниках. Воззовите к логике, и он не увидит вашей мысли». — Leon Festinger, Henry Riecken и Stanley Schachter, When Prophecy Fails (1956)

«Новая научная истина побеждает не тем, что убеждает своих противников и заставляет их прозреть, а скорее тем, что ее противники в конце концов умирают, а вырастает новое поколение, которому она привычна». — Max Planck, Scientific Autobiography (1950)

Пересказ выводов Lewandowsky, Ecker, Seifert, Schwarz и Cook (2012): опровержение само по себе работает редко, поскольку оставляет пробел в ментальной модели событий; эффективное исправление предлагает альтернативную картину, избегает лишних повторений мифа и исходит из источника, которому человек доверяет. — Обобщение статьи Misinformation and Its Correction, Psychological Science in the Public Interest

17. Главные выводы

1. Убеждение переживает свои доказательства: Отзыв тезиса устраняет факты, но сохраняет само убеждение, которое к тому моменту уже опирается на придуманное человеком объяснение.

2. Объяснение является ключевым механизмом: Люди, сформулировавшие объяснение связи до ее дискредитации, держатся за нее крепче всего, а поиск причин создает веру в явление даже при отсутствии реальных доказательств.

3. Это не предвзятость подтверждения и не обратный результат: Предвзятость подтверждения отвечает за сбор фактов, а упорство убеждений отвечает за выживание веры после их утраты. Эффект обратного результата не нашел подтверждения в масштабных тестах.

4. Опровержения работают, но лишь частично: Метаанализы показывают, что развенчание мифов стабильно снижает веру в дезинформацию, однако редко возвращает ее к исходному уровню. Этот остаточный эффект и есть упорство убеждений.

5. Контробъяснение является самым проверенным средством: Формулирование причин того, почему правдой может быть обратное, или получение альтернативной версии событий ослабляет искажение так, как не способны сделать простые опровержения.

6. Доверие к источнику важнее национальности: Принятие опровержения зависит от того, как человек воспринимает автора заявления и того, кто его корректирует.

7. Знание об эффекте помогает: Процессуальный дебрифинг, устранивший упорство в 1975 году, сработал благодаря тому, что людям объясняли сам механизм. Назвать эффект, когда он происходит с вами, значит применить уменьшенную версию того же средства.

18. Дополнительные материалы

Научные статьи

• Ross, L., Lepper, M. R., & Hubbard, M. (1975). Perseverance in self-perception and social perception: Biased attributional processes in the debriefing paradigm. Journal of Personality and Social Psychology, 32(5), 880-892.
• Anderson, C. A., Lepper, M. R., & Ross, L. (1980). Perseverance of social theories: The role of explanation in the persistence of discredited information. Journal of Personality and Social Psychology, 39(6), 1037-1049.
• Lord, C. G., Ross, L., & Lepper, M. R. (1979). Biased assimilation and attitude polarization: The effects of prior theories on subsequently considered evidence. Journal of Personality and Social Psychology, 37(11), 2098-2109.
• Anderson, C. A. (1982). Inoculation and counterexplanation: Debiasing techniques in the perseverance of social theories. Social Cognition, 1(2), 126-139.
• Lewandowsky, S., Ecker, U. K. H., Seifert, C. M., Schwarz, N., & Cook, J. (2012). Misinformation and its correction: Continued influence and successful debiasing. Psychological Science in the Public Interest, 13(3), 106-131.
• Wood, T., & Porter, E. (2019). The elusive backfire effect: Mass attitudes' steadfast factual adherence. Political Behavior, 41(1), 135-163.

Книги

• Nisbett, R. E., & Ross, L. (1980). Human Inference: Strategies and Shortcomings of Social Judgment. Prentice-Hall.
• Festinger, L., Riecken, H. W., & Schachter, S. (1956). When Prophecy Fails. University of Minnesota Press.

Главы в книгах

• Ross, L., & Anderson, C. A. (1982). Shortcomings in the attribution process: On the origins and maintenance of erroneous social assessments. In D. Kahneman, P. Slovic, & A. Tversky (Eds.), Judgment Under Uncertainty: Heuristics and Biases (pp. 129-152). Cambridge University Press.
• Anderson, C. A. (2007). Belief perseverance. In R. F. Baumeister & K. D. Vohs (Eds.), Encyclopedia of Social Psychology (pp. 109-110). Sage.

19. Памятка

20. Глоссарий терминов

21. Вопросы для обсуждения

Для книжных клубов, учебных аудиторий или саморефлексии:

1. Участники исследования 1975 года не имели личной заинтересованности в том, насколько хорошо они определяют подлинность предсмертных записок, но все равно сохранили уверенность в своих оценках. Какая доля вашего собственного сопротивления исправлению связана с самолюбием, а какая продиктована особенностями работы объяснительных механизмов мышления?

2. Опровержения снижают веру в ложные утверждения, но не стирают ее полностью. Стоит ли новостным организациям и органам здравоохранения изменить формат подачи опровержений, и если да, то каким образом?

3. Вспомните научную или медицинскую концепцию, опровергнутую при вашей жизни. Сколько времени потребовалось окружающим людям, чтобы перестать руководствоваться устаревшей теорией?

4. Та же когнитивная инерция, которая поддерживает ложные взгляды, годами сохраняла теорию дрейфа материков и бактериальную причину язвы вопреки скепсису научного сообщества. Можно ли изнутри отличить истинную научную стойкость от упорства заблуждений?

5. Если отказ от немедленных объяснений до проверки фактов является самой доступной защитой, как можно внедрить эту практику в учебных аудиториях, редакциях СМИ или проектных командах?

Последнее обновление: 17 октября 2026