Предвзятость убеждений (Belief Bias)

Краткий обзор

1. Краткое содержание

Предвзятость убеждений проявляется, когда вас спрашивают «следует ли этот вывод?», а ваш ум тихо отвечает на другой вопрос: «верен ли этот вывод?» Если вывод совпадает с тем, что вы и так думаете, рассуждение кажется здравым, даже когда логика в нем сломана. Если он расходится с вашим мнением, рассуждение кажется подозрительным, даже когда в нем не к чему придраться. Психологи впервые измерили это с помощью силлогизмов в 1920-е годы; в классическом исследовании 1983 года люди принимали невалидные аргументы с правдоподобными выводами примерно в 71% случаев, а валидные аргументы с неправдоподобными выводами лишь примерно в 56%. Искажение усиливается при нехватке времени, ослабевает при тщательных инструкциях и никогда не исчезает полностью. Это важно, потому что почти любой публичный аргумент оценивают люди, у которых уже есть мнение о том, к чему он должен прийти.

Простыми словами

Предвзятость убеждений означает, что ты проверяешь, хорошо ли звучит концовка рассуждения, вместо того чтобы проверить, действительно ли шаги к ней ведут. Если ты уже согласен с концовкой, рассуждение кажется хорошим. Если нет, оно кажется неправильным, даже когда каждый шаг в порядке.

Допустим, друг говорит тебе: «Все лучшие игроки нашей школы в футбольной команде. Саша отлично играет. Значит, Саша точно в футбольной команде». Звучит нормально, ведь Саша, скорее всего, и правда в команде. Но посмотри на шаги. Первое предложение говорит только о том, что лучшие игроки в команде. Оно не говорит, что отличный игрок обязательно в ней. Саша может отлично играть и выступать за клуб вне школы. Рассуждение сломано, но концовка совпала с тем, что ты ожидал, и ты ничего не заметил.

Вот хитрость. Замени слова на глупые и посмотри, работают ли шаги. «Все лучшие танцоры фиолетовые. Саша отлично танцует. Значит, Саша фиолетовый». Теперь сломанный шаг сразу бросается в глаза. Если рассуждение работает только тогда, когда концовка звучит правдиво, оно никогда и не работало.

2. Научное обоснование

2.1. Открытие и история

Способ поймать предвзятость убеждений почти не изменился за столетие. Человеку дают силлогизм, две посылки и вывод, и спрашивают, обязательно ли вывод истинен, если истинны посылки. Затем независимо варьируют две вещи: валиден ли аргумент и верит ли человек в вывод. Если бы люди судили только по логике, правдоподобие не имело бы значения. Оно имеет огромное значение.

Минна Чивз Уилкинс описала первую четкую версию эффекта в 1928 году: одну и ту же логическую форму решали более или менее точно в зависимости от того, в какое содержание она была облечена. Джанис и Фрик (1943) показали, что отношение к выводу предсказывало ошибки в оценке его валидности.

Современный эталон задала статья Джонатана Эванса, Джули Барстон и Пола Полларда 1983 года в Memory & Cognition. Их схема два на два (валидные и невалидные силлогизмы, каждый с правдоподобным и неправдоподобным выводом) дала большой эффект убеждений, меньший эффект логики и взаимодействие: правдоподобие значило гораздо больше для невалидных аргументов, чем для валидных. Это взаимодействие запустило тридцатилетний спор о механизме. Группа Эванса предложила «избирательную проверку» (люди проверяют логику, только когда вывод неправдоподобен) и «неверно понятую необходимость» (люди, не понимающие, что валидный вывод обязан следовать, опираются на убеждения, когда логика выглядит неопределенной). Клауэр, Муш и Наумер (2000) в Psychological Review показали, что убеждения делают и то и другое: сдвигают стадию рассуждения и добавляют простое смещение ответа, когда человек не уверен.

Затем Дьюб, Ротелло и Хейт (2010) в том же журнале применили теорию обнаружения сигнала и утверждали, что знаменитое взаимодействие в основном было артефактом анализа долей принятия в таблицах сопряженности. В их прочтении правдоподобие главным образом сдвигает порог для ответа «валидно» и не затрагивает способность отличать валидное от невалидного. Триппас, Хэндли и Верде (2013) обнаружили, что это зависит от того, кто рассуждает: у более способных участников на более трудных задачах убеждения ухудшали и само различение. Так что эффект реален и велик, но значительная его часть сводится к тому, что «люди снижают планку для выводов, которые им нравятся», а не к тому, что «убеждения отключают логику».

Обзор Эванса 2003 года в Trends in Cognitive Sciences сделал предвзятость убеждений хрестоматийным примером теорий двойных процессов: быстрый процесс, управляемый убеждениями, против медленного и требующего усилий. Ограничение в десять секунд усиливало искажение (Эванс и Кертис-Холмс, 2005); нагрузка на рабочую память ухудшала результаты только там, где логика и убеждения вступали в конфликт (де Нейс, 2006); устойчивость к искажению коррелировала с когнитивными способностями и активно непредвзятым мышлением (Станович и Уэст, 1997).

Ключевые вехи:

• 1928: Уилкинс показывает, что содержание силлогизма меняет то, насколько хорошо люди о нем рассуждают
• 1943: Джанис и Фрик связывают отношение к выводам с ошибками в оценке валидности
• 1983: Эванс, Барстон и Поллард публикуют схему два на два и описывают взаимодействие логики и убеждений
• 1989: Марковиц и Нантель показывают искажение, когда люди сами формулируют выводы
• 1997: Станович и Уэст связывают индивидуальные различия со способностями и мыслительными установками
• 2000: Клауэр, Муш и Наумер отделяют эффекты рассуждения от смещения ответа
• 2003: обзор Эванса о двойных процессах; Гоэл и Долан получают изображения задействованных областей мозга
• 2005 и 2006: показано, что нехватка времени и нагрузка на рабочую память усиливают искажение
• 2010: Дьюб, Ротелло и Хейт переосмысляют классический эффект как в основном смещение ответа
• 2013: Триппас с коллегами показывают, что способности и трудность задачи определяют, какая доля эффекта относится к рассуждению

2.2. Ключевые исследователи

2.3. Знаковые исследования

«О конфликте логики и убеждений в силлогистическом рассуждении» (Эванс, Барстон и Поллард, 1983)

Участники решали, следует ли вывод из посылок с необходимостью. Валидный, но неправдоподобный пример: «Ничто питательное не стоит дешево. Некоторые витаминные таблетки стоят дешево. Следовательно, некоторые витаминные таблетки не питательны». Невалидный, но правдоподобный: «Ничто, вызывающее зависимость, не стоит дешево. Некоторые сигареты стоят дешево. Следовательно, некоторые вещи, вызывающие зависимость, не сигареты».

Доли принятия в первом эксперименте составили примерно 89% для валидных правдоподобных, 56% для валидных неправдоподобных, 71% для невалидных правдоподобных и 10% для невалидных неправдоподобных. Правдоподобный невалидный аргумент принимали чаще, чем неправдоподобный валидный; в прямом столкновении убеждения победили логику. Правдоподобие сдвигало принятие невалидных аргументов примерно на 60 пунктов, а валидных лишь примерно на 33.

«Эффект предвзятости убеждений при порождении и оценке логических выводов» (Марковиц и Нантель, 1989)

Марковиц и Нантель просили участников либо оценивать готовые выводы, либо самим выводить их из посылок. Предвзятость убеждений проявилась в обоих заданиях, даже у участников, которые хорошо рассуждали на абстрактных задачах без содержания.

«Оценка эффекта предвзятости убеждений с помощью ROC-кривых: это эффект смещения ответа» (Дьюб, Ротелло и Хейт, 2010)

Участники оценивали свою уверенность в том, что вывод следует, и это позволяет строить ROC-кривые (рабочие характеристики приемника) вместо отдельных долей принятия. Кривые оказались изогнутыми, а значит, анализ таблиц сопряженности, применявшийся с 1983 года, может порождать ложное взаимодействие логики и убеждений. После поправки правдоподобие сдвигало критерий ответа (готовность сказать «валидно»), но не чувствительность (способность отличить валидное от невалидного).

Нехватка времени и рабочая память (Эванс и Кертис-Холмс, 2005; де Нейс, 2006)

Эванс и Кертис-Холмс дали половине участников десять секунд на ответ; предвзятость убеждений выросла, а эффект логики снизился. Де Нейс просил участников удерживать в памяти узор из точек, пока они рассуждали; нагрузка снижала точность только на силлогизмах, где убеждения и логика вступали в конфликт. Когда процессам, требующим усилий, не хватало времени или памяти, предвзятость убеждений проявлялась сильнее, как и предсказывает теория двойных процессов.

2.4. Неврологическая основа

Нейровизуализационных работ о предвзятости убеждений немного, но в одном они сходятся: чтобы преодолеть правдоподобный вывод, задействуется другая часть мозга, чем чтобы с ним согласиться.

Гоэл и Долан (2003) в Cognition сканировали мозг участников, рассуждавших о силлогизмах, выводы которых согласовывались или не согласовывались с убеждениями. Когда убеждения и логика конфликтовали и участники рассуждали правильно, росла активность в правой латеральной префронтальной коре, области, связанной с когнитивным контролем. Когда участники давали ответ на основе убеждений, сильнее была задействована вентромедиальная префронтальная кора, связанная с аффектом и интуитивной оценкой. Де Нейс, Вартанян и Гоэл (2008) в Psychological Science обнаружили, что передняя поясная кора, реагирующая на конфликт между конкурирующими ответами, была активна в конфликтных пробах, даже когда участники давали предвзятый ответ. Мозг регистрирует, что что-то не так, даже когда человек на это не реагирует; сбой чаще связан с торможением, чем с обнаружением.

Это несколько исследований со скромными выборками, и они описывают универсальные сети контроля, а не «контур предвзятости убеждений». Они подкрепляют поведенческую картину: ответы на основе убеждений даются дешево, а логическое преодоление требует усилий.

3. Эволюционное происхождение

Рассуждать из посылок, в которые не веришь, — странная задача для мозга. Почти всю человеческую историю полезным вопросом о любом утверждении было «правда ли это?», а быстрее всего ответ давала сверка с тем, что уже знаешь. Охотнику, услышавшему «река поднялась, значит, переправа опасна», не нужно было оценивать умозаключение; ему нужно было знать, поднялась ли река.

К тому же прежние убеждения в среднем заработаны честно. Если вывод противоречит тому, во что вы верили годами, базовая частота говорит, что ошибка скорее в рассуждении, чем в вашем убеждении. Быстро отбрасывать неожиданные выводы экономно и обычно верно. Но «обычно верно» — слабое утешение в тех случаях, когда здравое рассуждение ведет к неожиданному выводу.

Гуго Мерсье и Дан Спербер утверждали, что способность к рассуждению развилась в основном для того, чтобы выдвигать и оценивать доводы в разговоре. Снисходительность к доводам в пользу своей стороны и строгость к доводам против нее — примерно то, чего стоит ждать от способности, созданной для убеждения, а не для доказательства.

4. Как проявляется это искажение

4.1. В повседневной жизни

• Согласно кивать на рассуждение друга, потому что вы согласны с концовкой, и не заметить, что в нем пропущен шаг
• Отвергнуть здравое объяснение автомеханика или врача, потому что вывод («весь узел нужно менять») неприятен
• Поделиться постом с ужасной логикой, потому что его финальная мысль совпадает с вашими политическими взглядами
• Находить статистический аргумент убедительным, пока он не приходит к неожиданному числу, а потом вдруг начать искать изъян

4.2. На рабочем месте

• Утвердить план, потому что прогноз похож на тот, которого хочет руководство, не проверив, подкрепляют ли его допущения
• Разбирать анализ коллеги по косточкам, только когда он рекомендует то, против чего вы выступаете
• Код-ревью и аудиты, строгие к неожиданным результатам и поверхностные к ожидаемым

4.3. В бизнесе и маркетинге

• Реклама, которая заявляет вывод, желанный для покупателей («натуральное значит безопасное»), и оставляет им самим достраивать недостающую логику
• Презентации продаж, построенные на верных посылках и выводе, который из них не следует, в расчете на то, что аудитория хочет в него поверить
• Отзывы, которые работают потому, что слушатель хочет, чтобы продукт работал, и скачок от «ей помогло» к «мне поможет» никто не проверяет

4.4. В политике и медиа

Политические споры — естественная среда обитания предвзятости убеждений. Почти каждый слушатель приходит с готовым выводом, и вопрос о том, здраво ли рассуждает оратор, привычно подменяется вопросом, пришел ли оратор туда, куда хотел слушатель. Одна и та же колонка «хорошо аргументирована» для тех, кто с ней согласен, и «полна дыр» для тех, кто не согласен, причем дыры не проверяла ни одна из групп.

Типичные проявления:

• Заголовки, утверждающие вывод, который аудитория уже разделяет, так что слабый материал под ними никто не читает
• Оценка дебатов сторонниками, которая отражает выводы каждого оратора, а не качество его аргументов
• Отказ от неудобной статистики со словами «этого не может быть» до какой-либо проверки метода
• Опровержения с валидным рассуждением, но неприятными выводами, которые отвергают из-за одного лишь вывода

4.5. В здравоохранении

Врачи весь день рассуждают от данных обследования к диагнозам, и диагноз, который вписывается в ожидаемую картину, принимают на более слабых основаниях, чем тот, что не вписывается. Молодому тревожному пациенту с болью в груди объясняют все паническим приступом; умозаключение от «тревожный и молодой» к «не сердце» невалидно, но правдоподобно. Бывает и наоборот: здравый аргумент в пользу того, что привычное лечение не работает, встречает сопротивление, потому что вывод неприятен. Доказательная медицина существует отчасти потому, что довод «это имеет физиологический смысл, значит, должно помогать» раз за разом принимали без испытаний. Пациенты делают то же самое: довод в пользу лечения, которое им уже нравится, звучит убедительно, а довод против кажется признаком того, что врач что-то упустил.

4.6. В финансах и инвестициях

• Принять оптимистичный сценарий, потому что целевая цена совпадает с вашей позицией, а пессимистичный сценарий проверять построчно
• Считать разорванную причинную цепочку («ставки упадут, значит, эта акция вырастет») здравой, потому что вы владеете этой акцией
• Сомневаться в верном расчете стоимости, потому что его вывод (компания стоит вдвое меньше рыночной цены) кажется абсурдным

5. Примеры из реальной жизни

Пример 1: Письма о задаче Монти Холла

• Контекст: В сентябре 1990 года Мэрилин вос Савант ответила на вопрос читателя в своей колонке в журнале Parade. Участник выбирает одну из трех дверей; за одной автомобиль, за двумя козы. Ведущий, который знает, что за каждой дверью, открывает другую дверь с козой и предлагает поменять выбор. Вос Савант ответила: менять, это дает выигрыш в двух случаях из трех.
• Что произошло: Ее ответ был верным, а объяснение здравым, но большинству читателей вывод показался абсурдным. Она получила около десяти тысяч писем, почти тысячу из них от читателей с докторскими степенями, где ей говорили, что она ошибается. Математик Пал Эрдёш, по рассказам, отказывался принять аргумент, пока ему не показали компьютерную симуляцию.
• Как проявилось искажение: Рассуждение было валидным; вывод был неправдоподобным. Читатели, которые приняли бы небрежный аргумент в пользу «очевидного» ответа (осталось две двери, значит, пятьдесят на пятьдесят), отвергли тщательный аргумент в пользу контринтуитивного. Сначала они не согласились, а потом решили, что изъян обязан где-то быть.
• Последствия: Эпизод стал стандартной иллюстрацией того, как прежняя убежденность перекрывает умозаключение даже у людей, обученных формальному рассуждению.
• Извлеченные уроки: Ощущение «этого не может быть» ничего не говорит о рассуждении. Когда вывод кажется абсурдным, найдите конкретный шаг, который не работает. Если не можете, вывод остается в силе.

Пример 2: Завтрак и ожирение

• Контекст: Убеждение, что пропуск завтрака ведет к набору веса, широко распространено, и десятки наблюдательных исследований сообщали, что те, кто пропускает завтрак, в среднем весят больше.
• Что произошло: В 2013 году Эндрю Браун, Мишель Бохан Браун и Дэвид Эллисон опубликовали в American Journal of Clinical Nutrition анализ того, как научная литература обращалась с этим вопросом. Исследователи раз за разом описывали наблюдаемую связь причинным языком, ссылались на прежние работы как на показавшие эффект, которого те не показывали, и упускали из виду немногие рандомизированные испытания, не подтверждавшие это убеждение.
• Как проявилось искажение: Умозаключение от «пропускающие завтрак весят больше» к «пропуск завтрака вызывает набор веса» невалидно уже на первый взгляд: те, кто пропускает завтрак, отличаются от тех, кто завтракает, во многом. Но вывод был правдоподобным, поэтому невалидное умозаключение принимали и повторяли люди, чья работа как раз в том, чтобы оценивать данные.
• Последствия: Публичные рекомендации по питанию содержали причинное утверждение, которое испытания не подтверждали.
• Извлеченные уроки: Подготовка в методах исследований не отключает предвзятость убеждений; она меняет словарь, которым правдоподобные выводы пропускают без проверки.

Исторический пример: Аристотель, Галилей и падающие камни

Примерно две тысячи лет образованные европейцы принимали утверждение Аристотеля, что тяжелые тела падают быстрее легких пропорционально своему весу. Оно совпадало с опытом: камень действительно падает на землю раньше пера. Доводы в его пользу были слабыми, и Иоанн Филопон еще в шестом веке заметил, что если бросить два груза, никакой пропорциональной разницы не видно. Но вывод был правдоподобным, поэтому доводы внимательно не изучали.

Галилей атаковал это утверждение логикой. В «Беседах о двух новых науках» (1638) устами своего персонажа Сальвиати он предложил связать тяжелый камень с легким. Если тяжелые тела падают быстрее, легкий камень должен тормозить тяжелый, и связка будет падать медленнее, чем один тяжелый камень. Но связка тяжелее одного тяжелого камня, значит, по тому же правилу она должна падать быстрее. Посылка порождает противоречие, следовательно, посылка неверна.

Это клетка «валидно, но неправдоподобно» в историческом облачении. Аргумент Галилея был здравым, его вывод было трудно проглотить, и многие современники отвергли его из-за одного лишь вывода.

6. Последствия искажения

6.1. Личные издержки

• Деньги, потерянные на предложениях, единственным достоинством которых был вывод, который вам хотелось услышать
• Решения о здоровье, основанные на аргументах, которые вы не проверяли, потому что они заканчивались там, где вы надеялись
• Медленное обучение, потому что аргументы, способные изменить ваше мнение, отвергаются еще на стадии вывода

6.2. Профессиональные издержки

• Ошибочные планы, утвержденные потому, что их прогнозы совпали с ожиданиями
• Строгая проверка только для неожиданных результатов, из-за чего ожидаемые ошибки проскальзывают
• Диагнозы, аудиты и расследования, которые подтверждают предполагаемый ответ на недостаточных основаниях
• Команды, которые перестают представлять здравый, но неприятный анализ, потому что усвоили, что его отвергнут

6.3. Общественные издержки

• Публичная дискуссия, в которой аргументы оценивают по выводам, так что качество рассуждения перестает иметь значение
• Дезинформация, которая распространяется потому, что ее выводы правдоподобны для целевой аудитории, какой бы ни была логика
• Наука, которая преувеличивает желанные результаты и слишком придирчиво проверяет нежеланные

6.4. Статистическое влияние

• У Эванса, Барстон и Полларда (1983) правдоподобные невалидные выводы принимали примерно в 71% случаев, а неправдоподобные валидные примерно в 56%
• Эванс и Кертис-Холмс (2005): ограничение в десять секунд усиливало предвзятость убеждений и снижало эффект логики
• Де Нейс (2006): одновременная нагрузка на рабочую память снижала точность на конфликтных силлогизмах, но не на бесконфликтных
• Канеман сообщает, что большинство студентов колледжей признают валидным рассуждение «Все розы — цветы; некоторые цветы быстро вянут; следовательно, некоторые розы быстро вянут», хотя оно невалидно

7. Скрытые преимущества

Предвзятость убеждений — это цена за в целом разумную политику: взвешивать новые аргументы по тому, насколько их выводы согласуются со всем остальным, что вы знаете.

• Прежние убеждения тоже служат данными: Вывод, противоречащий хорошо обоснованному убеждению, действительно скорее происходит из ошибочного аргумента, чем из верного. Считать удивление сигналом присмотреться внимательнее рационально; ошибка в том, чтобы считать его вердиктом.

• Защита от хитроумной чепухи: Читатель, который отвергает изящное доказательство того, что 1 равно 2, так и не найдя спрятанного деления на ноль, все равно прав, что его отвергает.

• Устойчивость знаний: Если бы любой правильно построенный аргумент мог опрокинуть убеждение, вы меняли бы мнение после каждого убедительного оратора.

Эти преимущества работают, когда ваши прежние убеждения точны, а ставки невысоки. Они перестают работать, когда под вопросом само убеждение, когда аргумент исходит от человека с лучшей информацией и когда цена отказа от валидного вывода высока.

8. Самодиагностика: подвержены ли вы этому искажению?

8.1. Чек-лист тревожных сигналов

• Вы редко можете вспомнить аргумент, который изменил ваше мнение по вопросу, к которому вы относились с сильным чувством
• Когда кто-то приходит к выводу, с которым вы согласны, вы редко проверяете, как он к нему пришел
• Когда кто-то приходит к выводу, с которым вы не согласны, ваша первая мысль: «Где подвох?»
• Вы называете неприятные вам аргументы «явно ошибочными», не умея назвать ошибку
• Статистика кажется вам убедительной, пока не указывает в неожиданную сторону
• Вы делились статьей ради ее вывода, а потом обнаруживали, что рассуждение в ней слабое
• Вы оцениваете дебаты по тому, с какой стороной были согласны до их начала
• Вы считаете коллег «хорошо мыслящими» в основном тогда, когда они с вами соглашаются
• Вы принимаете «это же очевидно» вместо довода, когда утверждение вам подходит
• Проверять логику аргумента в пользу того, во что вы уже верите, кажется вам пустой тратой времени

Подсчет баллов:

• 0-2 пункта: низкая подверженность
• 3-5 пунктов: умеренная подверженность
• 6-8 пунктов: высокая подверженность
• 9-10 пунктов: очень высокая подверженность

8.2. Вопросы для саморефлексии

1. Вспомните последний аргумент, который вы быстро отвергли. Можете ли вы одним предложением назвать конкретный шаг, который не работал?
2. Для каких из ваших твердых убеждений вы никогда не встречали хорошего аргумента? Узнали бы вы плохой аргумент в их пользу?
3. Когда вы в последний раз приняли вывод человека, которому не доверяете, потому что его рассуждение было здравым?
4. Возьмите одно из своих убеждений и представьте, что друг приводит те же самые данные в пользу противоположного вывода. Какие возражения вы бы выдвинули? Применимы ли они к вашей собственной стороне?
5. Какие результаты в вашей работе проверяют дважды, а какие пропускают без вопросов? Связана ли разница с данными или с ответом?

8.3. Сценарий быстрой диагностики

Сценарий: Коллега, которого вы считаете небрежным, представляет анализ с выводом, что флагманский проект вашей команды нужно закрыть. Слайды понятные, цифры взяты из источников, которым вы доверяете. Вы ожидали, что с проектом все в порядке.

Как вы поступите?

• A) Решите, что где-то есть ошибка, отметите, что этот человек часто ошибается, и попросите кого-то другого переделать анализ → Высокая подверженность
• B) Будете твердо уверены, что вывод неверен, но согласитесь посмотреть еще раз, когда ответит команда проекта → Умеренная подверженность
• C) Разберете аргумент шаг за шагом и, если ни один шаг не окажется ошибочным, предварительно примете вывод и будете планировать с его учетом → Низкая подверженность

9. Как распознать это искажение у других

9.1. Поведенческие признаки

• Отвечает на аргументы вердиктом о выводе, а не замечаниями о шагах
• Заметно меняет требования к доказательствам в зависимости от того, в какую сторону указывает результат
• Не может найти изъян в отвергаемом аргументе, но остается уверен, что он есть
• Просит больше данных, только когда данные нежеланны

9.2. Тревожные сигналы в разговоре

Фразы, которые произносят люди под влиянием этого искажения:

• «Мне не нужно смотреть на аргумент, я знаю, что это неправда».
• «Этого не может быть».
• «Уверен, там где-то есть ошибка».

Типичные приемы в споре:

• Нападки на вывод, выдаваемые за нападки на рассуждение
• Требования доказательств, которые никогда не предъявляют к удобным утверждениям

Вопросы, которых избегают:

• «С каким именно шагом я не согласен?»
• «Принял бы я этот аргумент, если бы он пришел к противоположному выводу?»

9.3. Ситуационные триггеры

• Темы, по которым у слушателя уже есть твердое мнение
• Нехватка времени, усталость или рассеянное внимание
• Выводы, связанные с идентичностью, принадлежностью к группе или образом себя
• Технические аргументы, за которыми слушатель не может уследить, из-за чего суждение снова переносится на вывод

10. Стратегии преодоления когнитивного искажения

10.1. Немедленные техники

• Разделяйте два вопроса: Прежде чем судить об аргументе, скажите, на какой вопрос вы отвечаете: «Верен ли вывод?» или «Следует ли вывод?» Ответы на них расходятся на удивление часто.
• Назовите шаг, который не работает: Если вы отвергаете аргумент, укажите посылку или умозаключение, которые не работают. Если не можете, вы отвергли вывод, а не аргумент.
• Замените содержание: Подставьте вместо понятий нейтральные буквы или бессмысленные слова и посмотрите, работает ли структура. Так убирается убеждение, которое выносило суждение.
• Переверните вывод: Спросите себя, приняли бы вы те же данные, если бы они указывали в другую сторону. Если нет, планку задает вывод.

10.2. Долгосрочные стратегии

• Изучите немного формальной логики: Знание того, что у валидного аргумента с истинными посылками не может быть ложного вывода, дает вам что проверять помимо чутья. Эванс с коллегами (1994) обнаружили, что инструкции, подчеркивающие логическую необходимость, снижали предвзятость убеждений, хотя не устраняли ее.
• Тренируйтесь на конфликтных задачах: Разбирайте аргументы, где логика и убеждения расходятся, чтобы ощущение конфликта стало сигналом подумать, а не сигналом отмахнуться.
• Ведите журнал изменившихся мнений: Записывайте аргументы, которые вас сдвинули, вместе с шагом, который это сделал. Если журнал год остается пустым, искажение побеждает.

10.3. Организация среды

• Скрывайте вывод: При рецензировании и аудите оценивайте метод до того, как станет известен результат, как это делают зарегистрированные отчеты в науке.
• Симметричные чек-листы: Используйте один и тот же письменный чек-лист для любого результата, желанного или нет. Чек-лист не знает, на что вы надеялись.
• Назначайте сильную версию: Прежде чем отвергнуть неприятный анализ, попросите кого-нибудь изложить его сильнейшую версию. Прежде чем принять приятный, попросите кого-нибудь показать его самый слабый шаг.
• Награждайте за найденные изъяны в дружественных аргументах: Если хвалят только за изъяны в аргументах противников, проверка будет идти в одну сторону.

10.4. Когда обращаться за внешней оценкой

• Когда аргумент приходит к выводу, к которому вы относитесь с сильным чувством, в любую сторону
• Когда вы отвергаете что-то как «явно неверное», но не можете сказать почему
• Когда все в комнате уже согласны с выводом

К кому обращаться: к человеку, который не разделяет ваш вывод и разбирается в предмете. Дайте ему аргумент, не говоря, что вы о нем думаете, и задайте один вопрос: «Какой шаг, если такой есть, не работает?»

11. Практические упражнения

Упражнение 1: Замена содержания

• Цель: отделить структуру аргумента от правдоподобия его вывода
• Необходимое время: 15 минут
• Необходимые материалы: пять аргументов из недавно прочитанного, бумага и ручка
• Уровень сложности: начальный
• Инструкции:
  1. Запишите каждый аргумент как посылки и вывод, как можно проще
  2. Отметьте свою первую реакцию на каждый: принимаю, отвергаю или не уверен
  3. Замените каждое содержательное слово условным обозначением (А, Б, В) или бессмысленным словом
  4. Оцените голую структуру: следует ли вывод из посылок?
  5. Сравните первую реакцию с вердиктом по структуре и отметьте каждое расхождение
• Вопросы для рефлексии:
  • Какие аргументы вы приняли только из-за вывода?
  • Скапливались ли расхождения вокруг тем, которые вам небезразличны?
• Периодичность: еженедельно в первый месяц, затем всякий раз, когда аргумент вызывает сильную реакцию

Упражнение 2: Тест с переворотом

• Цель: выявить несимметричные требования к доказательствам
• Необходимое время: 20 минут
• Необходимые материалы: одно свидетельство или аргумент в пользу вашего убеждения
• Уровень сложности: средний
• Инструкции:
  1. Запишите аргумент и перечислите все возражения, которые мог бы выдвинуть критик (размер выборки, искажающие факторы, пропущенные шаги, качество источника)
  2. Представьте, что те же самые данные указывают на противоположный вывод
  3. Запишите возражения, которые вы выдвинули бы в этом случае; будьте честны и конкретны
  4. Любое возражение, которое есть только во втором списке, — это требование, которое вы применяете избирательно
  5. Примените объединенный список к исходному аргументу и запишите, выдерживает ли он проверку
• Вопросы для рефлексии:
  • Насколько различались два списка?
  • Выдержал ли исходный аргумент объединенный список?
• Периодичность: ежемесячно, каждый раз с другим убеждением

Упражнение 3: Тренировка на конфликтных силлогизмах

• Цель: научиться бегло оценивать валидность, когда убеждения тянут в другую сторону
• Необходимое время: 10 минут
• Необходимые материалы: набор силлогизмов на все четыре сочетания (валидный и невалидный, правдоподобный и неправдоподобный)
• Уровень сложности: средний
• Инструкции:
  1. Перемешайте набор, чтобы нельзя было предсказать тип следующего
  2. Для каждого пункта решите, должен ли вывод быть истинным, если истинны посылки; не обращайте внимания на то, истинен ли он в реальном мире
  3. Отметьте при каждом ответе, насколько вы были уверены
  4. Сверьтесь с ключом и рассортируйте ошибки по типам
  5. Для каждой ошибки запишите контрпример (ситуацию, в которой посылки верны, а вывод нет)
• Вопросы для рефлексии:
  • Большинство ошибок пришлось на клетку «правдоподобно, но невалидно», на клетку «неправдоподобно, но валидно» или на обе?
  • Следовала ваша уверенность за точностью или за правдоподобием?
• Периодичность: дважды в неделю в течение шести недель

Ежедневная практика

Вопрос «Какой шаг?»

Раз в день, когда вы ловите себя на том, что быстро принимаете или отвергаете аргумент, остановитесь и спросите: «Какой шаг я на самом деле оцениваю?» Если честный ответ «вывод», вернитесь к посылкам.

• Рекомендуемая длительность: 1-2 минуты при каждом срабатывании
• Лучшее время: когда читаете новости, листаете соцсети или сидите на совещании
• Как отслеживать прогресс: ведите счет дней, когда вы себя поймали, и записывайте, что обнаружили, присмотревшись

Еженедельный вызов

Сильная версия другой стороны

Каждую неделю выбирайте один аргумент в пользу вывода, который вы отвергаете, и записывайте его сильнейшую версию своими словами, в виде посылок и вывода. Затем определите тот единственный шаг, с которым вы не согласны, и объясните почему.

• Ожидаемые результаты через 4 недели: быстрее находите настоящую точку разногласия; реже отмахиваетесь огульно
• Темы для записей в дневнике:
  • Какие аргументы оказались сильнее, чем я думал?
  • Где я не смог назвать шаг, который не работает?
  • Сдвинулись ли какие-то мои собственные убеждения?

12. Для конкретных аудиторий

Для руководителей и менеджеров

• Ловушка ожидаемого ответа: Анализ, подтверждающий план, проверяют мягче, чем анализ, который ему угрожает. Обяжите проверять оба одинаково.
• Награждайте неудобную строгость: Публично отмечайте человека, который нашел дыру в аргументе, нравившемся всем.
• Устройство совещаний: Просите докладчиков излагать посылки до рекомендации, и пусть участники сначала оценивают посылки.

Для родителей и педагогов

• Объяснение с учетом возраста: «Иногда рассуждение кажется правильным, потому что нам уже нравится ответ. Тот, кто хорошо думает, проверяет шаги, даже когда согласен с концовкой».
• Научите замене: Покажите детям, как заменить слова в рассуждении на глупые, чтобы проверить, работают ли шаги.
• Покажите на себе: Когда ребенок приводит здравый аргумент в пользу того, в чем вы отказали, скажите об этом и измените решение. Так дети узнают, что логика может победить.

Для медицинских работников

• Диагностическая предвзятость убеждений: Диагноз, который вписывается в ожидаемую картину, принимают на меньших данных. Проговаривайте умозаключение от данных к диагнозу явно и спрашивайте себя, выдержало бы оно проверку для пациента, который в картину не вписывается.
• Доводы о лечении: «Это имеет физиологический смысл» служит посылкой, а не выводом. Настаивайте на данных испытаний, особенно для методов лечения, которые вам нравятся.
• Общение с пациентами: Пациенты судят о вашем рассуждении по тому, нравится ли им вывод. Проведите их по шагам и предложите сказать, в каком шаге они сомневаются.

Для специалистов финансовой сферы

• Симметричная проверка: Применяйте один и тот же письменный чек-лист к оптимистичному и пессимистичному сценариям.
• Проверка с учетом позиции: Когда у вас есть позиция, аргументы в ее пользу кажутся здравыми. Пусть логику проверит тот, у кого этой позиции нет.
• Контринтуитивные выводы: Расчеты стоимости, которые приходят к «абсурдным» цифрам, заслуживают пошаговой проверки, а не отмахивания.

13. Взаимодействие с другими искажениями

Искажения, усиливающие этот эффект

Искажения, ослабляющие этот эффект

Типичные цепочки искажений

Предвзятость подтверждения → Предвзятость убеждений → Упорство убеждений → Эффект обратного результата

Человек ищет информацию в поддержку своей позиции (Предвзятость подтверждения), принимает слабые аргументы в ее пользу, потому что вывод подходит (Предвзятость убеждений), сохраняет позицию после того, как исходная опора дискредитирована, потому что принятые аргументы теперь ощущаются как независимые причины (Упорство убеждений), и на опровержение отвечает тем, что держится за позицию еще крепче (Эффект обратного результата).

Прерывание цепочки: Дешевле всего разорвать цепочку на втором звене. Проверка «следует ли это?» до того, как принять аргумент в пользу приятного вам вывода, не дает слабым аргументам накапливаться в кажущиеся причины, которые потом сопротивляются опровержению.

14. Культурные аспекты

Исследования с силлогизмами, на которых основано понятие предвзятости убеждений, проводились в подавляющем большинстве на студентах университетов Великобритании, Северной Америки и Западной Европы, а сама задача, рассуждать из посылок, в которые не веришь, — это навык, приобретаемый в школе, а не универсальный.

Самые ясные данные дают полевые исследования середины века. Александр Лурия, работавший в сельском Узбекистане в начале 1930-х годов, давал необученным крестьянам задачи вроде: «На Крайнем Севере, где снег, все медведи белые. Новая Земля находится на Крайнем Севере. Какого цвета там медведи?» Многие отказывались отвечать, исходя из посылок: они никогда не бывали на Севере, видели только черных медведей и не собирались говорить, какого цвета зверь, со слов незнакомца. Сильвия Скрибнер обнаружила такую же «эмпирическую установку» у народа кпелле в Либерии в 1970-е годы, и она ослабевала после нескольких лет учебы в школе. Это не было недостатком интеллекта. Это была разумная позиция по отношению к непроверенным утверждениям.

Формальное образование учит противоположной позиции: принять посылки как данность, отложить то, что знаешь, проверить умозаключение. Предвзятость убеждений в том виде, в каком ее измеряют в лаборатории, представляет собой остаток эмпирической установки у людей, которых научили теоретической. Прямых кросс-культурных сравнений ее величины в современных популяциях мало, и утверждения о том, в каких обществах ее больше, остаются догадками.

15. Мифы и заблуждения

16. Взгляды экспертов

«Человеческий разум, однажды приняв какое-либо мнение (то ли как общепринятое, то ли как приятное себе), притягивает все остальное, чтобы поддержать его и согласовать с ним». — Фрэнсис Бэкон, «Новый органон» (1620), книга I, афоризм 46

Когда люди верят, что вывод истинен, они с большой вероятностью поверят и аргументам, которые как будто его поддерживают, даже если эти аргументы несостоятельны. (пересказ) — Даниэль Канеман, «Думай медленно… решай быстро», о силлогизме с розами

Чтобы хорошо рассуждать об утверждении, часто нужно отделить его от того, во что вы уже верите, держать его на расстоянии вытянутой руки как гипотезу, а не факт; такое отделение требует усилий, а склонность к нему отлична от голого интеллекта. (пересказ) — Кит Станович, «Рациональность и рефлексивный разум»

17. Главные выводы

1. Два разных вопроса: «Верен ли вывод?» и «Следует ли вывод?» ощущаются как один вопрос, но это не так. Предвзятость убеждений означает ответ на первый, когда вас спросили о втором.

2. Работает в обе стороны: Правдоподобные выводы проводят слабые аргументы; неправдоподобные выводы заставляют отвергать здравые.

3. Реальна, воспроизводится и отчасти сводится к смещению ответа: Значительная часть эффекта связана со сдвинутой планкой для ответа «валидно», а не с потерей способности отличать валидное от невалидного, хотя на трудных задачах проявляются и настоящие эффекты рассуждения.

4. Рычаг в усилии: Нехватка времени и нагрузка на рабочую память усиливают искажение; инструкции, способности и непредвзятые установки его снижают.

5. Экспертность не спасает: Математики отвергали аргумент о задаче Монти Холла; исследователи питания приняли причинную историю, которую испытания не подтверждали.

6. Называйте шаг: Не отвергайте аргумент, пока не сможете указать шаг, который не работает, и не принимайте, пока не проверили, что такого шага нет.

7. Стройте процессы на симметрии: Скрывайте вывод, где можете, и используйте один и тот же чек-лист для желанных и нежеланных результатов.

18. Дополнительные ресурсы

Научные статьи

• Evans, J. St. B. T., Barston, J. L., & Pollard, P. (1983). On the conflict between logic and belief in syllogistic reasoning. Memory & Cognition, 11(3), 295-306.
• Klauer, K. C., Musch, J., & Naumer, B. (2000). On belief bias in syllogistic reasoning. Psychological Review, 107(4), 852-884.
• Dube, C., Rotello, C. M., & Heit, E. (2010). Assessing the belief bias effect with ROCs: It's a response bias effect. Psychological Review, 117(3), 831-863.
• De Neys, W. (2006). Dual processing in reasoning: Two systems but one reasoner. Psychological Science, 17(5), 428-433.
• Trippas, D., Handley, S. J., & Verde, M. F. (2013). The SDT model of belief bias: Complexity, time, and cognitive ability mediate the effects of believability. Journal of Experimental Psychology: Learning, Memory, and Cognition, 39(5), 1393-1402.

Книги

• Evans, J. St. B. T. (1989). Bias in Human Reasoning: Causes and Consequences. Lawrence Erlbaum Associates.
• Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.
• Stanovich, K. E. (2011). Rationality and the Reflective Mind. Oxford University Press.

Главы в книгах

• Evans, J. St. B. T. (2004). Biases in deductive reasoning. In R. F. Pohl (Ed.), Cognitive Illusions: A Handbook on Fallacies and Biases in Thinking, Judgement and Memory. Psychology Press.

19. Краткая карточка

20. Глоссарий терминов

21. Вопросы для обсуждения

Для книжных клубов, учебных аудиторий или самостоятельного размышления:

1. Вспомните аргумент, который вы быстро отвергли за последний месяц. Можете ли вы теперь назвать точный шаг, который не работал?

2. Повторный анализ в рамках теории обнаружения сигнала предполагает, что предвзятость убеждений во многом сводится к сниженной планке для желанных выводов, а не к сбою логики. Делает ли это ее более или менее тревожной для публичных дебатов?

3. Узбекские крестьяне, с которыми работал Лурия, отказывались говорить, какого цвета медведи в месте, где они никогда не бывали. Рассуждали ли они плохо или разумно относились к словам незнакомца?

4. Почти тысяча обладателей докторских степеней написали Мэрилин вос Савант, что она ошибается насчет задачи Монти Холла. Что это говорит об экспертности и предвзятости убеждений?

5. Если бы вы могли изменить одну вещь в том, как на вашей работе или в вашем классе оценивают аргументы, чтобы рассуждение значило больше, чем выводы, что бы это было?

Последнее обновление: 17 октября 2026