Мотивированное рассуждение

Краткий обзор

1. Краткое содержание

Мотивированное рассуждение возникает тогда, когда желаемый ответ определяет то, как именно мы ищем доказательства. Люди не верят во все подряд лишь из удобства; Зива Кунда показала в 1990 году, что человеку все равно требуется обоснование, которое покажется разумным стороннему наблюдателю. Искажение скрывается в том, как именно это обоснование выстраивается. Желаемые свидетельства пропускаются после беглого вопроса «Могу ли я в это верить?», тогда как нежелательные данные вынуждены выдерживать проверку гораздо более строгим вопросом «Обязан ли я в это верить?». Изнутри эти два вопроса ощущаются одинаково, поэтому почти каждый считает себя исключением из правил. Данная закономерность проявляется при оценке результатов медицинских анализов, политических аргументов, судейства в спорте и собственных прошлых решений, причем она не ослабевает с ростом интеллекта или уровня образования.

Простыми словами

Мотивированное рассуждение означает, что твой мозг больше старается доказать то, что тебе хочется считать правдой. Когда приходит хорошая новость, ты сразу ее принимаешь. Когда приходит плохая, ты начинаешь искать причины, по которым она может быть неверной. Тебе кажется, что ты рассуждаешь честно, но ты пользуешься двумя разными мерками.

Представь компьютерную игру. Твоя команда проиграла, и ты говоришь, что соперникам повезло, связь прервалась или напарник подвел. Твоя команда победила, и это было чистое мастерство. Или вспомни школьный диктант. В твоем слове нашли ошибку, и ты думаешь: «Это почти правильно, учительница просто придирается». Твоя подруга делает ту же самую ошибку, и ты думаешь: «Ну, она просто не готовилась». Ошибка одна и та же, оценки две разные, и ты даже не заметил, что сменил мерку.

Вот один прием, который помогает. Когда ловишь себя на том, что споришь с фактом, спроси: «Если бы эти же самые данные говорили в пользу того, чего я хочу, принял бы я их?» Если честный ответ «да», ты поймал искажение. Менять мнение сразу не обязательно. Уже одно то, что ты заметил двойной стандарт, и есть первый шаг.

2. Научное обоснование

2.1. Открытие и история

Современная доказательная база берет начало в 1951 году, когда Альберт Хасторф и Хэдли Кэнтрил показали фильм о жестком футбольном матче между командами Дартмута и Принстона студентам обоих колледжей и обнаружили, что каждая сторона увидела значительно больше нарушений у соперников. Их статья 1954 года называлась «Они увидели игру», и ее суть была в том, что ни в каком общем смысле зрители не видели одного и того же матча. Теория когнитивного диссонанса Леона Фестингера (1957) предложила мотивационное объяснение, однако на протяжении 1970-х годов научное сообщество относилось к нему со скепсисом: Дейл Миллер и Майкл Росс в 1975 году утверждали, что большинство «корыстных» искажений можно объяснить исключительно «холодной» когнитивной обработкой информации.

Зива Кунда преодолела этот тупик в 1987 году с помощью эксперимента, в котором участники читали статью, связывающую употребление кофеина с фиброзно-кистозной мастопатией. Женщины, употреблявшие много кофе, сочли статью менее убедительной, чем те, кто пил кофе редко; у мужчин, которым материал ничем не угрожал, подобных расхождений не наблюдалось. Поскольку менялась только личная заинтересованность участников, сугубо когнитивная модель не могла объяснить полученный результат. В своем обзоре 1990 года «Аргументы в пользу мотивированного рассуждения» (The case for motivated reasoning) Кунда провела ставшее теперь стандартным разграничение между целями точности, побуждающими анализировать информацию тщательнее, и направленными целями, заставляющими стремиться к предпочтительному выводу. Ее ключевой тезис состоял в том, что направленное мышление ограничено: человек должен иметь возможность сформулировать обоснование, которое удовлетворило бы беспристрастного стороннего наблюдателя. Поэтому искажение проявляется в том, какие именно воспоминания извлекаются из памяти и какой объем доказательств воспринимается как достаточный.

Питер Дитто и Дэвид Лопес в 1992 году назвали ключевой ход «мотивированным скептицизмом». Затем парадигма распространилась на политологию (Чарльз Тейбер и Милтон Лодж, 2006) и нейровизуализацию (Дрю Уэстен, 2006). Дэн Кахан переосмыслил политические проявления искажения как «идентичностно-защитное познание»: убеждения по поводу климата или владения оружием выступают знаками принадлежности к социальной группе, поэтому процесс мышления защищает эту принадлежность. Его исследование 2017 года о «мотивированной математической грамотности» дало самый спорный результат последнего десятилетия. В 2020 году западноевропейская репликация, проведенная Коннором, Салливаном, Альфано и Тинтаревым, воспроизвела базовый эффект, однако не подтвердила рост поляризации среди математически грамотных участников, а Балларини и Сломан (2017) сообщили о более ранней неудаче, которую группа Кахана объяснила низкой статистической мощностью. Бен Таппин, Гордон Пенникук и Дэвид Рэнд (2020) утверждали, что большинство политических экспериментальных схем не позволяют отделить мотивированное рассуждение от рационального обновления на основе различных исходных представлений. Кит Станович, чьи работы об искажении «своей стороны» показывают, что эффект не связан с интеллектом, посвятил этой теме отдельную книгу в 2021 году. Существование базового эффекта надежно подтверждено; открытые споры касаются его механизма и границ применимости.

Ключевые вехи:

• 1954: Хасторф и Кэнтрил, «Они увидели игру»
• 1979: Лорд, Росс и Леппер демонстрируют предвзятую ассимиляцию исследований смертной казни
• 1987: исследование Кунды о кофеине; модель предвзятой проверки гипотез Пищинского и Гринберга
• 1990: Кунда, «Аргументы в пользу мотивированного рассуждения»
• 1992: Дитто и Лопес, концепция «мотивированного скептицизма» на материале ферментного теста TAA
• 2006: Тейбер и Лодж об оценке политических аргументов; фМРТ-исследование сторонников партий Уэстена
• 2017: Кахан, Питерс, Доусон и Словик, «Мотивированная математическая грамотность и просвещенное самоуправление»
• 2020: критика байесианцев (Таппин, Пенникук и Рэнд) и частичная европейская репликация (Коннор и коллеги)

2.2. Ключевые исследователи

2.3. Знаковые исследования

Исследование кофеина (Кунда, 1987)

Участники читали наукообразную статью, в которой сообщалось, что кофеин связан с фиброзно-кистозной болезнью, поражающей, как указывалось, женщин. Женщины, пившие много кофе, оценили статью как менее убедительную по сравнению с теми, кто пил мало кофе; среди мужчин различий в оценках не наблюдалось. Текст статьи и исходные знания читателей были одинаковыми во всех группах. Различалось лишь одно: был ли вывод для читателя болезненным.

Мотивированный скептицизм и тест TAA (Дитто и Лопес, 1992)

Участникам рассказывали о вымышленном ферменте под названием «тиоамин-ацетилаза» и предлагали опустить тест-полоску в образец собственной слюны. Одной группе сообщили, что изменение цвета полоски свидетельствует о хорошем здоровье, а другой группе сообщили о дефиците фермента. Полоска у всех была одна и та же. Участники, получившие версию с плохой новостью, дольше ждали, прежде чем признать тест завершенным, сочли его менее точным и перечисляли больше «нарушений» в своей жизни за последнее время (например, недосыпание), которые могли сбить результат.

Мотивированный скептицизм в политических взглядах (Тейбер и Лодж, 2006)

Участники с заранее измеренным отношением к контролю над оружием и позитивной дискриминации читали аргументы «за» и «против», пока исследователи фиксировали выбор текстов и письменные реакции. Испытуемые оценивали созвучные аргументы как более сильные, тратили больше времени на опровержение противоположных доводов, отдавали предпочтение близким по духу источникам при свободном выборе и становились еще более поляризованными после ознакомления со сбалансированным набором фактов. Каждый из этих эффектов проявлялся ярче у политически осведомленных респондентов.

Мотивированная математическая грамотность (Кахан, Питерс, Доусон и Словик, 2017)

Около 1100 взрослых жителей США решали задачу на ковариацию о том, помогает ли крем от кожной сыпи; участники с более высокой математической грамотностью справлялись лучше. Второй группе предложили те же самые числовые данные, но обозначенные как статистика преступности в городах с запретом на короткоствольное оружие и без него. В этом случае математически подготовленные участники давали верный ответ чаще только тогда, когда правильный результат совпадал с их политической позицией, а разрыв между либеральными демократами и консервативными республиканцами увеличивался по мере роста математических навыков. Коннор и коллеги (2020) провели пререгистрированное исследование с участием 746 жителей Западной Европы, сформулировав задачу на материале иммиграции: они воспроизвели вывод о том, что люди чаще правильно интерпретируют созвучные им данные, но не подтвердили углубление поляризации с ростом математической грамотности. Таким образом, базовый эффект считается установленным, тогда как тезис «чем умнее, тем более поляризован» остается открытым для дискуссий.

2.4. Неврологическая основа

Корпус нейровизуализационных исследований по этой теме невелик и опирается на скромные выборки, поэтому к полученным выводам следует относиться с осторожностью. Дрю Уэстен и коллеги (2006) обследовали с помощью томографа 30 убежденных сторонников политических партий во время президентской кампании 2004 года в США, пока те читали заявления, в которых их собственный кандидат, кандидат оппонентов или нейтральная фигура противоречили сами себе. Когда противоречие касалось их собственного кандидата, участники почти не демонстрировали активности в дорсолатеральной префронтальной коре, которая обычно отвечает за осознанное рассуждение. Зато активировались зоны, связанные с эмоциями и отслеживанием конфликтов, включая переднюю поясную кору и островок. Как только участники формулировали утешительный для себя вывод, активировались области системы вознаграждения, включая вентральный стриатум. Выборка состояла исключительно из мужчин, а дизайн работы был корреляционным, так что это лишь предварительный набросок, а не подробная карта процессов. Джонас Каплан, Сара Гимбел и Сэм Харрис (2016) выяснили, что критика твердых политических убеждений вызывает повышенную активность миндалевидного тела и островка, причем участники с более выраженной реакцией этих зон реже меняли свое мнение.

Механизм, на который указывают эти данные, вполне обычен. Аффективный сигнал маркирует вывод как желательный либо угрожающий еще до того, как включается осознанное мышление; этот сигнал определяет степень строгости анализа каждого доказательства, а достижение желаемого вывода само по себе приносит вознаграждение. Эпли и Гилович (2016) пришли к аналогичному выводу без помощи томографа: мотивированное рассуждение задействует стандартный когнитивный аппарат, которому подаются предвзятые входные данные, и завершает работу в тот момент, когда найден желаемый ответ.

3. Эволюционное происхождение

Почему естественный отбор сформировал систему рассуждений, которая склоняется в сторону желаемого? Различные исследовательские подходы сходятся в одном ответе: человеческое мышление эволюционировало не в первую очередь для поиска истины в одиночку.

Аргументативная теория Юго Мерсье и Дэна Спербера (2011) утверждает, что мышление возникло для выработки аргументов с целью убеждения окружающих и для оценки доводов, приводимых другими людьми. С этой точки зрения односторонний поиск подтверждающих фактов представляет собой нормальную работу системы в соответствии с ее эволюционным назначением. Ситуация, когда один человек собирает аргументы в пользу определенной позиции, а другие отстаивают противоположные взгляды, обеспечивает группе лучший результат, чем попытки изолированных мыслителей взвешивать все «за» и «против» наедине с собой. Искажение является индивидуальным недостатком, который оборачивается достоинством на уровне группы, при условии что в группе действительно происходят дискуссии.

Роберт Триверс и Уильям фон Хиппель (2011) предложили второе объяснение: самообман развился для того, чтобы облегчить обман окружающих. Если человек искренне убедил себя в том, что заслуживает большей доли, он может требовать ее без невербальных признаков, выдающих сознательного лжеца.

Идентичностно-защитная концепция Дэна Кахана объясняет, почему политически мотивированное рассуждение может казаться иррациональным со стороны, оставаясь при этом вполне разумным для отдельного человека. На протяжении большей части истории человечества заблуждение относительно далеких от повседневности фактов ничего не стоило индивиду, тогда как разлад с собственной группой мог стоить всего. Личное мнение современного избирателя по поводу климатических изменений никак не влияет на климат, однако открытый разрыв со своим политическим лагерем влечет за собой немедленные социальные издержки. Ничто из этого не делает искажение безвредным сегодня: малые группы и частные мнения с низкими ставками больше не описывают то, как принимаются важные решения.

4. Как проявляется это искажение

4.1. В повседневной жизни

• Чтение единственного восторженного отзыва о ресторане, столик в котором уже забронирован, при беглом пролистывании четырех отзывов о завышенных ценах
• Мысль о том, что подозрительная родинка «скорее всего пустяк», после двухминутного поиска в сети, тогда как аналогичный поиск для друга завершился бы советом показаться врачу
• Уверенность в том, что судья засудил вашу команду, тогда как на прошлой неделе судья в победном матче был просто грамотным
• Принятие оправдания от друга за отмену встречи и отказ принять точно такое же оправдание от неприятного вам человека

4.2. На рабочем месте

• Руководитель, оценивая проект, который сам же продвигал, считает методологию критического отчета неубедительной, а методологию положительного отчета вполне адекватной
• Собеседующие, проникшись симпатией к кандидату, объясняют слабую рекомендацию с прошлого места несовместимостью характеров с прежним начальником
• Инженеры, стремящиеся успеть к дедлайну, трактуют неоднозначные результаты тестирования как успешное прохождение проверок
• Основатель стартапа отмахивается от отказа инвестора со словами «он ничего не понял», воспринимая три ответа «может быть» как почти твердые обязательства

4.3. В бизнесе и маркетинге

• Маркетологам редко приходится искусственно создавать мотивированное рассуждение: они лишь предоставляют обоснование, которое клиент уже ищет. Скидка «в течение ограниченного времени» дает покупателю благовидный повод сделать то, чего ему хотелось изначально
• Размытые заявления («протестировано клинически», «скидки до 50%») работают именно потому, что мотивированный потребитель сам додумывает желаемый смысл
• Прогнозы продаж, подготовленные сотрудниками, чьи бонусы зависят от выполнения плана, находят оптимистичные допущения более обоснованными
• Аналитики, оценивавшие компании, с которыми сотрудничал их банк, исторически присваивали им более высокие рейтинги, причем большинство из них верило в собственную объективность

4.4. В политике и медиа

Тейбер и Лодж показали, что политически осведомленные граждане не лучше анализируют факты по спорным темам: они лишь эффективнее подбирают контраргументы против неприятных для себя данных. Кахан и коллеги (2012) выяснили, что более высокая научная грамотность сопровождается более глубокой поляризацией в вопросах оценки климатических рисков.

• Сторонники партии оценивают одну и ту же политическую меру как более справедливую, если им говорят, что его предложила их собственная партия
• Одинаковые статистические показатели трактуются как экономический подъем либо как стагнация в зависимости от того, кто находится у власти
• Проверка фактов принимается, когда она бьет по оппонентам, и отвергается как предвзятая, если затрагивает представителей своей стороны
• Метаанализ 51 исследования, проведенный Питером Дитто в 2019 году, показал, что партийная предвзятость выражена примерно одинаково у либералов и консерваторов: убеждение в том, что подобным грешат исключительно противники, само по себе порождено данным искажением

4.5. В здравоохранении

• Пациенты с неоднозначными результатами анализов цепляются за любые случайные факторы (плохой сон, насморк), чтобы объяснить отклонения; именно эту закономерность Дитто и Лопес воспроизвели в эксперименте с ферментом
• Курильщики считают научные работы о вреде табака менее убедительными по сравнению с некурящими
• Врачи, склонившиеся к определенному диагнозу, толкуют последующие данные как согласующиеся с ним; в литературе по медицинским ошибкам это называется «преждевременным закрытием диагноза»
• Врачи, получающие подарки от фармацевтических компаний, искренне убеждены, что это не влияет на назначения лекарств, хотя статистика рецептов говорит об обратном

4.6. В финансах и инвестициях

• Инвестор, владеющий акциями, оценивает смешанный финансовый отчет компании как «лучше худших ожиданий», тогда как открывший короткую позицию воспринимает те же цифры как «хуже надежд»
• Плохие новости об активах списываются на временные конъюнктурные трудности, а хорошие трактуются как подтверждение правильности инвестиционного тезиса
• Рейтинговые агентства, финансируемые самими эмитентами ценных бумаг, считали модели, использовавшиеся до 2008 года, убедительными, и многие их сотрудники позже заявляли, что действительно в них верили
• Аудиторы, заинтересованные в сохранении клиента, оценивают спорные методы бухгалтерского учета как «агрессивные, но допустимые»

5. Примеры из реальной жизни

Пример 1: Arthur Andersen и Enron

• Контекст: Компания Arthur Andersen проводила аудит Enron на протяжении конца 1990-х годов. К 2000 году Enron платила аудиторам около 25 миллионов долларов в год за проверки и примерно столько же за консалтинговые услуги, а многие сотрудники Andersen постоянно находились в офисах Enron.
• Что произошло: Enron использовала компании специального назначения, чтобы скрывать долги от отражения в балансе. Andersen одобряла финансовую отчетность год за годом. Когда эта финансовая конструкция рухнула в конце 2001 года, Enron объявила о крупнейшем на тот момент банкротстве в истории США, а Andersen была осуждена за воспрепятствование правосудию из-за уничтожения рабочих документов (позже приговор был отменен, но фирма к тому моменту уже распалась).
• Проявление искажения: Макс Базерман, Джордж Левенштейн и Дон Мур в статье 2002 года для Harvard Business Review «Почему хорошие бухгалтеры проводят плохие аудиты» утверждали, что главной проблемой было неосознанное искажение мышления, а не сознательное мошенничество. Аудиторы, желавшие сохранить прибыльного клиента, шаг за шагом находили его трактовку двусмысленных правил более обоснованной, чем счел бы независимый наблюдатель.
• Последствия: Акционеры потеряли десятки миллиардов долларов, тысячи сотрудников лишились работы и пенсионных накоплений, а Andersen прекратила аудит публичных компаний. Закон Сарбейнза-Оксли 2002 года ограничил оказание аудиторами консалтинговых услуг своим клиентам и ввел обязательную ротацию партнеров.
• Извлеченные уроки: Призывы к честным профессионалам «быть объективными» бесполезны, когда искажение работает вне зоны осознания. Сработали структурные меры: устранение финансовой заинтересованности, ротация специалистов и отделение профессиональной оценки от личных деловых взаимоотношений.

Пример 2: «Они увидели игру»

• Контекст: 23 ноября 1951 года состоялась футбольная игра между командами Дартмута и Принстона. Звезда Принстона Дик Казмайер, включенный в символическую сборную страны, покинул поле со сломанным носом, а игрок Дартмута получил перелом ноги. Газета каждого кампуса обвинила команду соперников в грязной игре.
• Что произошло: Альберт Хасторф (Дартмут) и Хэдли Кэнтрил (Принстон) показали фильм о матче студентам обоих учебных заведений и попросили их подсчитать количество нарушений правил. Студенты Принстона насчитали у Дартмута примерно в два раза больше нарушений, чем увидели студенты Дартмута.
• Проявление искажения: Студенты смотрели одну и ту же запись, не имея никакой выгоды от обмана. Преданность своему колледжу сформировала стандарт доказательности: столкновение с участием игрока Дартмута должно было быть вопиющим, чтобы студент Дартмута его засчитал, тогда как студенту Принстона достаточно было, чтобы оно выглядело правдоподобным. Хасторф и Кэнтрил пришли к выводу, что игра «на самом деле была множеством разных игр», по одной на каждого наблюдателя.
• Последствия: Никаких наказаний не последовало. Данный эксперимент стал хрестоматийной демонстрацией того, что само человеческое восприятие, а не только последующие логические выводы, подстраивается под желаемое.
• Извлеченные уроки: Групповая приверженность влияет на то, что именно люди замечают. Два искренних свидетеля могут дать несовместимые описания одного и того же события, не пытаясь при этом лгать.

Исторический пример: решение о запуске «Челленджера» (1986)

Вечером 27 января 1986 года инженеры компании Morton Thiokol, производившей твердотопливные ускорители космического челнока, в ходе телеконференции выступили против запуска «Челленджера» на следующее утро. Прогноз температуры на стартовой площадке составлял около 30°F (минус 1°C), что было значительно ниже условий любого предыдущего старта. Инженеры, включая Роджера Буажоли, располагали данными о том, что резиновые уплотнительные кольца ускорителей получали повреждения при холодных пусках. Они рекомендовали отказаться от старта при температуре ниже 53°F (плюс 12°C).

Руководство NASA отреагировало враждебно; один из руководителей спросил, не предлагает ли Thiokol ждать с запуском до апреля. Во время перерыва старший вице-президент Thiokol Джерри Мейсон обратился к вице-президенту по инженерным вопросам Бобу Лунду со словами: «Сними инженерную каску и надень каску руководителя». Менеджеры отозвали свою рекомендацию об отмене старта. Через 73 секунды после старта «Челленджер» разрушился, унеся жизни всех семи членов экипажа. Президентская комиссия Роджерса установила, что причиной катастрофы стала потеря эластичности уплотнительных колец из-за холода.

Thiokol стремилась сохранить контракт, который предстояло продлить; NASA стремилось не срывать график полетов. Данные об уплотнительных кольцах были достаточно неоднозначными для двоякого толкования, и во время перерыва вопрос сместился с позиции «Можем ли мы доказать, что запуск безопасен?» на позицию «Можете ли вы доказать, что запуск опасен?». Никто из присутствовавших не считал, что рискует жизнями людей. Именно так работает искажение: оно меняет сторону, на которую возлагается бремя доказательства.

6. Последствия и цена искажения

6.1. Личные издержки

• Запоздалое выявление проблем со здоровьем из-за привычки находить оправдания тревожным первым симптомам
• Потеря денег на инвестициях, тревожные сигналы по которым преуменьшались
• Разрушение отношений из-за постоянных двойных стандартов: собственные промахи объясняются обстоятельствами, а чужие объясняются дурным характером
• Отчуждение между близкими людьми по политическим или религиозным мотивам, когда каждая сторона считает оппонентов глухими к разуму

6.2. Профессиональные издержки

• Продолжение проектов за пределами точки, где честный анализ данных требовал бы их закрытия
• Аудиторские проверки, инспекции и контрольные процедуры, которые дают сбой именно тогда, когда они нужнее всего
• Научные результаты, которые не удается воспроизвести из-за того, что исследователи были лично заинтересованы в успехе и находили поводы исключать неудобные данные

6.3. Общественные издержки

• Политическая поляризация, при которой знакомство с одними и теми же фактами лишь сильнее разделяет противоборствующие группы
• Провал кампаний в сфере общественного здравоохранения из-за того, что новая информация воспринимается как угроза идентичности, а не как основа для осознанного выбора
• Захват регулирующих органов индустрией, не требующий коррупции: регуляторы постепенно и искренне перенимают точку зрения проверяемого бизнеса
• Научные споры, затягивающиеся на десятилетия (вокруг табака, этилированного бензина, климата), поскольку заинтересованные стороны находили опровергающие данные недостаточно строгими

6.4. Статистические данные

• В исследовании Хасторфа и Кэнтрила (1954) студенты Принстона зафиксировали на одной и той же записи примерно в два раза больше нарушений у Дартмута, чем студенты Дартмута
• Кахан и коллеги (2017) сообщили о расширение разрыва в правильных ответах между либералами и консерваторами по мере роста их математической грамотности; европейская репликация 2020 года (n = 746) воспроизвела эффект созвучия позиции, но не подтвердила расширение разрыва
• Метаанализ 51 эксперимента, выполненный Дитто и коллегами в 2019 году, обнаружил сходную величину партийной предвзятости у представителей левого и правого спектра
• Станович, Уэст и Топлак (2013) установили, что искажение «своей стороны» практически не имеет корреляции с когнитивными способностями

7. Скрытые преимущества

Мотивированное рассуждение выполняет реальные психологические функции, и некоторые из них приносят пользу.

• Упорство: Люди, преуменьшающие значение обескураживающих фактов, продолжают двигаться вперед. Предприниматели, спортсмены и пациенты во время длительного лечения получают преимущество от способности психики не принимать близко к сердцу каждую плохую новость в день ее появления. Шелли Тейлор и Джонатон Браун (1988) связали умеренные позитивные иллюзии с лучшим настроением и большими усилиями.

• Психологическая адаптация: Столкнувшись с тяжелым диагнозом, утратой или крупной неудачей, человек нуждается в такой трактовке событий, с которой можно жить дальше, и это часть восстановления.

• Групповые обсуждения: Мерсье и Спербер утверждают, что одностороннее мышление отдельных людей приводит к хорошим коллективным результатам, если люди с разными мотивами вступают в открытый спор. На этом принципе построена состязательная судебная система.

• Мотивация к точности тоже является мотивацией: Доусон, Гилович и Риган (2002) показали, что люди справлялись с заведомо трудной логической задачей намного чаще, если тестируемое правило было тем, которое им хотелось опровергнуть. Сильное желание получить ответ может заставить думать усерднее, если вы хотите именно истины.

Преимущества заканчиваются там, где цена ошибки высока, а обратная связь запаздывает. Упорство служит добродетелью на марафонской дистанции и становится пороком во время аудиторской проверки.

8. Самодиагностика: подвержены ли вы этому искажению?

8.1. Чек-лист тревожных сигналов

• Когда исследование подтверждает вашу точку зрения, вы редко вникаете в его методы; когда оно противоречит вашим взглядам, методы становятся первым, что вы проверяете
• Вы способны перечислить слабые места в источниках оппонентов гораздо быстрее, чем недостатки в собственных источниках
• Собственные неудачи вы обычно объясняете обстоятельствами, а чужие неудачи объясняете свойствами характера
• Вы ни разу не меняли своего мнения по политическим, религиозным или диетическим вопросам в направлении, которое стоило бы вам личных потерь
• При неблагоприятном результате теста или оценки ваша первая мысль: «наверное, с тестом что-то пошло не так»
• Вы чувствуете облегчение, а не исследовательское любопытство, когда в неприятном для вас факте обнаруживается изъян
• Вы воспринимаете как личное нападение критику ваших убеждений, даже если критика касается доказательств
• Вы знакомы с источниками ваших оппонентов главным образом по пересказам тех, кто согласен с вами
• Вы оцениваете один и тот же поступок как более приемлемый, если его совершает симпатичный вам человек
• Ваши «объективные» ретроспективные оценки прошлых решений почти всегда подтверждали, что вы были правы

Подсчет баллов:

• 0-2 пункта: низкая восприимчивость
• 3-5 пунктов: умеренная восприимчивость
• 6-8 пунктов: высокая восприимчивость
• 9-10 пунктов: очень высокая восприимчивость

8.2. Вопросы для саморефлексии

1. Назовите убеждение, от которого вы в последний раз отказались, потому что факты вас к этому вынудили. Чего вам стоил этот отказ?
2. Выберите волнующую вас проблему. Каков самый сильный аргумент противоположной стороны, сформулированный так, чтобы с ним согласились сами оппоненты?
3. Вспомните решение, которое вы защищаете. Вы сначала приняли его, а затем подобрали аргументы, или последовательность была обратной? Как бы вы это узнали?
4. Когда вы в последний раз полностью читали статью, с которой ожидали не согласиться? Вы искали в ней ошибки или то, в чем она права?
5. Какие из ваших убеждений служат знаками принадлежности к значимой для вас группе? Чем вы рискуете в социальном плане, если решите пересмотреть хотя бы одно из них?

8.3. Экспресс-диагностический сценарий

Сценарий: Вы строго придерживаетесь определенной диеты в течение шести месяцев, прекрасно себя чувствуете и уже рассказали о ней всем друзьям. Новое масштабное исследование в авторитетном научном журнале приходит к выводу, что данная диета не дает никаких преимуществ по сравнению с обычным здоровым питанием. Друг присылает вам ссылку на эту публикацию.

Как вы отреагируете?

• A) Бегло просмотрите аннотацию, решите, что исследование, вероятно, финансировалось индустрией или плохо спланировано, и отправите в ответ ссылку на статью в поддержку вашей диеты → Высокая восприимчивость
• B) Прочтете исследование, сочтете его ограничения действительно настораживающими и решите «подождать дальнейших исследований», продолжая питаться как раньше → Умеренная восприимчивость
• C) Прежде чем искать недостатки, запишете, какие именно доказательства заставили бы вас пересмотреть рацион, а затем сопоставите исследование с этим стандартом → Низкая восприимчивость

9. Как распознать это искажение у других

9.1. Поведенческие признаки

• Заметное применение разных стандартов доказательности в зависимости от того, в какую сторону указывают факты
• Скорость методологической критики неприятных данных, наводящая на мысль, что поиск недостатков начался еще до чтения материала
• Защита вывода с помощью цепочки сменяющих друг друга аргументов: каждый отвергается после опровержения, но сам вывод остается неизменным
• Демонстрация облегчения вместо интереса при появлении сомнений в неудобном факте

9.2. Тревожные сигналы в разговоре

Фразы, которые произносят люди под влиянием этого искажения:

• «Я просто задаю вопросы к методологии». (И только к методологии одной стороны.)
• «Ну, это исследование финансировалось...» (В то время как спонсоры созвучных работ ни разу не вызывали вопросов.)
• «Это всего лишь одно исследование». (Говорится о хорошо спланированной научной работе тем, кто сам ссылается на отдельные житейские примеры.)

Типы приводимых аргументов:

• Изолированные требования строгости: жесткие стандарты, применяемые исключительно к нежелательным тезисам
• Сдвигание ворот: любые доказательства, которые объявлялись достаточными, признаются недостаточными, как только их предоставляют

Вопросы, которых избегают:

• «Что могло бы заставить меня изменить мнение?»
• «Принял бы я это доказательство, если бы оно свидетельствовало об обратном?»

9.3. Ситуационные триггеры

• Финансовая, профессиональная или репутационная заинтересованность в определенном итоге
• Публично озвученная приверженность позиции, из-за которой отказ от нее воспринимается как потеря лица
• Групповая идентичность, привязанная к убеждению (партия, профессия, вероисповедание, любимая спортивная команда)
• Неоднозначность доказательств, оставляющая простор для искажения; однозначные факты сдерживают его
• Низкий уровень подотчетности: никто не потребует объяснить логику суждений перед слушателями с неизвестными взглядами

10. Стратегии преодоления когнитивного искажения

10.1. Экспресс-методы

• Тест на симметрию: Перед тем как принять или отвергнуть аргумент, спросите себя: «Если бы точно такое же исследование, с теми же самыми недостатками, пришло к противоположному выводу, отнесся бы я к нему так же?»
• Смена вопроса: Отслеживайте, какой именно вопрос вы себе задаете: «Могу ли я в это верить?» или «Обязан ли я в это верить?», и сознательно задайте противоположный
• Предварительная фиксация стандарта: Заранее определите, какой объем данных будет достаточным, прежде чем начнете знакомиться с результатами, и запишите этот критерий. Участники экспериментов Дитто и Лопеса не имели стандарта до получения результатов, что позволило результату самому сформировать требования к себе
• Рассмотрение противоположности: Лорд, Леппер и Престон (1984) обнаружили, что вопрос к людям о том, как бы они оценили то же исследование, если бы оно дало обратный результат, снижает предвзятую ассимиляцию, тогда как простое наставление «быть справедливыми» не помогает

10.2. Долгосрочные стратегии

• Ведение дневника решений: Записывайте свои убеждения, причины веры в них и факты, которые могли бы их изменить, еще до того, как станут известны окончательные итоги. Перечитывание таких записей служит единственным надежным лекарством от искреннего воспоминания о том, что вы все это время были объективны
• Разделение идентичности и убеждений: Чем сильнее убеждение работает как знак принадлежности к группе, тем сложнее его пересмотреть. Относитесь к мнениям (особенно политическим) как к текущим рабочим гипотезам, а не как к части вашей личности
• Самоутверждение в других сферах: Джеффри Коэн, Джошуа Аронсон и Клод Стил (2000) установили, что люди, предварительно написавшие текст о важной для них ценности, оценивали угрожающие им данные более взвешенно
• Развитие установки на точность: Исследования Буллока и коллег, а также Прайора, Суда и Ханны (обе работы 2015 года) показали, что небольшое денежное вознаграждение сторонников партий за правильные ответы сокращало разрыв между ними при оценке фактических данных

10.3. Организация внешней среды

• Подотчетность аудитории с неизвестными взглядами: Работы Тетлока показали, что люди, ожидающие необходимости обосновывать решение перед аудиторией с неизвестными взглядами, рассуждают более сбалансированно, тогда как знание позиции аудитории заставляет подстраивать выводы под нее
• Слепой анализ данных: Физики-экспериментаторы скрывают итоговый результат до тех пор, пока протокол анализа не зафиксирован, благодаря чему исключение тех или иных данных не может определяться желаемым ответом. Пререгистрация исследований выполняет аналогичную роль в психологии и медицине
• Разделение эксперта и выгодоприобретателя: Тот, кто оценивает доказательства, не должен получать выгоду от сделанных выводов. В этом заключается логика независимого аудита, слепого рецензирования и правил самоотвода

10.4. Когда требуется независимый взгляд со стороны

• Когда у вас есть личный интерес в выводе, а факты допускают двоякое толкование
• Когда вы замечаете, что последовательно опровергли каждый пункт обширного массива данных по отдельности
• Когда убеждение стало частью вашей идентичности, и отказ от него грозит социальными потерями

К кому обращаться: к человеку, не имеющему вашей личной заинтересованности и, в идеале, не разделяющему ваши исходные убеждения. Предоставьте ему факты без указания предпочтительного для вас вывода и спросите, какое заключение сделал бы он сам.

11. Практические упражнения

Упражнение 1: Проверка на симметрию

• Цель: Сделать видимым собственный двойной стандарт путем применения его в обоих направлениях
• Необходимое время: 30 минут
• Необходимые материалы: Две статьи по волнующему вас спорному вопросу (по одной с каждой стороны); бумага и ручка
• Уровень сложности: Начальный
• Инструкции:
  1. Прочтите статью, выражающую близкую вам позицию. В течение десяти минут выпишите все ее слабые места, которые сможете найти
  2. Прочтите статью противоположной направленности. Проделайте то же самое
  3. Сравните оба списка по длине и степени критичности замечаний, обратив внимание на то, насколько быстро каждый недостаток приходил вам в голову
  4. Вернитесь к благожелательной статье и поищите в ней те же типы недостатков, которые вы нашли в неблизкой статье
• Вопросы для рефлексии:
  • Показались ли вам недостатки чужой статьи фатальными, тогда как аналогичные огрехи в близкой статье воспринимались как незначительные?
  • Какой единый стандарт оценки вам необходимо принять, чтобы судить оба материала одинаково справедливо?
• Рекомендуемая периодичность: Ежемесячно, каждый раз на новую тему

Упражнение 2: Заранее установленный стандарт

• Цель: Зафиксировать порог доказанности до получения данных, чтобы результат не мог сформировать требования задним числом
• Необходимое время: 15 минут до принятия решения, 15 минут после
• Необходимые материалы: Дневник решений
• Уровень сложности: Средний
• Инструкции:
  1. Выберите предстоящую ситуацию, исход которой для вас важен (результаты медицинских анализов, оценка эффективности работы, отзыв пользователей о продукте)
  2. До получения результата запишите, на какой исход вы надеетесь, чего ожидаете на самом деле и какие конкретно факты заставят вас признать нежелательный итог
  3. Когда результат станет известен, не спешите реагировать. Перечитайте запись и проверьте, соответствует ли итог заранее сформулированному стандарту
  4. Если вы ловите себя на мысли о том, что прежний критерий был ошибочным, запишите это наблюдение и укажите причины сомнений
• Вопросы для рефлексии:
  • Изменился ли ваш стандарт после ознакомления с результатом? В какую сторону?
  • Какие возражения к полученным данным вам захотелось выдвинуть вопреки собственным правилам?
• Рекомендуемая периодичность: При каждом значимом решении на протяжении трех месяцев

Упражнение 3: Обмен сильнейшими версиями позиций

• Цель: Освоить наиболее убедительную версию отвергаемой вами позиции со слов того, кто ее разделяет
• Необходимое время: От 60 до 90 минут
• Необходимые материалы: Собеседник, не согласный с вами в вопросе, важном для вас обоих
• Уровень сложности: Продвинутый
• Инструкции:
  1. Каждый участник излагает свою точку зрения в течение двух минут
  2. Каждый участник пересказывает позицию оппонента максимально убедительно до тех пор, пока оппонент не скажет: «Да, именно в этом заключается моя позиция» без каких-либо поправок
  3. Каждый участник называет одно фактическое доказательство, которое заставило бы его сместиться в сторону взглядов собеседника
  4. Совместно сформулируйте один вопрос, ответ на который оба признали бы информативным
• Вопросы для рефлексии:
  • Сколько попыток вам потребовалось, чтобы партнер согласился с вашей формулировкой его позиции?
  • Смогли ли вы назвать факт, способный изменить ваше мнение? Если нет, остается ли ваше убеждение представлением о реальном мире?
• Рекомендуемая периодичность: Раз в квартал, каждый раз с новым собеседником

Ежедневная практика

Два контрольных вопроса

Один раз в день, поймав себя на быстром согласии или несогласии с утверждением, определите, какой вопрос вы себе задали. Вопрос «Могу ли я в это верить?» означает, что вы хотели, чтобы это было правдой. Вопрос «Обязан ли я в это верить?» означает, что вы хотели, чтобы это было ложью. Затем задайте себе второй вопрос и проверьте, изменится ли ваша оценка.

• Рекомендуемая длительность: 2 минуты при каждом срабатывании триггера
• Оптимальное время: Во время чтения новостей, рецензий или отчетов по важным для вас темам
• Как отслеживать прогресс: Фиксируйте, как часто вы ловите себя на вопросе «могу ли» в сравнении с вопросом «обязан ли»

Еженедельное задание

Чтение сильнейших аргументов оппонентов

Каждую неделю выбирайте одно убеждение, в котором вы достаточно уверены, и читайте самый сильный аргумент против него, написанный серьезным сторонником альтернативной точки зрения, а не критиком в пересказе. Напишите один абзац с изложением этого довода в форме, под которой подписался бы сам автор.

• Ожидаемые результаты через 4 недели: Меньше рефлекторного отторжения чужих источников; появление здоровой доли сомнения хотя бы в одном убеждении
• Темы для записей в дневнике:
  • Какой аргумент было труднее всего пересказать честно и почему?
  • Ложность какого утверждения вам особенно хотелось доказать на этой неделе?

12. Рекомендации для целевых аудиторий

Руководителям и менеджерам

• Отделяйте решение от инициатора: Человек, предложивший проект, не должен оценивать, работает ли он
• Заранее формулируйте критерии закрытия проекта: До запуска инициативы письменно зафиксируйте, какие показатели приведут к ее остановке. В истории с катастрофой «Челленджера» бремя доказательства сместилось под внешним давлением; заранее сформулированные критерии делают подобные сдвиги заметными
• Поощряйте готовность менять мнение: Если продвижение по службе получают только те, кто всегда оказывается «прав», сотрудники перестают признавать ошибки. Публично хвалите коллег, скорректировавших планы под воздействием новых фактов

Родителям и педагогам

• Объяснение, понятное детям: «Когда нам очень хочется, чтобы что-то оказалось правдой, наш мозг изо всех сил пытается найти подтверждения. Именно поэтому мы проверяем свою работу наименее тщательно, когда нам нравится ответ».
• Личный пример: Произносите вслух в присутствии детей: «Мне очень хотелось, чтобы это было так, поэтому давай я проверю данные еще раз». Наблюдение за взрослым, поймавшим себя на предвзятости, учит ребенка лучше любых лекций
• Обучайте тесту на симметрию с раннего возраста: Дети остро чувствуют справедливость. Спросите: «Если бы твоя сестра сделала то же самое, оценил бы ты ее поступок так же?»

Медицинским работникам

• Преждевременное закрытие диагноза: Как только предварительный диагноз поставлен, клиницист хочет, чтобы он оказался верным. Внедрите обязательный шаг «Чем еще это может быть?» перед окончательным закрытием медицинской карты
• Мотивированный скептицизм пациентов: Пациенты, отвергающие диагноз или перечисляющие причины ненадежности анализа, воспроизводят закономерность из эксперимента Дитто и Лопеса. Признайте их желание, прежде чем излагать данные
• Отношения с фарминдустрией: Десятилетия исследований показывают, что подарки и спонсорские выплаты влияют на практику назначения препаратов, тогда как врачи искренне отрицают эту связь. Исходите из того, что вы не являетесь исключением из общего правила

Финансовым специалистам

• Взгляд держателя активов: Клиенты, удерживающие открытую позицию, будут толковать любые новости в ее пользу. Излагайте сценарий падения столь же тщательно, как и сценарий роста, и отмечайте, с какими именно тезисами клиент начинает спорить
• Заранее определенные правила выхода: До покупки актива письменно согласуйте параметры, которые послужат сигналом к продаже. Удержание убыточной позиции чаще всего представляет собой мотивированное рассуждение под маской терпения
• Отслеживайте чувство облегчения: Когда плохие новости объявляются «уже заложенными в цену», обратите внимание на эмоциональное облегчение, которое приносит эта мысль. Облегчение означает, что стандарт только что сдвинулся

13. Взаимодействие с другими искажениями

Искажения, усиливающие данный эффект

Искажения, ослабляющие данный эффект

Типичные цепочки искажений

Аффективная эвристика → Мотивированное рассуждение → Предвзятость подтверждения → Упорство убеждений → Эффект обратного результата

Быстрая эмоциональная реакция помечает вывод как желательный (аффективная эвристика). Доказательства оцениваются с применением двойных стандартов (мотивированное рассуждение), а дальнейший поиск информации направляется в сторону подтверждения (предвзятость подтверждения). Укоренившись, убеждение продолжает жить даже после того, как его исходные основания дискредитированы (упорство убеждений), а при определенных условиях прямая попытка исправить ошибку лишь усиливает ее (эффект обратного результата, который воспроизводится в экспериментах значительно реже, чем принято считать в популярной литературе).

Разрыв цепочки: Наиболее уязвимым звеном является момент установления стандарта оценки доказательств. Фиксация этого стандарта до получения результатов или передача оценки человеку, не имеющему личного интереса, разрушает цепочку до формирования первого звена.

14. Культурные особенности

Большинство исследований мотивированного рассуждения проведено на североамериканских выборках, а значительная часть работ по политической тематике выполнена в США, поэтому данные о культурных вариациях опираются на менее обширную базу, чем доказательства существования самого искажения.

Имеющиеся свидетельства указывают на то, что общий когнитивный механизм универсален, тогда как объекты защиты могут различаться. Репликация Коннора и коллег (2020) выявила базовый эффект созвучия позиции на нидерландскоязычной выборке в вопросах иммиграционной политики, а метаанализ Дитто обнаружил сходную силу искажения у сторонников левых и правых взглядов. Культурные различия могут проявляться в том, что именно люди стремятся защитить. Стивен Хайне, Даррин Леман, Хейзел Маркус и Синобу Китаяма (1999) утверждали, что потребность в позитивной самооценке, которая питает значительную часть рассуждений в свою пользу в Северной Америке, слабее выражена в Японии, где высоко ценится самокритичность. Если это так, то в коллективистских культурах мотивированное рассуждение может быть связано не столько с утверждением «я компетентен», сколько с утверждением «моя группа достойна уважения». Это правдоподобные расширения, а не установленные факты.

Практический урок для мультикультурных команд состоит в том, чтобы выяснить, защиту каких именно ценностей каждый участник считает принципиальной, а не исходить из предположения, что все защищают одинаковый образ своего «я».

15. Мифы и заблуждения

16. Взгляды экспертов

«Люди охотнее приходят к тем выводам, к которым они хотят прийти, однако их способность делать это ограничена их возможностью сконструировать правдоподобные оправдания для таких выводов». — Зива Кунда, «Аргументы в пользу мотивированного рассуждения» (1990)

В отношении приятных выводов мы спрашиваем себя, можем ли мы в них поверить; в отношении неприятных выводов мы спрашиваем себя, обязаны ли мы в них верить. На второй вопрос гораздо труднее ответить «да». — Томас Гилович, Откуда мы знаем то, чего нет (1991), пересказ

«Первый принцип заключается в том, что вы не должны обманывать самого себя, а ведь вас как раз легче всего обмануть». — Ричард Фейнман, речь на выпускной церемонии в Калтехе (1974)

«Трудно заставить человека понять что-либо, если его заработок зависит от непонимания этого». — Эптон Синклер, Я, кандидат в губернаторы, и как меня побили (1935)

17. Ключевые выводы

1. Два мерила: Искажение работает как двойной стандарт. В отношении приятных фактов задается вопрос «Могу ли я в это верить?», а в отношении неприятных задается вопрос «Обязан ли я в это верить?», причем изнутри оба вопроса ощущаются одинаково.

2. Ограничение, а не вседозволенность: Люди не могут верить во все, что им вздумается; им необходимо обоснование, которое признал бы внешний наблюдатель. Искажение расцветает в условиях неопределенности и отступает перед однозначными фактами.

3. Интеллект не защищает: Искажение «своей стороны» не имеет связи с уровнем когнитивных способностей, а политически осведомленные люди в ряде исследований демонстрируют наиболее сильную предвзятость.

4. Идентичность служит сильнейшим мотивом: Убеждения, выступающие знаками групповой принадлежности, порождают самое упорное мотивированное рассуждение, поскольку ошибка обходится дешевле, чем нелояльность.

5. Базовый эффект надежен, расширения вызывают споры: Результаты экспериментов с кофеином, ферментным тестом и анализом аргументов выдержали проверку. Тезис о том, что математические навыки углубляют поляризацию, подтвердился в Европе лишь частично, а критики-байесианцы утверждают, что многие политические исследования не способны отличить мотивацию от исходных различий в убеждениях.

6. Двупартийный масштаб: Метаанализ 51 исследования показал сходную силу партийной предвзятости у представителей как левого, так и правого спектра. Уверенность в том, что так поступают только политические оппоненты, сама по себе является следствием искажения.

7. Корректируйте правила, а не человека: Призывы к людям быть беспристрастными бесполезны. Реально помогают фиксация критериев доказанности до получения данных, тест на симметрию и разделение эксперта и получателя выгоды.

18. Дополнительные материалы

Научные статьи

• Kunda, Z. (1990). The case for motivated reasoning. Psychological Bulletin, 108(3), 480-498.
• Kunda, Z. (1987). Motivated inference: Self-serving generation and evaluation of causal theories. Journal of Personality and Social Psychology, 53(4), 636-647.
• Ditto, P. H., & Lopez, D. F. (1992). Motivated skepticism: Use of differential decision criteria for preferred and nonpreferred conclusions. Journal of Personality and Social Psychology, 63(4), 568-584.
• Taber, C. S., & Lodge, M. (2006). Motivated skepticism in the evaluation of political beliefs. American Journal of Political Science, 50(3), 755-769.
• Kahan, D. M., Peters, E., Dawson, E. C., & Slovic, P. (2017). Motivated numeracy and enlightened self-government. Behavioural Public Policy, 1(1), 54-86.
• Epley, N., & Gilovich, T. (2016). The mechanics of motivated reasoning. Journal of Economic Perspectives, 30(3), 133-140.
• Tappin, B. M., Pennycook, G., & Rand, D. G. (2020). Thinking clearly about causal inferences of politically motivated reasoning: Why paradigmatic study designs often undermine causal inference. Current Opinion in Behavioral Sciences, 34, 81-87.

Книги

• Kunda, Z. (1999). Social Cognition: Making Sense of People. MIT Press.
• Gilovich, T. (1991). How We Know What Isn't So: The Fallibility of Human Reason in Everyday Life. Free Press.
• Stanovich, K. E. (2021). The Bias That Divides Us: The Science and Politics of Myside Thinking. MIT Press.

Главы из книг

• Pyszczynski, T., & Greenberg, J. (1987). Toward an integration of cognitive and motivational perspectives on social inference: A biased hypothesis-testing model. In L. Berkowitz (Ed.), Advances in Experimental Social Psychology (Vol. 20, pp. 297-340). Academic Press.
• Molden, D. C., & Higgins, E. T. (2005). Motivated thinking. In K. J. Holyoak & R. G. Morrison (Eds.), The Cambridge Handbook of Thinking and Reasoning (pp. 295-317). Cambridge University Press.

19. Сводная карточка

20. Глоссарий терминов

21. Вопросы для обсуждения

Для книжных клубов, учебных аудиторий или самостоятельной рефлексии:

1. Кунда утверждала, что люди способны верить лишь в то, что могут обосновать перед воображаемым внешним наблюдателем. Становится ли такого наблюдателя легче или труднее удовлетворить в эпоху, когда источник в поддержку практически любого утверждения находится за пару кликов в поисковике?

2. Мерсье и Спербер полагают, что одностороннее мышление служит на пользу группе, когда люди с разными мотивами открыто спорят друг с другом. При каких условиях этот механизм перестает работать?

3. Станович установил, что искажение «своей стороны» не связано с уровнем интеллекта. Если развитые мыслительные навыки не защищают от мотивированного рассуждения, то что способно от него защитить?

4. От инженеров «Челленджера» потребовали доказать, что запуск опасен, а не доказать, что он безопасен. Вспомните решение в вашей жизни или организации, где бремя доказательства лежит на одной стороне. Кто и почему его туда поместил?

5. Критики-байесианцы утверждают, что значительная часть того, что выглядит как мотивированное рассуждение, в действительности представляет собой рациональное обновление убеждений на основе разных исходных представлений. Имеет ли значение то, какое из этих объяснений верно, для нашего отношения друг к другу при разногласиях?

Последнее обновление: 17 октября 2026