Иллюзия глубины понимания

Краткий обзор

1. Краткое содержание

Спросите человека, насколько хорошо он понимает, как работает унитаз со смывом, и большинство ответит «довольно хорошо». Попросите его пошагово записать, что происходит между нажатием на ручку и тем, как бачок снова наполняется, и уверенность испаряется. Этот разрыв и есть иллюзия глубины понимания, которую в 2002 году описали и назвали Леонид Розенблит и Фрэнк Кейл. Она сильна для механизмов и слаба для фактов или сюжетов, потому что механизм позволяет принять знакомство с его внешней стороной за знание внутреннего устройства. Основной результат воспроизвелся в предварительно зарегистрированных исследованиях и был распространен на политику, психические расстройства и веру в заговоры. Самое известное продолжение, что объяснение политической меры делает взгляды умереннее, не прошло предварительно зарегистрированную проверку воспроизводимости. Лекарство совпадает с диагностикой: попробуйте объяснить.

Простыми словами

Это искажение — ощущение, что ты знаешь, как что-то работает, хотя на самом деле знаешь только, что оно делает. Ты видел велосипед тысячу раз, поэтому мозг говорит тебе, что ты его понимаешь. Но видеть вещь не то же самое, что знать, что происходит у нее внутри.

Попробуй это с другом. Попроси его нарисовать велосипед по памяти, чтобы рама, педали и цепь были на своих местах. Почти все уверены, что смогут. А потом на рисунке цепь оказывается прицеплена к переднему колесу, и друг смеется, потому что понятия не имел, что этого не знает. То же самое бывает с тем, как телефон находит вайфай, как действует прививка или почему небо голубое. Тебе кажется, что ты знаешь, ровно до того момента, когда кто-то просит объяснить.

Вот прием. Прежде чем сказать «я понял», объясни это вслух, как будто учишь младшего ребенка, по одному шагу. Если застрянешь, это не провал. Это искажение показывает тебе, где именно пробел, чтобы ты знал, что пойти и узнать.

2. Научное обоснование

2.1. Открытие и история

Иллюзию глубины понимания (illusion of explanatory depth, IOED) назвали в статье 2002 года в журнале Cognitive Science Леонид Розенблит и Фрэнк Кейл из Йельского университета. Кейл много лет изучал «наивную науку», приблизительные причинные теории о биологии, физике и машинах, которые люди носят с собой. Эти теории схематичны, но пробелы в них людей, похоже, никогда не беспокоят.

Процедура Розенблита и Кейла была простой. Участники оценивали по семибалльной шкале, насколько хорошо понимают бытовые устройства, писали полное объяснение того, как работает одно из них, оценивали себя заново, отвечали на диагностический вопрос, читали объяснение эксперта и оценивали себя еще раз. В двенадцати исследованиях оценки падали на каждом этапе, а сильнее всего сразу после попытки объяснения. Никто не говорил участникам, что они неправы. Работу делал сам акт объяснения. Та же процедура применительно к фактам, процедурам и сюжетам фильмов давала гораздо меньшее падение или не давала его вовсе, так что иллюзия специфична для механизмов. Их объяснение: механизмы обычно можно осмотреть в мире, поэтому мы их редко запоминаем; знание того, для чего нужна деталь, ощущается как знание того, как она работает; мы почти никогда ничего не объясняем, поэтому не получаем обратной связи; а у объяснений нет естественной точки остановки.

Более поздние работы проверяли механизм (объяснение через уровень конструирования, предложенное Адамом Алтером, Дэниелом Оппенгеймером и Джеффри Землой в 2010 году), расширяли область на велосипеды, политические меры, психические расстройства и веру в заговоры и проверяли, держится ли эффект. Роберт Кернер, Астрид Шютц и Ларс-Эрик Петерсен воспроизвели основной эффект в трех предварительно зарегистрированных исследованиях в 2024 году, а предварительно зарегистрированные попытки Джаррета Кроуфорда и Джона Рускио в 2021 году не воспроизвели результат о политической умеренности. Книга Стивена Сломана и Филипа Фернбаха 2017 года «Иллюзия знания» (The Knowledge Illusion) переосмыслила всю картину: большая часть того, что каждый из нас «знает», живет в других людях, книгах и инструментах.

Ключевые вехи:

• 2002: Розенблит и Кейл дают эффекту название и показывают, что он специфичен для объяснительного знания
• 2006: Статья Ребекки Лоусон «Наука о велосипедах» (The science of cycology) показывает, что взрослые не могут нарисовать работающий велосипед
• 2013: Фернбах, Роджерс, Фокс и Сломан распространяют эффект на политические меры
• 2021: Кроуфорд и Рускио сообщают о трех предварительно зарегистрированных неудачных попытках воспроизвести эффект политической умеренности
• 2024: Кернер, Шютц и Петерсен воспроизводят основную IOED в трех предварительно зарегистрированных исследованиях (N = 607)

2.2. Ключевые исследователи

2.3. Знаковые исследования

«Неверно понимаемые пределы наивной науки: иллюзия глубины понимания» (Розенблит и Кейл, 2002)

Студенты Йельского университета оценивали, насколько понимают такие предметы, как застежка-молния, унитаз со смывом, цилиндровый замок и вертолет, затем писали причинное объяснение для части из них и оценивали себя заново. Самооценки падали на каждом шаге независимо от подготовки и от того, насколько предметы были знакомы. Та же процедура давала небольшое падение или никакого для фактов, процедур или повествований, и это самое сильное доказательство того, что иллюзия касается причинного объяснения, а не общей сверхуверенности.

«Наука о велосипедах: неспособность понять, как работают повседневные предметы» (Лоусон, 2006)

Лоусон просила взрослых дополнить набросок велосипеда, дорисовав недостающие части рамы, педали и цепь. Многие не смогли. Частой ошибкой была цепь, обведенная вокруг переднего колеса, из-за чего руль невозможно было бы повернуть. Ошибки были частыми даже у тех, кто регулярно ездит на велосипеде, и сохранялись, когда участникам нужно было лишь узнать правильный рисунок.

«Политический экстремизм опирается на иллюзию понимания» (Фернбах, Роджерс, Фокс и Сломан, 2013)

Участники оценивали, насколько понимают такие меры, как торговля квотами на выбросы и единая система медицинского страхования, и насколько сильно поддерживают или отвергают каждую. После того как они письменно описывали механизм работы меры, оценки понимания падали, а вместе с ними и крайность позиций. Во втором эксперименте объяснение механизма сравнивали с перечислением доводов: крайность снижало только объяснение. Кроуфорд и Рускио в 2021 году провели три предварительно зарегистрированных близких повторения и не обнаружили, что объяснение повышало умеренность. Оценки понимания все равно падали, так что основная IOED подтвердилась; последующий политический эффект нет.

«Власть и иллюзия глубины понимания» (Кернер, Шютц и Петерсен, 2024)

Три предварительно зарегистрированных исследования с 607 участниками проверяли, усиливает ли иллюзию ощущение власти. Основной эффект для устройств четко воспроизвелся, со средним или крупным падением самооценки понимания, а независимые эксперты подтвердили, что письменные объяснения были скудными. Сама власть дала лишь очень небольшой эффект. Стиль конструирования не был связан с IOED, а p-кривой анализ исследований 2010 года не нашел у этой связи доказательной ценности.

2.4. Неврологическая основа

Устоявшейся нейронауки именно иллюзии глубины понимания нет. Ни одно нейровизуализационное исследование не выделило, что происходит в мозге, когда оценка «я это понимаю» обрушивается, и утверждения об обратном стоит считать домыслами. Существует лишь более широкая литература о метапознании.

Суждения о знании, по-видимому, опираются на ощущение беглости, а не на проверку хранящегося содержания. Когда знакомый предмет легко приходит на ум, чувство понимания возникает сразу. Написание объяснения заставляет извлечь настоящую причинную цепочку, и когда извлечение буксует, чувство пересматривается в сторону снижения. Работы Стивена Флеминга, Рэймонда Долана и других связывают точный метакогнитивный мониторинг с передней префронтальной корой и показывают, что люди различаются тем, насколько хорошо их уверенность следует за результатами. Это разумное место для поиска индивидуальных различий в иллюзии, но эту связь напрямую не проверяли.

3. Эволюционное происхождение

Зачем разуму носить объяснения, которых у него нет? Самый правдоподобный ответ: большую часть человеческой истории они ему были не нужны.

Яснее всего это формулируют Сломан и Фернбах. Люди рассуждают о механизмах, и делают это в группах. Ни один человек в группе охотников-собирателей не умеет делать каждое орудие, выслеживать каждого зверя и лечить каждую болезнь; это знание распределено по сообществу. Задача каждого в том, чтобы знать достаточно для пользования общим запасом и узнавать, кто знает остальное. Мозг, который хранит набросок и ощущение того, где найти подробности, работает эффективно.

Беда в том, что «я мог бы выяснить» изнутри ощущается как «я знаю». Поскольку механизмы обычно доступны для осмотра, мы принимаем поддержку среды за внутреннее знание. Для инструмента, который можно взять и рассмотреть, это безобидное упрощение. Для политической меры или финансового продукта нет.

Вторая линия связывает иллюзию с семейством «необходимость действовать быстро». Уверенность делает действие возможным. Предок, который остановился бы, чтобы проверить полную причинную модель реки, прежде чем ее перейти, проиграл бы тому, кто чувствовал, что понимает реки достаточно хорошо. Наши причинные теории грубы, потому что грубых всегда хватало. Изменилась среда: цепочки поставок, вакцины и денежно-кредитная политика гораздо глубже, чем рабочая модель любого человека о них.

4. Как проявляется это искажение

4.1. В повседневной жизни

• Уверенно взяться «починить» бытовой прибор и посреди работы обнаружить, что не представляете, как детали подходят друг к другу
• Объяснять ребенку, как образуется дождь, и исчерпать механизм через два предложения
• Закрыть вкладку поиска с более сильным чувством знания, чем удалось удержать; Фишер, Годду и Кейл (2015) обнаружили, что недавний поиск в интернете завышал оценки людьми своей способности объяснить даже не связанные с ним темы

4.2. На рабочем месте

• Одобрить технический план, потому что итоговый слайд выглядит логично, не умея описать, как система дала бы результат
• Руководители, уверенные, что понимают процесс, за которым надзирают, пока новичок не спросит «а что происходит потом?»
• Совещания, приходящие к согласию, потому что у всех общий уверенный словарь, а никто не проверил, стоит ли за ним общая модель

4.3. В бизнесе и маркетинге

• Инвесторы, поддерживающие продукт на основании демонстрации и механизма, который не могут пересказать своими словами
• Стратегические презентации, построенные на причинных утверждениях («вовлеченность ведет к удержанию, удержание к выручке»), которые никто не проработал как цепочку
• Покупка аналитических продуктов или продуктов с ИИ на чувстве понимания; Хромик с коллегами (2021) обнаружили ту же иллюзию, когда людям показывают объяснения моделей машинного обучения

4.4. В политике и медиа

Люди высоко оценивают свое понимание политических мер, и эти оценки резко падают после попытки объяснить, как мера будет работать. Смягчает ли это падение еще и взгляды, как сообщали Фернбах с коллегами в 2013 году, в исследованиях Кроуфорда и Рускио 2021 года не воспроизвелось.

Типичные проявления:

• Твердая позиция по мерам, механизм которых человек не может описать дальше первого шага
• Спор через обмен доводами (которые закрепляют позиции), а не объяснениями (которые их проверяют)
• Витриол и Марш (2018) обнаружили, что люди с более сильной иллюзией понимания политических тем чаще поддерживали теории заговора

4.5. В здравоохранении

Зевени и Марш (2016) применили задание на объяснение к психическим расстройствам и обнаружили ту же картину: люди думают, что понимают такие состояния, как депрессия, пока их не просят объяснить, как те возникают.

• Пациенты, считающие, что понимают механизм действия своего лекарства, и на этом основании меняющие дозы
• Врачи, которые годами не объясняли механизм и обнаруживают, когда спрашивает студент, что их модель беднее, чем им казалось
• Решения о здоровье, продиктованные яркой, связной и неверной внутренней картиной (организм «выводит токсины»)

4.6. В финансах и инвестициях

• Владение продуктами (структурными нотами, ETF с плечом, опционами), механизм выплат которых человек не смог бы нарисовать на бумаге
• Восприятие финансовой истории («ставки падают, значит, акции растут») как механизма, а не корреляции
• Картина 2008 года: слои участников, каждый из которых полагал, что инструмент полностью понимает кто-то другой

5. Реальные примеры из практики

Пример 1: Проект «Тостер»

• Контекст: В 2009 году британский дизайнер Томас Туэйтс решил собрать обычный электрический тостер с нуля: добыть железную руду, получить медь, сделать пластик. Новый тостер стоил меньше четырех фунтов.
• Что произошло: Проект занял девять месяцев и обошелся больше чем в тысячу фунтов. Оказалось, что простой тостер состоит примерно из четырехсот деталей из десятков материалов, и для каждой нужны промышленные знания, которыми не владеет ни один человек. Готовое изделие проработало несколько секунд и расплавилось.
• Проявление искажения: До начала Туэйтс и все, кому он рассказывал, испытывали обычное чувство, что тостер понятен: проволока нагревается, хлеб подрумянивается. Это чувство было наброском функции, а не моделью механизма или цепочки поставок.
• Последствия: Никаких, кроме книги и выступления на TED, в этом и смысл. Это была демонстрация с низкими ставками того, сколько скрытой глубины прячется в самых знакомых предметах.
• Уроки: Знакомство не равно пониманию. Тостер дешев именно потому, что никому не нужно понимать его целиком.

Пример 2: Структурированные кредитные продукты до 2008 года

• Контекст: До финансового кризиса банки упаковывали ипотечные кредиты в ценные бумаги, переупаковывали младшие транши в обеспеченные долговые обязательства, а в некоторых случаях переупаковывали и их. Эти инструменты продавались по всему миру, часто с высшими кредитными рейтингами.
• Что произошло: Доклад Комиссии по расследованию причин финансового кризиса в США 2011 года зафиксировал, что многие покупатели и продавцы полагались на рейтинги и на общую историю («диверсифицированные пулы ипотек надежны»), а не на рабочую модель того, как поведут себя денежные потоки, если цены на жилье упадут по всей стране. Когда они упали, продукты рухнули вместе.
• Проявление искажения: Участники на всех уровнях говорили, что понимают эти инструменты. Словарь был общим, сводки связными, и почти никто не проследил механизм от начала до конца. Чувство понимания поддерживала среда (рейтинги, модели, коллеги), а не внутреннее знание.
• Последствия: Триллионные убытки, крахи банков и глобальная рецессия. Иллюзия была не единственной причиной; свою роль сыграли мошенничество, стимулы и кредитное плечо.
• Уроки: Если вы не можете объяснить продукт транш за траншем, ваша оценка своего понимания должна быть низкой, какими бы ни были оценки коллег. «Все это понимают» описывает общее чувство, а не общее знание.

Исторический пример: «Я, карандаш» (1958)

В 1958 году американский экономист Леонард Рид опубликовал короткое эссе от лица карандаша. Его тезис состоял в том, что ни один человек на земле не знает, как его сделать. Кедр рубят в одном месте и распиливают в другом; графит добывают, смешивают с глиной и обжигают; лак, металлический ободок, ластик и клей производят разные отрасли, и люди на каждом этапе знают только свой этап.

Рид написал эссе, чтобы высказаться о рынках, но оно стало стандартной иллюстрацией иллюзии глубины понимания. Карандаш настолько прост, насколько вообще бывает промышленное изделие. Каждому кажется, что он его понимает. Почти никто не смог бы пошагово объяснить, как он появляется на свет. Сломан и Фернбах опираются на него в «Иллюзии знания»: карандаш существует потому, что знание находится в сообществе.

6. Цена этого искажения

6.1. Личные издержки

• Неудачный ремонт и проекты, начатые в расчете на механизм, который на самом деле никогда не был понят
• Решения о здоровье, основанные на уверенной, но неверной модели того, как действует лечение
• Финансовые обязательства по продуктам, внутреннее устройство которых никто не проследил
• Упущенное обучение, потому что чувство понимания останавливает поиск раньше, чем найден пробел

6.2. Профессиональные издержки

• Технические решения, одобренные по сводкам, которые никто в комнате не смог бы развернуть
• Экспертиза, которая незаметно угасает, потому что ее никогда не упражняют объяснением
• Плохие оценки сроков, потому что шаги, которые никто не проследил, как раз занимают больше всего времени
• Ущерб репутации, когда клиент или аудитор задает вопрос, обнажающий пробел

6.3. Общественные издержки

• Политические дебаты на уровне ярлыков, а не механизмов
• Финансовые кризисы, усиленные слоями участников, каждый из которых полагал, что продукт понимает кто-то другой
• Уязвимость к теориям заговора, которая, как обнаружили Витриол и Марш (2018), следует за величиной иллюзии в политических темах
• Подрыв доверия к экспертам, потому что из-за чувства понимания оговорки экспертов выглядят уклончивостью

6.4. Статистическое влияние

• В исходных исследованиях Розенблита и Кейла самооценка понимания устройств по семибалльной шкале падала на каждом этапе, а самое большое единичное падение было сразу после того, как участники пытались написать объяснение
• Метаанализ трех предварительно зарегистрированных исследований Кернера, Шютц и Петерсен 2024 года (N = 607) оценил общее падение до и после объяснения примерно в r = .36, это эффект от среднего до крупного
• В исследовании велосипедов Лоусон 2006 года большая доля взрослых, включая тех, кто регулярно ездит на велосипеде, нарисовала конструкции, которые не могли бы работать как велосипед
• Предварительно зарегистрированные повторения Кроуфорда и Рускио 2021 года воспроизвели падение оценок понимания из исследований Фернбаха и коллег 2013 года, но не снижение крайности взглядов

7. Скрытые преимущества

Иллюзия глубины понимания не просто дефект. Это ощутимая сторона устройства, которое большую часть времени работает на удивление хорошо.

• Она позволяет пользоваться тем, чего мы не понимаем: Никто не смог бы водить машину, готовить, голосовать или принимать лекарства, если бы сначала должен был построить полную причинную модель каждого из этих дел. Грубый набросок плюс уверенность делают сложный мир пригодным для жизни.

• Она поддерживает разделение когнитивного труда: Сломан и Фернбах считают иллюзию платой за специализацию. Каждый хранит набросок и указатель на того, кто знает больше; группа в целом знает механизм.

• Она помогает начать: Новички, почувствовавшие всю глубину того, чего не знают, могли бы так и не открыть капот. Немного незаслуженной уверенности доводит людей до точки, где они могут с пользой обнаружить пробелы.

• Ее легко проколоть: В отличие от многих искажений, у этого есть надежная дешевая коррекция. Несколько минут попытки объяснения обнажают пробел.

Преимущества сохраняются, когда ставки низки или указатели на настоящую экспертизу надежны. Они перестают действовать, когда система глубока, решение серьезно и никто в цепочке не проследил механизм.

8. Самооценка: Есть ли у вас это искажение?

8.1. Чек-лист тревожных сигналов

• Вы оценили бы свое понимание обычных устройств (застежки-молнии, унитаза) как высокое, но никогда ни одно из них не объясняли
• Когда кто-то спрашивает «а как это на самом деле работает?», вы обычно в итоге пересказываете, что оно делает
• У вас твердые взгляды хотя бы на одну политическую меру, механизм которой вы не смогли бы описать дальше первого шага
• Прочитав техническую статью, вы чувствуете, что поняли ее, но не смогли бы восстановить аргумент без нее
• Вы редко объясняете что-то вслух или письменно; большая часть вашего «знания» сводится к молчаливому узнаванию
• Вы предполагаете, что к знакомым терминам (инфляция, шифрование, антитела) прилагается рабочая модель
• Вы удивлялись, обнаружив пробел в понимании того, чем пользуетесь каждый день
• Объяснения экспертов кажутся вам медленнее и осторожнее, чем нужно
• Вы закрываете вкладку поиска с чувством, что теперь понимаете тему, не удержав в памяти шаги
• Вы никогда не пробовали нарисовать систему (велосипед, рабочий процесс вашей команды) по памяти

Подсчет баллов:

• 0–2 пункта: Низкая подверженность
• 3–5 пунктов: Умеренная подверженность
• 6–8 пунктов: Высокая подверженность
• 9–10 пунктов: Очень высокая подверженность

8.2. Вопросы для самоанализа

1. Выберите устройство, которым пользуетесь каждый день. Ничего не подглядывая, напишите четыре предложения о том, как оно работает. Как далеко вы продвинулись, прежде чем предложения стали расплывчатыми?
2. Какой политической или экономической позиции вы твердо придерживаетесь? Можете ли вы описать цепочку механизмов, через которую мера дала бы задуманный эффект?
3. Когда вы в последний раз объясняли что-то техническое другому человеку и обнаружили пробел?
4. Какие ваши профессиональные суждения опираются на механизм, который вы никогда не прослеживали от начала до конца?
5. Вспомните, когда вам казалось, что вы что-то поняли после быстрого поиска. Что вы до сих пор помните о том, как это работает?

8.3. Быстрый диагностический сценарий

Сценарий: Друг решает, делать ли медицинскую процедуру, и спрашивает вас, раз вы «много об этом читали», как она на самом деле работает. Вы прочитали несколько статей и чувствуете, что хорошо ее понимаете.

Как вы поступите?

• А) Уверенно кратко расскажете, что делает процедура и почему это хорошая идея → Высокая подверженность
• Б) Начнете объяснять, заметите, что описываете результаты, а не механизм, и все равно закончите словами «как-то так» → Умеренная подверженность
• В) Пройдете по шагам, прямо скажете, где кончается ваше понимание, и направите друга к тому, кто может заполнить пробел → Низкая подверженность

9. Выявление этого искажения у других

9.1. Поведенческие индикаторы

• Бегло описывает системы через то, что они делают, и застревает, когда спрашивают как
• Пользуется правильной терминологией, не умея раскрыть термины
• Охотно приводит доводы в пользу позиций, но механизмы неохотно
• Одобряет планы на основании сводок и никогда не просит показать следующий уровень
• Ни разу не говорил «вообще-то я не знаю, как работает эта часть»

9.2. Разговорные тревожные сигналы

Фразы, которые произносят люди под влиянием этого искажения:

• «Это, по сути, просто...»
• «Все знают, как это работает».
• «Мне не нужно вдаваться в детали; суть в том, что...»
• «Работает это так: оно делает X». (пересказ функции так, будто это механизм)

Типичные аргументы:

• Цепочки ярлыков вместо цепочек причин («стимулирование повышает спрос, а это создает рабочие места»)
• Ссылки на привычность («я этим каждый день пользуюсь»)

Вопросы, которых избегают:

• «А что происходит на следующем шаге?»
• «Смог бы я это нарисовать?»

9.3. Ситуационные триггеры

• Предметы или системы, которые постоянно видят, но никогда не открывают
• Технический словарь, ставший привычным по новостям и разговорам
• Только что прочитанная или найденная информация по теме
• Сообщение о том, что эксперты что-то понимают; Сломан и Рабб (2016) обнаружили, что одно лишь знание о том, что ученые понимают явление, повышает оценки людьми собственного понимания этого явления
• Нехватка времени, которая отбивает охоту к медленной работе объяснения

10. Когнитивные стратегии дебайасинга

10.1. Немедленные техники

• Тест объяснением: Прежде чем утверждать, что вы что-то понимаете, напишите или проговорите, как это работает, шаг за шагом, от входа до результата. Потом снова оцените свое понимание. Это исходная экспериментальная процедура, и она работает как самопроверка
• Переключение с «почему» на «как»: Поймав себя на перечислении доводов в пользу позиции, переключитесь на механизм: что это делает, что происходит потом, а потом что
• Нарисуйте: Для любой физической системы или процесса сделайте набросок по памяти. Исследование велосипедов Лоусон показывает, как быстро это выявляет пробелы
• Назовите точку остановки: Скажите, где кончается ваше понимание: «Я знаю, что клапан открывается; не знаю, что заставляет его закрыться»

10.2. Долгосрочные стратегии

• Объясняйте регулярно: Сделайте привычкой учить, писать или проговаривать механизмы. Иллюзия выживает отчасти потому, что объяснять приходится редко
• Ведите журнал оценок: Записывайте свою уверенность до и после попытки объяснения. За несколько месяцев типичное падение покажет, сколько скидывать с первого впечатления
• Отделяйте узнавание от воспроизведения: Проверяйте себя тем, что воспроизводите объяснение, а не перечитываете, пока оно не покажется знакомым
• Стройте хорошие указатели: Понимать все невозможно. Вкладывайтесь в знание того, кто действительно понимает, и проверяйте, проследил ли ваш «эксперт» механизм

10.3. Организация среды

• Слайды с механизмом: При рассмотрении и одобрении требуйте слайд или абзац, описывающий, как предложение работает, а не только чего оно достигает
• Норма «объясни обратно»: Перед решением попросите кого-то, кроме автора предложения, объяснить механизм своими словами. Если никто не может, понимание группы сводится к общему чувству
• Культура доски: Держите поверхности для рисования там, где принимают решения, и пользуйтесь ими. Рисунки обнажают то, что скрывают слайды
• Поощряйте вопрос: Сделайте «как работает эта часть?» нормальным вопросом, который ничего не стоит задать, а «пока не знаю» нормальным ответом

10.4. Когда обращаться за внешней оценкой

• Когда решение зависит от механизма, который вы не можете сами проследить от начала до конца
• Когда ваша уверенность в основном держится на знакомости, словаре или недавнем поиске
• Когда все вокруг одинаково уверены и одинаково не проверены
• Когда система многослойна (финансовые продукты, цепочки поставок, биологические пути), а вы видите только свой слой

К кому обращаться: найдите того, кто проследил механизм, а не того, кто разделяет вашу уверенность. Объяснение эксперта под расспросами должно становиться подробнее, а не абстрактнее.

11. Практические упражнения

Упражнение 1: Самопроверка по Розенблиту и Кейлу

• Цель: Испытать иллюзию на себе и откалибровать чувство понимания
• Необходимое время: 20 минут
• Материалы: Бумага и ручка; список из шести бытовых устройств (застежка-молния, унитаз со смывом, цилиндровый замок, холодильник, шариковая ручка, спидометр)
• Уровень сложности: Начальный
• Инструкции:
  1. Оцените свое понимание каждого устройства от 1 (понятия не имею) до 7 (полное понимание)
  2. Выберите два с самыми высокими оценками и напишите полное пошаговое объяснение того, как работает каждое
  3. Оцените оба заново
  4. Прочитайте краткое экспертное объяснение каждого, оцените в третий раз и сравните
• Вопросы для размышления:
  • Насколько большим было падение после попытки объяснения?
  • Какой шаг первым стал расплывчатым?
• Регулярность: Один раз для начала; повторяйте с новыми предметами, когда уверенность в собственном техническом понимании кажется высокой

Упражнение 2: Механизм, а не доводы

• Цель: Отделить чувство, что понимаешь позицию, от настоящей модели стоящей за ней меры
• Необходимое время: 30 минут
• Материалы: Блокнот; три политические меры или решения, о которых у вас твердое мнение
• Уровень сложности: Средний
• Инструкции:
  1. Для каждой оцените от 1 до 7, насколько хорошо понимаете, как она будет работать, и насколько твердо держитесь своей позиции
  2. Для первой запишите доводы, по которым вы держитесь своей позиции
  3. Теперь запишите механизм: что мера делает сначала, к чему это ведет, к чему ведет это. Остановитесь, когда не сможете описать следующий шаг
  4. Заново оцените понимание и позицию, затем повторите для двух других
• Вопросы для размышления:
  • Отличались ли ощущения, когда вы писали доводы и когда писали механизм? Что выявило пробелы?
  • Если ваша позиция не изменилась, несмотря на большое падение понимания, на чем она держится?
• Регулярность: Раз в месяц или перед любыми важными дебатами, голосованием или решением

Упражнение 3: Нарисуйте свою систему

• Цель: Найти скрытую глубину в системе, от которой вы зависите каждый день
• Необходимое время: 45 минут
• Материалы: Большой лист бумаги, ручки и возможность потом показать рисунок тому, кто знает систему
• Уровень сложности: Средний
• Инструкции:
  1. Выберите систему: рабочий процесс команды от запроса до сдачи, отопление дома или путь заказа клиента до отгрузки
  2. Нарисуйте ее по памяти, подписав каждый компонент и каждую стрелку
  3. Отметьте другим цветом каждое место, где вы догадываетесь
  4. Покажите рисунок тому, кто знает систему, и попросите поправить
  5. Посчитайте поправки: недостающие части, неверные связи или шаги, которые вы слили в один
• Вопросы для размышления:
  • Пробелы были в частях, которыми вы пользуетесь чаще всего или реже всего?
  • Какое недавнее решение зависело от одной из частей, в которых вы ошиблись?
• Регулярность: Раз в квартал, каждый раз с другой системой

Ежедневная практика

Одно объяснение в день

Раз в день возьмите что-то, с чем вы столкнулись и что, как вам показалось, поняли (новость, рабочий инструмент, бытовой предмет), и объясните себе в двух-трех предложениях, как это работает.

• Рекомендуемая продолжительность: 3 минуты
• Лучшее время: Вечер, при подведении итогов дня
• Отслеживание прогресса: Ведите список объяснений, которые застопорились, и вычеркивайте их, когда заполните пробелы

Еженедельный вызов

Объясни обратно

Каждую неделю выбирайте один механизм, на который опираетесь в работе, и объясняйте его человеку без вашей подготовки, предлагая ему спрашивать «а что потом?», пока не дойдете до шага, который не можете описать.

• Ожидаемый результат через 4 недели: Более ясная карта того, где ваше профессиональное знание настоящее, а где это словарь; более низкая и точная исходная точка для оценок уверенности
• Вопросы для дневника:
  • На каком «а что потом?» я застрял?
  • Этот пробел я когда-то знал и потерял или никогда не знал?

12. Для конкретных аудиторий

Для руководителей и менеджеров

• Дисциплина одобрения: Не одобряйте то, что не можете объяснить обратно. Попросите автора предложения провести вас через механизм и попросите о том же человека, который не автор
• Остерегайтесь общего словаря: У команды, пользующейся одними и теми же уверенными терминами, может не быть общей модели. Пусть люди нарисуют процесс независимо друг от друга, и сравните
• Защищайте вопрос «как»: Младшие сотрудники часто первыми видят пробел и молчат. Сделайте вопрос о том, как что-то работает, ожидаемой частью каждого рассмотрения
• Явно распределяйте понимание: Решите, кто отвечает за механизм каждой критической системы, и проверьте, что этот человек может его объяснить, а не описать

Для родителей и педагогов

• Объяснение, подходящее по возрасту: «Иногда нам кажется, что мы знаем, как что-то работает, просто потому, что часто это видели. Чтобы проверить, надо попробовать объяснить. Если застрял, это здорово, потому что теперь ты знаешь, что узнать дальше».
• Спрашивайте «а что потом?»: Когда ребенок что-то объясняет, спросите о следующем шаге, а не поправляйте. Ребенок сам обнаружит пробел, и вопрос станет его собственным
• Рисуйте до чтения: Пусть ученики до урока набросают, как, по их мнению, работает система, а после сравнят с настоящей
• Показывайте сами: Говорите при детях: «Я думал, что понимаю это, и только что понял, что нет». Это учит, что пробел нормален и его можно найти

Для медицинских работников

• Проверка понимания у пациентов: Пациенты часто высоко оценивают свое понимание болезни. Попросите их объяснить своими словами; работа Зевени и Марш о психических расстройствах показывает, насколько большим бывает разрыв
• Ваши собственные механизмы: Клинические модели без использования угасают. Время от времени объясняйте студенту механизм распространенного лечения и замечайте, где тянетесь к ярлыку вместо шага
• Сообщения о здоровье: Сообщения, дающие людям механизм, который они могут повторить (как вакцина тренирует иммунную систему), лучше конкурируют с простой неверной историей, чем сообщения, опирающиеся на авторитет

Для финансовых специалистов

• Тест траншей: Для любого продукта, который вы продаете или держите, умейте описать денежные потоки и сценарии отказа слой за слоем. Если не можете, ваша оценка своего понимания должна быть низкой, каковы бы ни были рейтинги и уверенность коллег
• Объяснения клиентов: Просите клиентов объяснить механизм продукта до покупки и считайте уверенный пересказ рекламной подачи тревожным сигналом
• Нарратив против механизма: Деловые истории («рост повышает маржу») ощущаются как понимание. Переведите каждую в цепочку конкретных шагов, прежде чем на нее полагаться

13. Взаимодействие с другими искажениями

Искажения, усиливающие этот эффект

Искажения, ослабляющие этот эффект

Распространенные цепочки искажений

Эффект знакомства с объектом → Иллюзия глубины понимания → Эффект сверхуверенности → Эскалация приверженности

Ежедневный контакт с системой делает ее знакомой (Эффект знакомства с объектом). Знакомость принимают за понимание (Иллюзия глубины понимания). Ощущаемое понимание поддерживает уверенные решения (Эффект сверхуверенности). Когда решение упирается в глубину, которую никто не моделировал, тот, кто принимал решение, упорствует, а не пересматривает модель (Эскалация приверженности).

Разрыв цепочки: Дешевле всего разорвать ее на втором звене. Пятиминутная попытка объяснить систему перед решением превращает ощущаемое понимание в измеренное. После того как уверенное решение принято публично, последующие звенья исправить гораздо труднее.

14. Культурные перспективы

Межкультурных исследований иллюзии глубины понимания мало, и тот, кто заявляет о четкой культурной закономерности, опережает данные. В исходных исследованиях участвовали американские студенты. В воспроизведении Кернера, Шютц и Петерсен 2024 года использовались немецкоязычные выборки. Карлос Гавирия и Хавьер Корредор (2021) обнаружили эффект для исторических знаний в Колумбии и отметили, что социальная желательность влияла на готовность людей признавать пробелы. У механизма, путаницы знакомости с внутренним знанием, нет очевидных причин считаться с границами.

Где культура, вероятно, имеет значение, так это в сопутствующем поведении: насколько свободно люди вообще ставят себе высокие оценки, насколько им комфортно говорить «я не знаю» и насколько глубоко встроено почтение к экспертам. В культурах, ценящих уверенную речь, исходные оценки могут быть выше, а значит, и падения больше; в культурах, где нормой считается скромность, они могут быть меньше. Ничто из этого не установлено именно для этого искажения.

15. Мифы и заблуждения

16. Экспертные мнения

«Людям кажется, что они понимают сложные явления гораздо точнее, связнее и глубже, чем на самом деле». — Леонид Розенблит и Фрэнк Кейл, «Неверно понимаемые пределы наивной науки» (2002)

«Политический экстремизм опирается на иллюзию понимания». — Филип Фернбах, Тодд Роджерс, Крейг Фокс и Стивен Сломан, название их статьи 2013 года в Psychological Science

Пересказ мысли Стивена Сломана и Филипа Фернбаха из книги «Иллюзия знания» (2017): каждый из нас знает гораздо меньше, чем думает, и нам это сходит с рук, потому что знание живет в сообществе. Иллюзия и есть то, как ощущается пользование этим общим запасом, когда мы не замечаем, где кончается наша собственная голова.

Пересказ слов Ребекки Лоусон об исследовании велосипедов (2006): значительная доля участников так и не смогла нарисовать в работающем виде предмет, который они видят каждый день и которым многие из них пользуются, и это позволяет предположить, что частое столкновение оставляет людям удивительно скудную модель того, как вещь действует.

17. Ключевые выводы

1. Объяснение и есть проверка: Иллюзия — это разрыв между тем, насколько хорошо вы, как вам кажется, понимаете механизм, и тем, как далеко вы продвигаетесь, когда пытаетесь пошагово его объяснить. Проверка заодно и лекарство.

2. Она специфична для механизмов: Розенблит и Кейл показали падение для устройств и причинных систем и небольшое для фактов, процедур или историй. Знакомство с тем, что вещь делает, принимают за знание того, как.

3. Основной эффект прочен: Он воспроизводится больше двух десятилетий, в том числе в трех предварительно зарегистрированных исследованиях Кернера, Шютц и Петерсен 2024 года с 607 участниками.

4. Политическое продолжение не решено: Объяснение меры надежно снижает уверенность в ее понимании. Смягчает ли это взгляды, как сообщали Фернбах и коллеги в 2013 году, в предварительно зарегистрированных повторениях Кроуфорда и Рускио 2021 года не воспроизвелось.

5. Доводы не равны объяснениям: Перечисление того, почему вы держитесь позиции, мобилизует аргументы и оставляет позицию нетронутой. Описание того, как вещь работала бы, обнажает пробелы.

6. Ее питает среда: Знакомость, общий словарь, сообщения о том, что эксперты понимают, и недавние поиски в интернете повышают чувство понимания, не повышая понимания.

7. Это свойство сообщества с личными издержками: Мы никогда не думаем в одиночку, и иллюзия служит платой за опору на общее знание. Решение в том, чтобы знать, где кончается ваша собственная модель, и выстраивать надежные указатели на людей, проследивших остальное.

18. Дополнительные ресурсы

Научные статьи

• Rozenblit, L., & Keil, F. (2002). The misunderstood limits of folk science: An illusion of explanatory depth. Cognitive Science, 26(5), 521-562.
• Fernbach, P. M., Rogers, T., Fox, C. R., & Sloman, S. A. (2013). Political extremism is supported by an illusion of understanding. Psychological Science, 24(6), 939-946.
• Crawford, J. T., & Ruscio, J. (2021). Asking people to explain complex policies does not increase political moderation: Three preregistered failures to closely replicate Fernbach, Rogers, Fox, and Sloman's (2013) findings. Psychological Science, 32(4), 611-621.
• Körner, R., Schütz, A., & Petersen, L.-E. (2024). "It doesn't matter if you are in charge of the trees, you always miss the trees for the forest": Power and the illusion of explanatory depth. PLOS ONE, 19(4), e0297850.
• Lawson, R. (2006). The science of cycology: Failures to understand how everyday objects work. Memory & Cognition, 34(8), 1667-1675.
• Fisher, M., Goddu, M. K., & Keil, F. C. (2015). Searching for explanations: How the Internet inflates estimates of internal knowledge. Journal of Experimental Psychology: General, 144(3), 674-687.
• Vitriol, J. A., & Marsh, J. K. (2018). The illusion of explanatory depth and endorsement of conspiracy beliefs. European Journal of Social Psychology, 48(7), 955-969.

Книги

• Sloman, S., & Fernbach, P. (2017). The Knowledge Illusion: Why We Never Think Alone. Riverhead Books.
• Thwaites, T. (2011). The Toaster Project: Or a Heroic Attempt to Build a Simple Electric Appliance from Scratch. Princeton Architectural Press.

Главы из книг

• Keil, F. C., Rozenblit, L., & Mills, C. M. (2004). What lies beneath? Understanding the limits of understanding. In D. T. Levin (Ed.), Thinking and Seeing: Visual Metacognition in Adults and Children (pp. 227-249). MIT Press.
• Keil, F. C., & Wilson, R. A. (2000). Explaining explanation. In F. C. Keil & R. A. Wilson (Eds.), Explanation and Cognition (pp. 1-18). MIT Press.

19. Сводная карточка

20. Глоссарий используемых терминов

21. Вопросы для обсуждения

Для книжных клубов, учебных аудиторий или самостоятельного размышления:

1. Выберите бытовой предмет в комнате. Каждый оценивает свое понимание, затем один человек пытается его объяснить. Как далеко продвинется группа и чья оценка изменится сильнее всего?

2. Фернбах и коллеги обнаружили, что просьба назвать доводы и просьба объяснить дают разные эффекты. Почему перечисление доводов в пользу позиции может оставить ее нетронутой, а объяснение механизма расшатать?

3. Сломан и Фернбах утверждают, что иллюзия представляет собой естественную плату за сообщество знания. Если это так, цель в том, чтобы уменьшить иллюзию, или в том, чтобы улучшить наши указатели на людей, которые действительно знают?

4. Результат о политической умеренности не воспроизвелся, а падение понимания воспроизвелось. Что вам нужно увидеть, чтобы убедиться в ту или другую сторону в том, меняет ли объяснение взгляды?

5. Поисковики и ИИ-ассистенты делают объяснения мгновенно доступными. Фишер, Годду и Кейл обнаружили, что поиск раздувает наше ощущение того, что мы знаем. Как студентам, специалистам и избирателям пользоваться этими инструментами, не теряя из виду, где кончается их собственное понимание?

Последнее обновление: 17 октября 2026