Illusion de profondeur explicative (Illusion of Explanatory Depth)

En un coup d'œil

1. Résumé rapide

Demandez à quelqu'un s'il comprend bien le fonctionnement d'une chasse d'eau, et la plupart vous répondront « plutôt bien ». Demandez-lui ensuite d'écrire, étape par étape, ce qui se passe entre le moment où la poignée s'abaisse et celui où la cuvette se remplit à nouveau, et son assurance s'évapore. Cet écart, c'est l'illusion de profondeur explicative, nommée par Leonid Rozenblit et Frank Keil en 2002. Elle est forte pour les mécanismes et faible pour les faits ou les intrigues, parce qu'un mécanisme nous laisse prendre notre familiarité avec la surface pour une connaissance de l'intérieur. Le résultat central a été répliqué dans des études préenregistrées et étendu aux politiques publiques, aux troubles mentaux et aux croyances complotistes. L'extension la plus connue, selon laquelle expliquer une politique rend les opinions politiques plus modérées, a échoué à une réplication préenregistrée. Le remède est aussi le diagnostic : essayez de l'expliquer.

En clair

Ce biais, c'est l'impression de savoir comment une chose fonctionne, alors qu'en réalité tu sais seulement ce qu'elle fait. Tu as vu un vélo mille fois, alors ton cerveau te dit que tu le comprends. Mais voir une chose, ce n'est pas savoir ce qui se passe à l'intérieur.

Essaie avec un ami. Demande-lui de dessiner un vélo de mémoire, avec le cadre, les pédales et la chaîne au bon endroit. La plupart des gens sont sûrs d'y arriver. Puis le dessin arrive avec la chaîne accrochée à la roue avant, et ton ami éclate de rire, parce qu'il ne se doutait pas qu'il ne savait pas. C'est pareil pour la façon dont ton téléphone trouve le wifi, dont un vaccin agit, ou pour la raison pour laquelle le ciel est bleu. Tu as l'impression de savoir, jusqu'au moment où quelqu'un te demande de l'expliquer.

Voici l'astuce. Avant de dire « j'ai compris », explique-le à voix haute comme si tu l'apprenais à un enfant plus jeune, une étape après l'autre. Si tu bloques, ce n'est pas un échec. C'est le biais qui te montre exactement où se trouve le trou, pour que tu saches ce que tu dois aller apprendre.

2. La science derrière tout ça

2.1. Découverte et histoire

L'illusion de profondeur explicative (IOED) a été nommée en 2002 dans un article de Cognitive Science signé par Leonid Rozenblit et Frank Keil, de l'université Yale. Keil avait passé des années à étudier la « science naïve », ces théories causales approximatives que les gens se font sur la biologie, la physique et les machines. Ces théories sont sommaires, et pourtant leurs lacunes ne semblent jamais gêner personne.

Le protocole de Rozenblit et Keil était simple. Les participants évaluaient leur compréhension d'objets du quotidien sur une échelle en sept points, rédigeaient une explication complète du fonctionnement de l'un d'eux, s'évaluaient de nouveau, répondaient à une question diagnostique, lisaient l'explication d'un expert, puis s'évaluaient encore. Sur douze études, les notes ont baissé à chaque étape, la plus forte baisse survenant juste après la tentative d'explication. Personne ne leur disait qu'ils s'étaient trompés. C'est le fait d'expliquer qui produisait l'effet. Appliquée à des faits, à des procédures et à des intrigues de films, la même démarche produisait des baisses bien plus faibles, voire aucune : l'illusion est donc propre aux mécanismes. Leur explication : les mécanismes peuvent en général être examinés dans le monde, si bien que nous les mémorisons rarement ; savoir à quoi sert une pièce donne l'impression de savoir comment elle fonctionne ; nous n'expliquons presque jamais rien, donc nous ne recevons aucun retour ; et les explications n'ont pas de point d'arrêt naturel.

Des travaux ultérieurs ont testé le mécanisme (l'explication par le niveau de représentation proposée en 2010 par Adam Alter, Daniel Oppenheimer et Jeffrey Zemla), élargi le domaine aux vélos, aux politiques publiques, aux troubles mentaux et aux croyances complotistes, et vérifié si l'effet tient. Robert Körner, Astrid Schütz et Lars-Eric Petersen ont reproduit l'effet central dans trois études préenregistrées en 2024, tandis que les tentatives préenregistrées de Jarret Crawford et John Ruscio en 2021 n'ont pas reproduit le résultat sur la modération politique. Le livre de Steven Sloman et Philip Fernbach paru en 2017, The Knowledge Illusion, a reformulé l'ensemble : l'essentiel de ce que chacun de nous « sait » se trouve chez d'autres personnes, dans les livres et dans les outils.

Grandes étapes :

• 2002 : Rozenblit et Keil nomment l'effet et montrent qu'il est propre aux connaissances explicatives
• 2006 : Rebecca Lawson publie « The science of cycology » et montre que les adultes sont incapables de dessiner un vélo fonctionnel
• 2013 : Fernbach, Rogers, Fox et Sloman étendent l'effet aux politiques publiques
• 2021 : Crawford et Ruscio rapportent trois échecs préenregistrés de réplication de l'effet de modération politique
• 2024 : Körner, Schütz et Petersen répliquent l'effet central de l'illusion de profondeur explicative dans trois études préenregistrées (N = 607)

2.2. Chercheurs clés

2.3. Études marquantes

« The misunderstood limits of folk science: An illusion of explanatory depth » (Rozenblit & Keil, 2002)

Des étudiants de premier cycle de Yale ont évalué leur compréhension d'objets comme une fermeture éclair, une chasse d'eau, une serrure à cylindre ou un hélicoptère, puis ont rédigé une explication causale pour une partie d'entre eux avant de se réévaluer. Les notes ont baissé à chaque étape, quels que soient leur formation et leur degré de familiarité avec les objets. Le même protocole n'a produit que peu ou pas de baisse pour les faits, les procédures ou les récits, la preuve la plus solide que l'illusion porte sur l'explication causale et non sur une surconfiance générale.

« The science of cycology: Failures to understand how everyday objects work » (Lawson, 2006)

Lawson a demandé à des adultes de compléter le croquis d'un vélo en y ajoutant les parties manquantes du cadre, les pédales et la chaîne. Beaucoup n'y sont pas parvenus. Une erreur fréquente était une chaîne passant autour de la roue avant, ce qui rendrait impossible de tourner. Les erreurs étaient fréquentes même chez les cyclistes réguliers et persistaient quand les participants devaient seulement reconnaître le dessin correct.

« Political extremism is supported by an illusion of understanding » (Fernbach, Rogers, Fox & Sloman, 2013)

Les participants ont évalué leur compréhension de politiques comme le système de plafonnement et d'échange de quotas d'émission ou l'assurance maladie à payeur unique, ainsi que la force de leur soutien ou de leur opposition à chacune. Une fois qu'ils avaient rédigé une explication mécaniste du fonctionnement d'une politique, leurs évaluations de compréhension baissaient, et l'extrémisme de leurs positions aussi. Une deuxième expérience a comparé l'explication d'un mécanisme et l'énumération de raisons : seule l'explication réduisait l'extrémisme. Crawford et Ruscio ont mené en 2021 trois réplications proches préenregistrées et n'ont pas constaté qu'expliquer augmentait la modération. Les évaluations de compréhension baissaient toujours, donc l'illusion centrale a tenu ; l'effet politique en aval, non.

« Power and the illusion of explanatory depth » (Körner, Schütz & Petersen, 2024)

Trois études préenregistrées menées auprès de 607 participants ont testé si le fait de se sentir puissant aggrave l'illusion. L'effet central s'est nettement reproduit pour les appareils, avec une baisse moyenne à forte de la compréhension autoévaluée, et des juges indépendants ont confirmé que les explications écrites étaient pauvres. Le pouvoir lui-même n'a eu qu'un effet très faible. Le style de représentation n'était pas lié à l'IOED, et une analyse par p-courbe des études de 2010 n'a trouvé aucune valeur probante pour ce lien.

2.4. Base neurologique

Il n'existe pas de neurosciences établies de l'illusion de profondeur explicative en particulier. Aucune étude d'imagerie n'a isolé ce qui se passe dans le cerveau quand l'évaluation « je comprends » de quelqu'un s'effondre, et les affirmations contraires doivent être traitées comme des spéculations. Ce qui existe, c'est une littérature plus large sur la métacognition.

Les jugements de savoir semblent reposer sur un sentiment de fluidité plutôt que sur une vérification du contenu stocké. Quand un objet familier vient facilement à l'esprit, le sentiment de le comprendre arrive aussitôt. Rédiger une explication oblige à récupérer la chaîne causale réelle, et quand cette récupération cale, le sentiment est révisé à la baisse. Les travaux de Stephen Fleming, Raymond Dolan et d'autres relient un suivi métacognitif précis au cortex préfrontal antérieur et montrent que les gens diffèrent dans la mesure où leur confiance suit leurs performances. C'est une piste raisonnable pour chercher des différences individuelles face à l'illusion, mais le lien n'a pas été testé directement.

3. Origines évolutives

Pourquoi un esprit porterait-il des explications qu'il n'a pas ? La réponse la plus plausible est que, pendant l'essentiel de l'histoire humaine, il n'en avait pas besoin.

La formulation de Sloman et Fernbach est la plus nette. Les humains raisonnent sur des mécanismes, et ils le font en groupe. Dans une bande de chasseurs-cueilleurs, personne ne sait fabriquer chaque outil, pister chaque animal et soigner chaque maladie ; ce savoir est réparti dans la communauté. Le rôle de chacun est d'en savoir assez pour se servir du fonds commun et de reconnaître qui sait le reste. Un cerveau qui stocke une esquisse, plus une idée de l'endroit où trouver les détails, est efficace.

L'ennui, c'est que « je pourrais le découvrir » ressemble, de l'intérieur, à « je le sais ». Comme les mécanismes sont généralement disponibles pour être examinés, nous traitons le soutien de l'environnement comme s'il s'agissait d'un savoir interne. Pour un outil que l'on peut prendre en main et examiner, c'est un raccourci sans danger. Pour une politique ou un produit financier, non.

Un second fil relie l'illusion à la famille du « besoin d'agir vite ». La confiance rend l'action possible. Un ancêtre qui se serait arrêté pour vérifier un modèle causal complet d'une rivière avant de la traverser aurait été supplanté par un autre qui avait le sentiment de comprendre assez bien les rivières. Nos théories causales sont grossières parce que le grossier a toujours suffi. Ce qui a changé, c'est l'environnement : les chaînes d'approvisionnement, les vaccins et la politique monétaire sont bien plus profonds que le modèle de travail qu'en a n'importe quel individu.

4. Comment ce biais se manifeste

4.1. Dans la vie quotidienne

• « Réparer » un appareil avec assurance, puis découvrir en plein travail que l'on n'arrive pas à se représenter comment les pièces s'assemblent
• Expliquer à un enfant comment se forme la pluie, et se trouver à court de mécanisme au bout de deux phrases
• Fermer un onglet de recherche avec un sentiment de savoir plus fort que ce que l'on a retenu ; Fisher, Goddu et Keil (2015) ont constaté qu'une recherche récente en ligne gonflait l'estimation que les gens faisaient de leur capacité à expliquer des sujets sans rapport

4.2. Dans le milieu professionnel

• Approuver un projet technique parce que sa diapositive de synthèse paraît logique, sans pouvoir décrire comment le système produirait le résultat
• Des managers persuadés de maîtriser un processus qu'ils supervisent jusqu'à ce qu'une nouvelle recrue demande : « et que se passe-t-il ensuite ? »
• Des réunions qui aboutissent à un accord parce que tout le monde partage un vocabulaire assuré et que personne n'a vérifié s'il renvoie à un modèle commun

4.3. Dans les affaires et le marketing

• Des investisseurs qui financent un produit sur la foi d'une démonstration et d'un mécanisme qu'ils ne sauraient reformuler avec leurs propres mots
• Des présentations stratégiques construites autour d'affirmations causales (« l'engagement fait la fidélisation, qui fait le chiffre d'affaires ») que personne n'a déroulées comme une chaîne
• Acheter des outils d'analyse ou des produits d'IA sur une impression de compréhension ; Chromik et ses collègues (2021) ont trouvé la même illusion quand on montre aux gens des explications de modèles d'apprentissage automatique

4.4. En politique et dans les médias

Les gens évaluent haut leur compréhension des politiques publiques, et ces évaluations chutent nettement après qu'ils ont essayé d'expliquer comment la politique fonctionnerait. L'idée que cette baisse modère aussi les attitudes, rapportée par Fernbach et ses collègues en 2013, ne s'est pas reproduite dans les études de Crawford et Ruscio de 2021.

Manifestations types :

• Défendre des positions tranchées sur des politiques dont on ne peut décrire le mécanisme au-delà de la première étape
• Débattre en échangeant des raisons (qui stabilisent les positions) plutôt que des explications (qui les mettent à l'épreuve)
• Vitriol et Marsh (2018) ont constaté que les personnes ayant une plus forte illusion de compréhension sur des sujets politiques adhéraient plus souvent à des théories du complot

4.5. Dans la santé

Zeveney et Marsh (2016) ont appliqué la tâche d'explication aux troubles mentaux et ont trouvé le même schéma : les gens pensent comprendre des troubles comme la dépression jusqu'à ce qu'on leur demande d'expliquer comment ils apparaissent.

• Des patients qui ont le sentiment de comprendre le mode d'action de leur traitement et modifient leurs doses sur cette base
• Des praticiens qui n'ont pas détaillé un mécanisme depuis des années et s'aperçoivent, à la question d'un étudiant, que leur modèle est plus sommaire qu'ils ne le pensaient
• Des décisions de santé guidées par une image intérieure saisissante, cohérente et fausse (le corps qui « se détoxifie »)

4.6. Dans la finance et les investissements

• Détenir des produits (titres structurés, ETF à effet de levier, options) dont on ne pourrait pas dessiner sur papier le mécanisme de gain
• Prendre un récit financier (« les taux baissent, donc les actions montent ») pour un mécanisme plutôt que pour une corrélation
• Le schéma de 2008 : des couches d'intervenants qui supposaient chacun que quelqu'un d'autre comprenait entièrement l'instrument

5. Études de cas réels

Étude de cas 1 : The Toaster Project

• Contexte : En 2009, le designer britannique Thomas Thwaites a entrepris de fabriquer de A à Z un grille-pain électrique ordinaire : extraire du minerai de fer, extraire du cuivre, fabriquer du plastique. Un grille-pain neuf coûtait moins de quatre livres.
• Ce qui s'est passé : Le projet a duré neuf mois et coûté plus de mille livres. Un appareil basique s'est avéré contenir environ quatre cents pièces issues de dizaines de matériaux différents, chacun exigeant des savoir-faire industriels qu'aucun individu ne maîtrise à lui seul. L'objet achevé n'a fonctionné que quelques secondes avant de fondre.
• Le biais en action : Avant de commencer, Thwaites et tous ceux à qui il en parlait avaient l'impression ordinaire qu'un grille-pain, on le comprend : un fil chauffe, le pain dore. Cette impression était une esquisse de la fonction, et non un modèle du mécanisme ou de sa chaîne d'approvisionnement.
• Conséquences : Aucune, à part un livre et une conférence TED, et c'est tout l'intérêt. C'était une démonstration sans enjeu de toute la profondeur cachée dans les objets les plus familiers.
• Enseignements tirés : La familiarité n'est pas la compréhension. Le grille-pain est bon marché précisément parce que personne n'a besoin d'en comprendre l'intégralité.

Étude de cas 2 : Le crédit structuré avant 2008

• Contexte : Avant la crise financière, les banques regroupaient des prêts hypothécaires en titres, reconditionnaient les tranches inférieures en obligations adossées à des dettes (CDO) et, dans certains cas, reconditionnaient encore celles-ci. Ces instruments étaient vendus dans le monde entier, souvent avec les meilleures notes de crédit.
• Ce qui s'est passé : Le rapport de 2011 de la commission d'enquête américaine sur la crise financière a établi que de nombreux acheteurs et vendeurs s'appuyaient sur les notes et sur le récit général (« des portefeuilles diversifiés de prêts hypothécaires sont sûrs ») plutôt que sur un modèle concret du comportement des flux de trésorerie si les prix de l'immobilier baissaient dans tout le pays. Quand ils ont baissé, les produits ont fait défaut tous ensemble.
• Le biais en action : À chaque niveau, les intervenants disaient comprendre ces instruments. Le vocabulaire était partagé, les synthèses étaient cohérentes, et presque personne n'avait retracé le mécanisme de bout en bout. Le sentiment de compréhension reposait sur l'environnement (notes, modèles, pairs) plutôt que sur un savoir interne.
• Conséquences : Des milliers de milliards de pertes, des faillites bancaires et une récession mondiale. L'illusion n'était pas la seule cause ; la fraude, les incitations et l'effet de levier ont tous joué leur rôle.
• Enseignements tirés : Pour tout produit que vous ne pouvez pas expliquer tranche par tranche, votre évaluation de votre compréhension devrait être basse, quelles que soient celles de vos collègues. « Tout le monde comprend ça » décrit un sentiment partagé, pas un savoir partagé.

Exemple historique : « I, Pencil » (1958)

En 1958, l'économiste américain Leonard Read a publié un court essai écrit à la première personne par un crayon. Sa thèse : pas une seule personne sur terre ne sait en fabriquer un. Le cèdre est abattu à un endroit et scié dans un autre ; le graphite est extrait, mélangé à de l'argile et cuit ; le vernis, la virole, la gomme et la colle viennent chacun d'industries distinctes, et les gens de chaque étape ne connaissent que leur étape.

Read a écrit cet essai pour défendre une idée sur les marchés, mais il est devenu une illustration classique de l'illusion de profondeur explicative. Un crayon est à peu près l'objet manufacturé le plus simple qui soit. Tout le monde a le sentiment de le comprendre. Presque personne ne saurait expliquer, étape par étape, comment il vient à exister. Sloman et Fernbach s'y réfèrent dans The Knowledge Illusion : le crayon fonctionne parce que le savoir est dans la communauté.

6. Le coût de ce biais

6.1. Coûts personnels

• Des réparations ratées et des projets entamés sur la foi d'un mécanisme que l'on n'a jamais réellement compris
• Des décisions de santé fondées sur un modèle assuré mais erroné du fonctionnement d'un traitement
• Des engagements financiers dans des produits dont les rouages n'ont jamais été retracés
• Des occasions d'apprendre perdues, parce que le sentiment de comprendre arrête la recherche avant que la lacune soit trouvée

6.2. Coûts professionnels

• Des décisions techniques approuvées sur des résumés que personne dans la salle n'aurait pu développer
• Une expertise qui s'érode sans bruit parce qu'elle n'est jamais exercée par l'explication
• De mauvaises estimations, parce que les étapes jamais retracées sont celles qui prennent le plus de temps
• Une atteinte à la réputation quand un client ou un auditeur pose la question qui révèle la lacune

6.3. Coûts sociétaux

• Des débats politiques menés au niveau des étiquettes plutôt que des mécanismes
• Des crises financières amplifiées par des couches d'intervenants qui supposaient tous que quelqu'un d'autre comprenait le produit
• La réceptivité aux théories du complot, qui, selon Vitriol et Marsh (2018), suit l'ampleur de l'illusion sur les sujets politiques
• Une érosion de la confiance envers les experts, parce que le sentiment de comprendre fait passer leurs réserves pour des faux-fuyants

6.4. Impact statistique

• Dans les études originales de Rozenblit et Keil, la compréhension autoévaluée des appareils sur une échelle en sept points baissait à chaque étape, la plus forte baisse survenant juste après que les participants avaient tenté d'écrire une explication
• La méta-analyse de Körner, Schütz et Petersen (2024) portant sur leurs trois études préenregistrées (N = 607) a chiffré la baisse globale entre avant et après l'explication à environ r = 0,36, un effet moyen à fort
• Dans l'étude de Lawson sur le vélo (2006), une grande partie des adultes, y compris des cyclistes réguliers, ont produit des dessins qui ne pouvaient pas fonctionner comme des vélos
• Les réplications préenregistrées de Crawford et Ruscio en 2021 ont bien retrouvé la baisse des scores de compréhension observée par Fernbach et ses collègues en 2013, mais pas la diminution de la radicalité des opinions

7. Les avantages cachés

L'illusion de profondeur explicative n'est pas simplement un défaut. C'est le versant ressenti d'un arrangement qui fonctionne étonnamment bien la plupart du temps.

• Elle permet d'utiliser ce que nous ne comprenons pas : Personne ne pourrait conduire, cuisiner, voter ou prendre un médicament s'il devait d'abord construire un modèle causal complet de chaque chose. Une esquisse grossière, plus de la confiance, voilà ce qui rend un monde complexe utilisable.

• Elle soutient la division du travail cognitif : Sloman et Fernbach voient dans l'illusion le prix de la spécialisation. Chacun stocke une esquisse et un renvoi vers qui en sait davantage ; c'est le groupe, dans son ensemble, qui connaît le mécanisme.

• Elle permet de se lancer : Des débutants qui sentiraient toute la profondeur de ce qu'ils ignorent n'ouvriraient peut-être jamais le capot. Un peu de confiance non méritée amène les gens au point où ils peuvent découvrir leurs lacunes de façon productive.

• Elle est facile à percer : Contrairement à beaucoup de biais, celui-ci a une correction fiable et peu coûteuse. Quelques minutes de tentative d'explication révèlent la lacune.

Ces avantages tiennent quand les enjeux sont faibles ou que les renvois vers une vraie expertise sont fiables. Ils ne tiennent plus quand le système est profond, que la décision a des conséquences et que personne dans la chaîne n'a retracé le mécanisme.

8. Auto-évaluation : avez-vous ce biais ?

8.1. Liste des signaux d'alerte

• Vous évaluez à un niveau élevé votre compréhension d'appareils courants (une fermeture éclair, une chasse d'eau), mais vous n'en avez jamais expliqué le fonctionnement
• Lorsque l'on vous demande « mais comment cela marche-t-il vraiment ? », vous finissez généralement par redire à quoi cela sert
• Vous avez des opinions bien arrêtées sur au moins une politique dont vous ne pourriez pas décrire le mécanisme au-delà de la première étape
• Après avoir lu un article technique, vous avez le sentiment de l'avoir compris, mais vous seriez incapable d'en reconstruire l'argumentation sans le texte sous les yeux
• Vous expliquez rarement les choses à voix haute ou par écrit ; l'essentiel de votre « savoir » est une reconnaissance silencieuse
• Vous supposez que des termes familiers (inflation, chiffrement, anticorps) s'accompagnent d'un modèle de fonctionnement
• Il vous est déjà arrivé d'être surpris de découvrir une lacune dans votre compréhension d'un objet que vous utilisez tous les jours
• Vous trouvez les explications des experts plus lentes et plus prudentes que nécessaire
• Vous fermez un onglet de recherche avec le sentiment de comprendre désormais le sujet, sans avoir retenu les étapes
• Vous n'avez jamais essayé de dessiner de mémoire un système (un vélo, le flux de travail de votre équipe)

Score :

• 0 à 2 cases cochées : Faible vulnérabilité
• 3 à 5 cases cochées : Vulnérabilité modérée
• 6 à 8 cases cochées : Forte vulnérabilité
• 9 à 10 cases cochées : Très forte vulnérabilité

8.2. Questions d'auto-réflexion

1. Choisissez un appareil que vous utilisez tous les jours. Sans rien consulter, écrivez quatre phrases sur son fonctionnement. Jusqu'où êtes-vous allé avant que les phrases deviennent vagues ?
2. Quelle position politique ou économique défendez-vous fermement ? Pouvez-vous décrire la chaîne de mécanismes par laquelle la politique produirait l'effet voulu ?
3. À quand remonte la dernière fois où vous avez expliqué quelque chose de technique à quelqu'un et découvert une lacune ?
4. Lesquels de vos jugements professionnels reposent sur un mécanisme que vous n'avez jamais retracé de bout en bout ?
5. Pensez à une fois où vous avez eu l'impression de comprendre quelque chose après une recherche rapide. Que vous rappelez-vous encore de son fonctionnement ?

8.3. Scénario de diagnostic rapide

Scénario : Un ami se demande s'il doit subir une intervention médicale et vous demande, parce que vous avez « beaucoup lu là-dessus », comment elle fonctionne réellement. Vous avez lu plusieurs articles et avez le sentiment de bien la comprendre.

Comment réagissez-vous ?

• A) Donner un résumé assuré de ce que fait l'intervention et des raisons pour lesquelles c'est une bonne idée → Forte vulnérabilité
• B) Commencer à expliquer, remarquer que vous décrivez des effets plutôt qu'un mécanisme, et conclure malgré tout par « un truc comme ça » → Vulnérabilité modérée
• C) Dérouler les étapes une à une, dire clairement où s'arrête votre compréhension, et orienter votre ami vers quelqu'un qui peut combler la lacune → Faible vulnérabilité

9. Identifier ce biais chez les autres

9.1. Indicateurs comportementaux

• Décrit avec aisance ce que font les systèmes, et cale quand on lui demande comment
• Emploie la terminologie correcte sans savoir expliciter les termes
• Fournit volontiers des raisons pour justifier une position, mais rechigne à en détailler les mécanismes
• Approuve des projets sur la foi de résumés et ne demande jamais à voir le niveau en dessous
• N'a jamais été entendu dire : « je ne sais pas vraiment comment cette partie fonctionne »

9.2. Signaux d'alerte dans la conversation

Expressions courantes chez une personne soumise à ce biais :

• « En gros, c'est simplement... »
• « Tout le monde sait comment ça marche. »
• « Pas besoin de rentrer dans les détails, l'important c'est que... »
• « La façon dont ça fonctionne, c'est que ça fait X. » (reformulation de la fonction comme s'il s'agissait du mécanisme)

Types d'arguments avancés :

• Des chaînes d'étiquettes qui tiennent lieu de chaînes de causes (« la relance stimule la demande, ce qui crée des emplois »)
• Des appels à la familiarité (« j'utilise cet outil tous les jours »)

Questions qu'ils évitent de poser :

• « Et que se passe-t-il à l'étape suivante ? »
• « Est-ce que je pourrais dessiner ça ? »

9.3. Déclencheurs situationnels

• Des objets ou des systèmes côtoyés en permanence mais jamais démontés
• Un vocabulaire technique devenu familier par le biais des actualités et des conversations
• Le fait de venir tout juste de lire un article ou de faire une recherche sur le sujet
• S'entendre dire que des experts comprennent quelque chose ; Sloman et Rabb (2016) ont constaté que le simple fait d'apprendre que des scientifiques comprennent un phénomène augmente l'évaluation que les gens font de leur propre compréhension de ce phénomène
• La pression du temps, qui décourage le travail lent de l'explication

10. Stratégies de débiaisage cognitif

10.1. Techniques immédiates

• Le test de l'explication : Avant d'affirmer que vous comprenez quelque chose, écrivez ou dites comment cela fonctionne, étape par étape, de l'entrée à la sortie. Évaluez ensuite de nouveau votre compréhension. C'est le protocole expérimental d'origine, et il fonctionne comme autocontrôle
• La bascule « comment, pas pourquoi » : Quand vous vous surprenez à énumérer des raisons en faveur d'une position, passez au mécanisme : ce que cela fait, puis ce qui se passe, puis ce qui suit
• Dessinez-le : Pour tout système physique ou tout processus, faites-en un croquis de mémoire. L'étude de Lawson sur le vélo montre à quelle vitesse cela révèle les lacunes
• Nommez le point d'arrêt : Dites où s'arrête votre compréhension : « je sais que la vanne s'ouvre ; je ne sais pas ce qui la fait se fermer. »

10.2. Stratégies à long terme

• Expliquez régulièrement : Enseignez, écrivez ou détaillez à voix haute des mécanismes, par habitude. L'illusion survit en partie parce que l'explication est rare
• Tenez un journal des évaluations : Notez votre confiance avant et après une tentative d'explication. Au fil des mois, la baisse typique vous indique de combien relativiser votre première impression
• Distinguez reconnaissance et production : Testez-vous en produisant l'explication, pas en relisant jusqu'à ce que cela paraisse familier
• Construisez de bons repères : Vous ne pouvez pas tout comprendre. Investissez dans le fait de savoir qui comprend vraiment, et vérifiez que votre « expert » a retracé le mécanisme

10.3. Conception de l'environnement

• Diapositives de mécanisme : Dans les revues et les validations, exigez une diapositive ou un paragraphe qui décrit comment la proposition fonctionne, en plus de ce qu'elle permet d'obtenir
• Normes du « réexpliquer » : Avant une décision, faites expliquer le mécanisme avec ses propres mots par quelqu'un d'autre que l'auteur de la proposition. Si personne n'y arrive, la compréhension du groupe est un sentiment partagé
• Culture du tableau blanc : Gardez des surfaces où dessiner là où se prennent les décisions, et servez-vous-en. Les dessins révèlent ce que les diapositives cachent
• Récompensez la question : Faites de « comment fonctionne cette partie ? » une question normale et peu coûteuse à poser, et de « je ne sais pas encore » une réponse normale

10.4. Quand solliciter un avis extérieur

• Lorsque la décision dépend d'un mécanisme que vous êtes incapable de retracer vous-même de bout en bout
• Quand votre confiance vient surtout de la familiarité, du vocabulaire ou d'une recherche récente
• Quand tout le monde autour de vous a la même assurance et que personne n'a été plus testé que vous
• Quand un système est fait de couches (produits financiers, chaînes d'approvisionnement, voies biologiques) et que vous ne voyez que la vôtre

À qui s'adresser : trouvez quelqu'un qui a retracé le mécanisme, pas quelqu'un qui partage votre assurance. L'explication d'un expert devrait devenir plus détaillée quand on la questionne, pas plus abstraite.

11. Exercices pratiques

Exercice 1 : L'auto-test de Rozenblit et Keil

• Objectif : Vivre l'illusion directement et calibrer votre sentiment de compréhension
• Temps requis : 20 minutes
• Matériel nécessaire : Papier et stylo ; une liste de six objets du quotidien (fermeture éclair, chasse d'eau, serrure à cylindre, réfrigérateur, stylo à bille, compteur de vitesse)
• Niveau de difficulté : Débutant
• Consignes :
  1. Évaluez votre compréhension de chaque objet de 1 (aucune idée) à 7 (compréhension totale)
  2. Choisissez les deux objets les mieux notés et rédigez une explication complète, étape par étape, de leur fonctionnement
  3. Réévaluez votre compréhension pour chacun d'eux
  4. Lisez une courte explication rédigée par un spécialiste, notez-vous une troisième fois, puis comparez les résultats
• Questions de réflexion :
  • De combien votre note a-t-elle chuté après votre tentative d'explication ?
  • Quelle étape est devenue floue la première ?
• Fréquence : Une fois pour commencer ; à refaire avec de nouveaux objets chaque fois que votre confiance dans votre propre compréhension technique vous paraît élevée

Exercice 2 : Le mécanisme plutôt que les raisons

• Objectif : Distinguer le sentiment de comprendre une position d'un véritable modèle de la politique qui la sous-tend
• Temps requis : 30 minutes
• Matériel nécessaire : Un carnet ; trois politiques publiques ou décisions sur lesquelles vous avez un avis tranché
• Niveau de difficulté : Intermédiaire
• Consignes :
  1. Pour chacune d'elles, notez de 1 à 7 votre degré de compréhension de son fonctionnement concret, ainsi que la fermeté de votre position
  2. Pour la première mesure, écrivez les raisons qui justifient votre opinion
  3. Écrivez maintenant le mécanisme : ce que la politique fait d'abord, ce que cela provoque, ce que cela provoque ensuite. Arrêtez-vous quand vous ne pouvez plus décrire l'étape suivante
  4. Réévaluez votre degré de compréhension ainsi que la fermeté de votre position, puis répétez l'exercice pour les deux autres sujets
• Questions de réflexion :
  • Écrire les raisons et écrire le mécanisme vous ont-ils fait un effet différent ? Lequel a révélé des lacunes ?
  • Si votre position n'a pas changé malgré une forte baisse de compréhension, sur quoi repose-t-elle ?
• Fréquence : Une fois par mois, ou avant tout débat, vote ou décision qui compte

Exercice 3 : Dessinez votre système

• Objectif : Trouver la profondeur cachée d'un système dont vous dépendez chaque jour
• Temps requis : 45 minutes
• Matériel nécessaire : Une grande feuille de papier, des stylos, et ensuite l'accès à quelqu'un qui connaît le système
• Niveau de difficulté : Intermédiaire
• Consignes :
  1. Choisissez un système : le flux de travail de votre équipe de la demande à la livraison, le système de chauffage de votre domicile, ou le parcours d'une commande client jusqu'à l'expédition
  2. Dessinez-le de mémoire, en étiquetant chaque composant et chaque flèche
  3. Marquez d'une autre couleur chaque endroit où vous devinez
  4. Montrez le dessin à quelqu'un qui connaît le système et demandez-lui de le corriger
  5. Comptez les corrections : pièces manquantes, mauvaises connexions ou étapes que vous aviez fusionnées en une seule
• Questions de réflexion :
  • Vos lacunes portaient-elles sur les parties que vous utilisez le plus ou le moins ?
  • Quelle décision récente dépendait de l'un des maillons que vous aviez mal représentés ?
• Fréquence : Trimestrielle, en variant les systèmes à chaque session

Pratique quotidienne

Une explication par jour

Une fois par jour, prenez un sujet que vous avez rencontré et que vous avez l'impression de comprendre (une actualité, un outil professionnel, un objet du quotidien) et expliquez-vous son fonctionnement à vous-même en deux ou trois phrases.

• Durée suggérée : 3 minutes
• Meilleur moment de la journée : Le soir, lors du bilan de la journée
• Suivi des progrès : Notez les explications sur lesquelles vous avez buté et cochez-les au fur et à mesure que vous comblez vos lacunes

Défi hebdomadaire

Enseignez le mécanisme

Chaque semaine, choisissez un mécanisme sur lequel vous vous appuyez dans votre travail et expliquez-le à quelqu'un qui n'a pas votre spécialité, en l'invitant à vous demander « et ensuite ? » jusqu'à ce que vous atteigniez une étape que vous ne pouvez plus décrire.

• Résultats attendus après 4 semaines : Une carte plus claire des endroits où votre savoir professionnel est réel et de ceux où il n'est que du vocabulaire ; une base plus basse et plus juste pour vos évaluations de confiance
• Pistes de réflexion pour votre carnet :
  • À quel « et ensuite ? » ai-je calé ?
  • Cette lacune correspondait-elle à une notion oubliée ou à un élément que je n'avais en fait jamais appris ?

12. Pour des publics spécifiques

Pour les dirigeants et les managers

• Discipline d'approbation : N'approuvez pas ce que vous ne pourriez pas réexpliquer. Demandez à l'auteur de la proposition de vous faire suivre le mécanisme, et demandez à quelqu'un d'autre que lui d'en faire autant
• Méfiez-vous du vocabulaire partagé : Une équipe qui emploie les mêmes termes assurés peut n'avoir aucun modèle commun. Faites dessiner le processus par chacun séparément, puis comparez
• Protégez la question du « comment » : Les collaborateurs débutants voient souvent la lacune en premier et ne disent rien. Faites de la question sur le fonctionnement une partie attendue de chaque revue
• Déléguez explicitement la compréhension : Décidez qui est responsable du mécanisme de chaque système critique, et vérifiez que cette personne sait l'expliquer, et pas seulement le décrire

Pour les parents et les éducateurs

• Explication adaptée à l'âge : « Parfois, on croit savoir comment une chose fonctionne juste parce qu'on l'a souvent vue. Pour le savoir, il faut essayer de l'expliquer. Si tu bloques, c'est super, parce que maintenant tu sais ce que tu dois apprendre ensuite. »
• Demandez « et que se passe-t-il après ? » : Lorsqu'un enfant vous explique quelque chose, demandez-lui l'étape suivante au lieu de le corriger. C'est l'enfant qui identifie la lacune et s'approprie la question
• Dessiner avant de lire : Demandez aux élèves d'esquisser comment ils pensent qu'un système fonctionne avant la leçon, puis de comparer avec la réalité après
• Montrez l'exemple : Dites devant les enfants « je pensais avoir compris ça, et je viens de me rendre compte que non ». Cela leur apprend que la lacune est normale et qu'on peut la trouver

Pour les professionnels de santé

• Vérifier la compréhension des patients : Les patients évaluent souvent haut leur compréhension d'une maladie. Demandez-leur de vous la réexpliquer avec leurs propres mots ; les travaux de Zeveney et Marsh sur les troubles mentaux montrent à quel point l'écart peut être grand
• Vos propres mécanismes : Les modèles cliniques s'érodent quand on ne s'en sert pas. Expliquez de temps en temps le mécanisme d'un traitement courant à un étudiant et remarquez où vous recourez à une étiquette au lieu d'une étape
• Messages de santé : Les messages qui donnent aux gens un mécanisme qu'ils peuvent répéter (comment un vaccin entraîne le système immunitaire) font mieux concurrence à l'histoire simple et fausse que les messages qui s'appuient sur l'autorité

Pour les professionnels de la finance

• Le test de la tranche : Pour tout produit que vous vendez ou détenez, sachez décrire ses flux de trésorerie et ses modes de défaillance couche par couche. Sinon, votre évaluation de votre compréhension devrait être basse, quelles que soient les notes ou l'assurance de vos pairs
• Explications des clients : Demandez aux clients d'expliquer le mécanisme d'un produit avant d'acheter, et voyez dans une reformulation assurée de l'argumentaire un signal d'alerte
• Récit contre mécanisme : Les récits d'entreprise (« la croissance fait la marge ») ressemblent à de la compréhension. Traduisez chacun en une chaîne d'étapes concrètes avant de vous y fier

13. Interactions avec d'autres biais

Biais qui amplifient celui-ci

Biais qui contrecarrent celui-ci

Enchaînements fréquents de biais

Effet de simple exposition → Illusion de profondeur explicative → Effet de surconfiance → Escalade de l'engagement

Le contact quotidien avec un système le rend familier (Effet de simple exposition). La familiarité est lue comme de la compréhension (Illusion de profondeur explicative). La compréhension ressentie appuie des décisions assurées (Effet de surconfiance). Quand la décision bute sur la profondeur qui n'a jamais été modélisée, le décideur s'enferre au lieu de revoir le modèle (Escalade de l'engagement).

Interrompre la chaîne : La rupture la moins coûteuse se situe au deuxième maillon. Cinq minutes passées à essayer d'expliquer le système avant la décision transforment une compréhension ressentie en compréhension mesurée. Une fois qu'une décision assurée a été prise en public, les maillons suivants sont bien plus difficiles à défaire.

14. Perspectives culturelles

La recherche interculturelle sur l'illusion de profondeur explicative est mince, et quiconque affirme un schéma culturel net va plus vite que les données. Les études originales portaient sur des étudiants américains. La réplication de Körner, Schütz et Petersen en 2024 portait sur des échantillons germanophones. Carlos Gaviria et Javier Corredor (2021) ont trouvé l'effet pour les connaissances historiques en Colombie et ont noté que la désirabilité sociale influençait la disposition des gens à admettre leurs lacunes. Le mécanisme, qui consiste à confondre familiarité et savoir interne, n'a aucune raison évidente de s'arrêter aux frontières.

Là où la culture compte plausiblement, c'est dans les comportements qui l'entourent : la facilité avec laquelle les gens se donnent d'emblée une note élevée, leur aisance à dire « je ne sais pas », et la force de la déférence envers les experts. Les cultures qui valorisent une parole assurée pourraient montrer des évaluations initiales plus élevées et donc des baisses plus fortes ; celles où l'effacement de soi est la norme pourraient en montrer de plus faibles. Aucun de ces points n'est un résultat établi pour ce biais en particulier.

15. Mythes et idées fausses

16. Avis d'experts

« Les gens ont l'impression de comprendre les phénomènes complexes avec une précision, une cohérence et une profondeur bien supérieures à ce qu'il en est réellement. » — Leonid Rozenblit et Frank Keil, « The misunderstood limits of folk science » (2002)

« L'extrémisme politique est soutenu par une illusion de compréhension. » — Philip Fernbach, Todd Rogers, Craig Fox et Steven Sloman, titre de leur article de 2013 dans Psychological Science

Paraphrase de Steven Sloman et Philip Fernbach dans The Knowledge Illusion (2017) : chacun de nous en sait bien moins qu'il ne le pense, et nous nous en tirons parce que le savoir vit dans une communauté. L'illusion, c'est ce que l'on ressent en puisant dans ce fonds commun sans remarquer où s'arrête notre propre tête.

Paraphrase de Rebecca Lawson à propos de l'étude sur le vélo (2006) : un objet vu tous les jours, et utilisé par beaucoup des participants, ne pouvait pourtant pas être dessiné sous une forme qui fonctionne par une grande partie d'entre eux, ce qui suggère qu'une exposition fréquente ne laisse aux gens qu'un modèle remarquablement pauvre du fonctionnement d'une chose.

17. Points clés à retenir

1. Expliquer, c'est le test : L'illusion est l'écart entre votre sentiment de comprendre un mécanisme et le point où vous arrivez quand vous essayez de l'expliquer étape par étape. Le test est aussi le remède.

2. Elle est propre aux mécanismes : Rozenblit et Keil ont montré la baisse pour les appareils et les systèmes causaux, et une faible baisse pour les faits, les procédures ou les récits. La familiarité avec ce que fait une chose est prise pour une connaissance du comment.

3. L'effet central est solide : Il a été répliqué pendant plus de deux décennies, notamment dans les trois études préenregistrées de Körner, Schütz et Petersen en 2024, avec 607 participants.

4. L'extension politique n'est pas tranchée : Expliquer une politique fait baisser de façon fiable la confiance dans sa compréhension. L'idée que cela modère les attitudes, rapportée par Fernbach et ses collègues en 2013, ne s'est pas reproduite dans les réplications préenregistrées de Crawford et Ruscio en 2021.

5. Des raisons ne sont pas des explications : Énumérer pourquoi vous défendez une position mobilise des arguments et laisse la position intacte. Décrire comment la chose fonctionnerait révèle les lacunes.

6. L'environnement l'alimente : La familiarité, le vocabulaire partagé, le fait d'entendre que des experts comprennent et les recherches récentes sur Internet augmentent tous le sentiment de comprendre sans augmenter la compréhension.

7. Une caractéristique collective aux coûts individuels : Nous ne pensons jamais seuls, et l'illusion est le prix à payer pour s'appuyer sur un savoir partagé. La solution : savoir où s'arrête votre propre modèle et vous construire des repères fiables vers les personnes qui ont retracé le reste.

18. Ressources supplémentaires

Articles scientifiques

• Rozenblit, L., & Keil, F. (2002). The misunderstood limits of folk science: An illusion of explanatory depth. Cognitive Science, 26(5), 521-562.
• Fernbach, P. M., Rogers, T., Fox, C. R., & Sloman, S. A. (2013). Political extremism is supported by an illusion of understanding. Psychological Science, 24(6), 939-946.
• Crawford, J. T., & Ruscio, J. (2021). Asking people to explain complex policies does not increase political moderation: Three preregistered failures to closely replicate Fernbach, Rogers, Fox, and Sloman's (2013) findings. Psychological Science, 32(4), 611-621.
• Körner, R., Schütz, A., & Petersen, L.-E. (2024). "It doesn't matter if you are in charge of the trees, you always miss the trees for the forest": Power and the illusion of explanatory depth. PLOS ONE, 19(4), e0297850.
• Lawson, R. (2006). The science of cycology: Failures to understand how everyday objects work. Memory & Cognition, 34(8), 1667-1675.
• Fisher, M., Goddu, M. K., & Keil, F. C. (2015). Searching for explanations: How the Internet inflates estimates of internal knowledge. Journal of Experimental Psychology: General, 144(3), 674-687.
• Vitriol, J. A., & Marsh, J. K. (2018). The illusion of explanatory depth and endorsement of conspiracy beliefs. European Journal of Social Psychology, 48(7), 955-969.

Livres

• Sloman, S., & Fernbach, P. (2017). The Knowledge Illusion: Why We Never Think Alone. Riverhead Books.
• Thwaites, T. (2011). The Toaster Project: Or a Heroic Attempt to Build a Simple Electric Appliance from Scratch. Princeton Architectural Press.

Chapitres d'ouvrages

• Keil, F. C., Rozenblit, L., & Mills, C. M. (2004). What lies beneath? Understanding the limits of understanding. In D. T. Levin (Ed.), Thinking and Seeing: Visual Metacognition in Adults and Children (pp. 227-249). MIT Press.
• Keil, F. C., & Wilson, R. A. (2000). Explaining explanation. In F. C. Keil & R. A. Wilson (Eds.), Explanation and Cognition (pp. 1-18). MIT Press.

19. Fiche récapitulative

20. Glossaire des termes utilisés

21. Questions de discussion

Pour des cercles de lecture, des formations ou une réflexion personnelle :

1. Choisissez un objet du quotidien présent dans la pièce. Chacun évalue son niveau de compréhension de son fonctionnement, puis une personne tente de l'expliquer. Jusqu'où le groupe parvient-il à aller, et quelle est la personne dont l'évaluation varie le plus ?

2. Fernbach et ses collègues ont constaté que demander des raisons et demander des explications produit des effets différents. Pourquoi énumérer les raisons d'une position la laisserait-il intacte, alors qu'expliquer le mécanisme l'ébranle ?

3. Sloman et Fernbach soutiennent que l'illusion est le prix naturel d'une communauté de la connaissance. Si c'est vrai, l'objectif est-il de réduire l'illusion, ou d'améliorer nos repères vers les personnes qui savent vraiment ?

4. Le résultat sur la modération politique ne s'est pas reproduit, mais la baisse de compréhension, si. Que vous faudrait-il voir pour être convaincu, dans un sens ou dans l'autre, que l'explication change ou non les attitudes ?

5. Les moteurs de recherche et les assistants d'intelligence artificielle rendent les explications accessibles instantanément. Fisher, Goddu et Keil ont montré que la recherche en ligne gonfle l'estimation de notre propre savoir. Comment les étudiants, les professionnels et les citoyens devraient-ils utiliser ces outils sans perdre de vue la limite où s'arrête leur propre compréhension ?

Dernière mise à jour : 18 octobre 2026