Biais de croyance (Belief Bias)

En un coup d'œil

1. Résumé rapide

Le biais de croyance, c'est ce qui se passe lorsqu'on vous demande « cette conclusion découle-t-elle des prémisses ? » et que votre esprit répond discrètement à une autre question : « cette conclusion est-elle vraie ? » Si la conclusion correspond à ce que vous pensez déjà, le raisonnement paraît solide, même quand la logique est bancale. Si elle heurte ce que vous pensez, l'argument paraît louche, même quand il est irréprochable. Les psychologues ont d'abord mesuré ce phénomène avec des syllogismes dans les années 1920 ; dans l'étude classique de 1983, les participants acceptaient des arguments invalides à conclusion crédible dans environ 71 % des cas, et des arguments valides à conclusion peu crédible dans environ 56 % des cas seulement. Le biais augmente sous pression temporelle, diminue avec des consignes soigneuses et ne disparaît jamais complètement. Cela compte, car presque chaque argument public est jugé par des gens qui ont déjà une opinion sur l'endroit où il devrait aboutir.

En clair

Le biais de croyance, c'est vérifier si la fin d'un raisonnement a l'air juste au lieu de vérifier si les étapes mènent vraiment jusque-là. Si tu es déjà d'accord avec la fin, le raisonnement te paraît bon. Sinon, il te paraît faux, même quand chaque étape est correcte.

Imagine qu'un ami te dise : « Tous les meilleurs joueurs du collège sont dans l'équipe de foot. Sam est un excellent joueur. Donc Sam est forcément dans l'équipe de foot. » Ça a l'air juste, parce que Sam est sans doute dans l'équipe. Mais regarde les étapes. La première phrase dit seulement que les meilleurs joueurs sont dans l'équipe. Elle ne dit pas qu'un excellent joueur doit y être. Sam pourrait être excellent et jouer dans un club en dehors du collège. Le raisonnement est cassé, mais la fin correspondait à ce que tu attendais, alors tu n'as rien remarqué.

Voici une astuce. Remplace les mots par des mots absurdes et regarde si les étapes marchent encore. « Tous les meilleurs danseurs sont violets. Sam est un excellent danseur. Donc Sam est forcément violet. » Là, l'étape cassée saute aux yeux. Si un raisonnement ne marche que quand la fin a l'air vraie, c'est qu'il n'a jamais marché.

2. La science derrière ce biais

2.1. Découverte et histoire

La méthode pour déceler le biais de croyance n'a guère changé en un siècle. On présente aux gens un syllogisme, deux prémisses et une conclusion, et on leur demande si la conclusion est forcément vraie lorsque les prémisses le sont. Puis on fait varier deux choses de manière indépendante : la validité de l'argument, et le fait que la conclusion soit ou non une chose que la personne croit déjà. Si les gens jugeaient uniquement la logique, la crédibilité ne compterait pas. Or elle compte énormément.

Minna Cheves Wilkins en a décrit la première version nette en 1928 : une même forme logique était résolue avec plus ou moins d'exactitude selon le contenu dont on l'habillait. Janis et Frick (1943) ont montré que les attitudes envers une conclusion prédisaient les erreurs dans le jugement de sa validité.

La référence moderne est l'article de 1983 de Jonathan Evans, Julie Barston et Paul Pollard dans Memory & Cognition. Leur plan deux par deux (syllogismes valides et invalides, chacun avec des conclusions crédibles et peu crédibles) a produit un fort effet de croyance, un effet de logique plus faible et une interaction : la crédibilité pesait bien davantage sur les arguments invalides que sur les arguments valides. Cette interaction a lancé un débat de trente ans sur le mécanisme. L'équipe d'Evans a proposé « l'examen sélectif » (on ne vérifie la logique que lorsque la conclusion est peu crédible) et la « nécessité mal interprétée » (les personnes qui ne saisissent pas qu'une conclusion valide doit forcément découler des prémisses se rabattent sur leurs croyances quand la logique paraît indéterminée). Klauer, Musch et Naumer (2000), dans Psychological Review, ont montré que la croyance fait les deux : elle modifie l'étape du raisonnement et ajoute un simple biais de réponse lorsque les gens ne sont pas sûrs.

Puis Dube, Rotello et Heit (2010), dans la même revue, ont appliqué la théorie de la détection du signal et soutenu que la fameuse interaction était en grande partie un artefact de l'analyse des taux d'acceptation dans des tables de contingence. Selon leur lecture, la crédibilité déplace surtout le seuil à partir duquel on dit « valide » et laisse intacte la capacité à distinguer le valide de l'invalide. Trippas, Handley et Verde (2013) ont constaté que cela dépend de la personne qui raisonne : chez les participants plus capables face à des problèmes plus difficiles, la croyance nuisait aussi à la discrimination elle-même. L'effet est donc réel et important, mais une bonne part relève de « les gens abaissent leurs exigences pour les conclusions qui leur plaisent » plutôt que de « la croyance éteint la logique ».

La synthèse d'Evans parue en 2003 dans Trends in Cognitive Sciences a fait du biais de croyance le cas d'école des théories du double processus : un processus rapide guidé par la croyance contre un processus lent et exigeant en effort. Un délai de dix secondes accentuait le biais (Evans et Curtis-Holmes, 2005) ; charger la mémoire de travail ne dégradait la performance que là où la logique et la croyance s'opposaient (De Neys, 2006) ; la résistance au biais était corrélée aux aptitudes cognitives et à la pensée activement ouverte (Stanovich et West, 1997).

Grandes étapes :

• 1928 : Wilkins montre que le contenu d'un syllogisme modifie la qualité du raisonnement
• 1943 : Janis et Frick relient les attitudes envers une conclusion aux erreurs de jugement de validité
• 1983 : Evans, Barston et Pollard publient le protocole deux par deux et mettent au jour l'interaction logique-croyance
• 1989 : Markovits et Nantel mettent en évidence le biais lorsque les participants produisent leurs propres conclusions
• 1997 : Stanovich et West associent les différences individuelles aux capacités cognitives et aux dispositions de pensée
• 2000 : Klauer, Musch et Naumer distinguent les effets sur le raisonnement du biais de réponse
• 2003 : Revue d'Evans sur le double processus ; Goel et Dolan observent en imagerie les régions cérébrales impliquées
• 2005 et 2006 : Des études montrent que la pression temporelle et la charge en mémoire de travail accroissent le biais
• 2010 : Dube, Rotello et Heit réinterprètent l'effet classique comme résultant principalement d'un biais de réponse
• 2013 : Trippas et ses collègues montrent que l'aptitude et la difficulté du problème déterminent la part imputable au raisonnement

2.2. Chercheurs clés

2.3. Études fondatrices

« On the conflict between logic and belief in syllogistic reasoning » (Evans, Barston & Pollard, 1983)

Les participants devaient juger si les conclusions découlaient nécessairement des prémisses. Un exemple valide mais non crédible : « Aucun aliment nutritif n'est bon marché. Certains comprimés de vitamines sont bon marché. Donc, certains comprimés de vitamines ne sont pas nutritifs. » Un exemple invalide mais crédible : « Aucune substance addictive n'est bon marché. Certaines cigarettes sont bon marché. Donc, certaines substances addictives ne sont pas des cigarettes. »

Dans la première expérience, les taux d'acceptation atteignaient environ 89 % pour la combinaison valide-crédible, 56 % pour valide-non crédible, 71 % pour invalide-crédible et 10 % pour invalide-non crédible. L'argument invalide crédible a été accepté plus souvent que l'argument valide non crédible : en duel direct, la croyance a battu la logique. La crédibilité a fait basculer les arguments invalides d'environ 60 points, contre seulement 33 points pour les arguments valides.

« The belief-bias effect in the production and evaluation of logical conclusions » (Markovits & Nantel, 1989)

Markovits et Nantel ont demandé aux participants soit d'évaluer des conclusions fournies, soit de produire les leurs à partir des prémisses. Le biais de croyance est apparu dans les deux tâches, y compris chez des participants qui raisonnaient bien sur des problèmes abstraits, dépourvus de contenu.

« Assessing the belief bias effect with ROCs: It's a response bias effect » (Dube, Rotello & Heit, 2010)

Les participants ont noté leur degré de certitude qu'une conclusion découlait des prémisses, ce qui permet de tracer des courbes ROC (fonction d'efficacité du récepteur) plutôt que de simples taux d'acceptation. Les courbes ROC étaient incurvées, ce qui signifie que l'analyse par tables de contingence employée depuis 1983 peut fabriquer une fausse interaction entre logique et croyance. Une fois l'analyse corrigée, la crédibilité déplaçait le critère de réponse (la propension à dire « valide »), mais pas la sensibilité (la capacité à distinguer le valide de l'invalide).

Pression temporelle et mémoire de travail (Evans & Curtis-Holmes, 2005 ; De Neys, 2006)

Evans et Curtis-Holmes ont imposé à la moitié de leurs participants un délai de dix secondes ; le biais de croyance a augmenté et l'effet de la logique a diminué. De Neys a demandé à des participants de retenir une configuration de points tout en raisonnant ; cette charge n'a réduit l'exactitude que sur les syllogismes où la croyance et la logique entraient en conflit. Priver le traitement réfléchi de temps ou de mémoire faisait apparaître davantage de biais de croyance, comme le prédit la théorie du double processus.

2.4. Bases neurologiques

La littérature d'imagerie consacrée au biais de croyance est mince mais cohérente sur un point : passer outre une conclusion crédible mobilise une autre partie du cerveau que s'y ranger.

Goel et Dolan (2003), dans Cognition, ont étudié en imagerie cérébrale des participants raisonnant sur des syllogismes dont les conclusions concordaient ou non avec leurs croyances. Quand la croyance et la logique entraient en conflit et que les participants raisonnaient correctement, l'activité augmentait dans le cortex préfrontal latéral droit, une région associée au contrôle cognitif. Quand les participants donnaient la réponse dictée par la croyance, le cortex préfrontal ventromédian, lié à l'affect et à l'évaluation intuitive, était davantage sollicité. De Neys, Vartanian et Goel (2008), dans Psychological Science, ont constaté que le cortex cingulaire antérieur, qui réagit aux conflits entre réponses concurrentes, s'activait lors des essais conflictuels même lorsque les participants donnaient la réponse biaisée. Le cerveau enregistre que quelque chose cloche même quand la personne n'en tient pas compte ; l'échec relève plus souvent de l'inhibition que de la détection.

Il s'agit d'une poignée d'études aux échantillons modestes, qui décrivent des réseaux de contrôle généralistes plutôt qu'un « circuit du biais de croyance ». Ce qu'elles appuient, c'est le récit comportemental : les réponses fondées sur la croyance ne coûtent pas grand-chose, et passer outre par la logique demande un effort.

3. Origines évolutives

Raisonner à partir de prémisses auxquelles on ne croit pas est une étrange exigence pour un cerveau. Pendant presque toute l'histoire humaine, la question utile face à une affirmation était « est-ce vrai ? », et le chemin le plus rapide vers la réponse consistait à la confronter à ce que l'on savait déjà. Un chasseur qui entendait « la rivière est haute, donc le passage est dangereux » n'avait pas besoin d'évaluer l'inférence ; il avait besoin de savoir si la rivière était haute.

Nos croyances préalables sont aussi, en moyenne, bien fondées. Si une conclusion contredit une chose que vous croyez depuis des années, la fréquence de base indique que l'argument a plus de chances de contenir une erreur que votre croyance. Écarter vite les conclusions surprenantes épargne de l'effort et donne le plus souvent raison. Mais « le plus souvent », c'est une maigre consolation dans les cas où un raisonnement solide mène quelque part d'inattendu.

Hugo Mercier et Dan Sperber ont soutenu que le raisonnement a évolué en grande partie pour produire et évaluer des arguments dans la conversation. Être indulgent avec les arguments favorables à son camp et sévère avec ceux qui le contredisent correspond à peu près à ce qu'on attendrait d'une faculté conçue pour persuader plutôt que pour prouver.

4. Comment ce biais se manifeste

4.1. Dans la vie quotidienne

• Approuver d'un hochement de tête le raisonnement d'un ami parce que vous êtes d'accord avec sa conclusion, sans remarquer qu'il saute une étape
• Rejeter l'explication solide d'un garagiste ou d'un médecin parce que sa conclusion (« il faut remplacer tout le bloc ») est malvenue
• Partager une publication à la logique désastreuse parce que sa chute correspond à vos opinions politiques
• Trouver une argumentation statistique convaincante jusqu'à ce qu'elle aboutisse à un chiffre inattendu, puis se mettre soudain à chercher la faille

4.2. Dans le milieu professionnel

• Valider un plan parce que les prévisions ressemblent à celles que la direction souhaite, sans vérifier si les hypothèses les justifient
• Décortiquer l'analyse d'un collègue uniquement lorsqu'elle formule une recommandation à laquelle vous êtes opposé
• Des revues de code et des audits rigoureux pour les résultats surprenants et superficiels pour les résultats attendus

4.3. Dans les affaires et le marketing

• Des publicités qui énoncent une conclusion que les clients souhaitent déjà (« naturel signifie sans danger ») et les laissent combler eux-mêmes la logique manquante
• Des présentations commerciales bâties sur des prémisses vraies et une conclusion qui n'en découle pas, en comptant sur l'envie du public d'y croire
• Des témoignages qui fonctionnent parce que l'auditeur veut que le produit marche, si bien que le saut de « cela l'a aidée » à « cela m'aidera » n'est pas examiné

4.4. En politique et dans les médias

Le débat politique est le milieu naturel du biais de croyance. Presque chaque auditeur arrive avec une conclusion, et la question de savoir si le raisonnement de l'orateur tient est couramment remplacée par celle de savoir s'il a abouti là où l'auditeur le voulait. La même tribune est « bien argumentée » pour ceux qui sont d'accord et « pleine de trous » pour ceux qui ne le sont pas, sans qu'aucun des deux groupes ait vérifié les trous.

Parmi les manifestations typiques :

• Des titres qui affirment une conclusion que le public partage déjà, si bien que le maigre travail journalistique qui suit n'est jamais lu
• Une notation des débats par des partisans qui suit les conclusions de chaque orateur plutôt que la qualité de ses arguments
• Le rejet de statistiques dérangeantes par un « ça ne peut pas être juste » avant toute vérification de la méthode
• Des rectificatifs au raisonnement valide mais à la conclusion malvenue, rejetés sur la seule foi de leur conclusion

4.5. Dans le secteur de la santé

Les cliniciens raisonnent toute la journée des observations aux diagnostics, et un diagnostic qui correspond au tableau attendu est accepté sur des preuves plus faibles qu'un diagnostic qui n'y correspond pas. Un jeune patient anxieux qui souffre d'une douleur thoracique reçoit une explication de crise de panique ; l'inférence de « anxieux et jeune » à « pas cardiaque » n'est pas valide, mais elle est crédible. L'inverse se produit aussi : un argument solide montrant qu'un traitement familier ne marche pas se heurte à des résistances parce que la conclusion est malvenue. La médecine fondée sur les preuves existe en partie à cause de la régularité avec laquelle « cela a du sens sur le plan physiologique, donc cela doit aider » a été accepté sans essai. Les patients font de même : un argument en faveur d'un traitement qu'ils préfèrent déjà paraît convaincant, et un argument contre donne l'impression que le médecin passe à côté de quelque chose.

4.6. En finance et investissement

• Accepter une thèse haussière parce que l'objectif de cours correspond à votre position, tandis que la thèse baissière a droit à un audit ligne à ligne
• Tenir pour solide une chaîne causale cassée (« les taux vont baisser, donc cette action va monter ») parce que vous détenez l'action
• Douter d'une évaluation correcte parce que sa conclusion (l'entreprise vaut la moitié de son cours de bourse) paraît absurde

5. Études de cas réels

Étude de cas 1 : Les lettres du problème de Monty Hall

• Contexte : En septembre 1990, Marilyn vos Savant répondit à la question d'un lecteur dans sa chronique du magazine Parade. Un candidat doit choisir parmi trois portes ; l'une dissimule une voiture, les deux autres des chèvres. L'animateur, qui sait ce qui se trouve derrière chaque porte, en ouvre une autre révélant une chèvre et propose au candidat de changer de choix. Vos Savant recommanda de changer : cela permet de gagner deux fois sur trois.
• Ce qui s'est passé : Sa réponse était exacte et son explication solide, mais la conclusion parut absurde à la plupart des lecteurs. Elle reçut environ dix mille lettres, dont près d'un millier de lecteurs titulaires d'un doctorat, lui affirmant qu'elle se trompait. Le mathématicien Paul Erdős aurait refusé d'accepter la démonstration tant qu'on ne lui eut pas montré une simulation informatique.
• Le biais en action : L'argument était valide ; la conclusion était peu crédible. Des lecteurs qui auraient accepté un argument bâclé en faveur de la réponse « évidente » (deux portes restantes, donc une chance sur deux) rejetèrent un argument soigné en faveur de la réponse contre-intuitive. Ils furent d'abord en désaccord, puis supposèrent qu'il devait y avoir une faille.
• Conséquences : L'épisode est devenu une illustration classique de la conviction préalable qui l'emporte sur l'inférence, même chez des personnes formées au raisonnement formel.
• Leçons apprises : Le sentiment « ça ne peut pas être juste » ne vous dit rien sur l'argument. Quand une conclusion semble absurde, trouvez l'étape précise qui échoue. Si vous n'y arrivez pas, la conclusion tient.

Étude de cas 2 : Petit-déjeuner et obésité

• Contexte : La croyance selon laquelle sauter le petit-déjeuner favorise la prise de poids est très répandue, et des dizaines d'études observationnelles ont rapporté que les personnes qui sautent ce repas ont tendance à peser plus lourd.
• Ce qui s'est passé : En 2013, Andrew Brown, Michelle Bohan Brown et David Allison ont publié dans l'American Journal of Clinical Nutrition une analyse de la manière dont la littérature scientifique avait traité la question. Les chercheurs décrivaient à répétition l'association observationnelle en termes causaux, citaient des études antérieures comme ayant montré un effet qu'elles n'avaient pas montré, et négligeaient les rares essais randomisés, qui n'appuyaient pas la croyance.
• Le biais en action : L'inférence de « ceux qui sautent le petit-déjeuner pèsent plus » à « sauter le petit-déjeuner fait grossir » est invalide à première vue ; ceux qui le sautent diffèrent de ceux qui le prennent à bien des égards. Mais la conclusion était crédible, si bien que l'inférence invalide a été acceptée et répétée par des personnes dont le métier est d'évaluer les preuves.
• Conséquences : Les conseils alimentaires grand public ont véhiculé une affirmation causale que les essais n'étayaient pas.
• Leçons apprises : Une formation aux méthodes de recherche ne désactive pas le biais de croyance ; elle change le vocabulaire dans lequel les conclusions crédibles passent sans examen.

Exemple historique : Aristote, Galilée et la chute des pierres

Pendant environ deux mille ans, les Européens instruits ont accepté l'affirmation d'Aristote selon laquelle les corps lourds tombent plus vite que les corps légers, proportionnellement à leur poids. Cela correspondait à l'expérience : une pierre touche bien le sol avant une plume. Les arguments en sa faveur étaient faibles, et Jean Philopon avait déjà noté au sixième siècle que lâcher deux poids ne montre rien qui ressemble à une différence proportionnelle. Mais la conclusion était crédible, si bien que les arguments ne furent pas examinés de près.

Galilée l'a attaquée par la logique. Dans ses Discours concernant deux sciences nouvelles (1638), par la voix de son personnage Salviati, il proposa d'attacher une pierre lourde à une pierre légère. Si les corps plus lourds tombent plus vite, la pierre légère devrait freiner la lourde, si bien que l'ensemble tomberait plus lentement que la pierre lourde seule. Mais l'ensemble est plus lourd que la pierre lourde seule, et devrait donc, selon la même règle, tomber plus vite. La prémisse engendre une contradiction ; elle doit donc être fausse.

C'est la case valide et peu crédible en costume d'époque. L'argument de Galilée était solide, sa conclusion difficile à avaler, et nombre de ses contemporains l'ont rejeté sur la seule foi de sa conclusion.

6. Le coût de ce biais

6.1. Coûts personnels

• De l'argent perdu à cause d'argumentaires dont le seul mérite était une conclusion que vous vouliez entendre
• Des décisions de santé fondées sur des arguments jamais vérifiés parce qu'ils aboutissaient là où vous l'espériez
• Un apprentissage lent, car les arguments qui vous feraient changer d'avis sont rejetés dès l'étape de la conclusion

6.2. Coûts professionnels

• Des plans bancals approuvés parce que leurs prévisions correspondaient aux attentes
• Un examen rigoureux réservé aux résultats surprenants, si bien que les erreurs dans les résultats attendus passent
• Des diagnostics, audits et enquêtes qui confirment la réponse soupçonnée sur des bases insuffisantes
• Des équipes qui cessent de présenter des analyses solides mais malvenues parce qu'elles ont appris qu'elles seront rejetées

6.3. Coûts sociétaux

• Un débat public où les arguments sont notés d'après leur conclusion, si bien que la qualité du raisonnement ne compte plus
• Une désinformation qui se propage parce que ses conclusions sont crédibles pour le public visé, quelle que soit la logique
• Une science qui surestime les résultats bienvenus et examine à l'excès les résultats malvenus

6.4. Impact statistique

• Dans l'étude d'Evans, Barston et Pollard (1983), les conclusions invalides mais crédibles étaient acceptées dans environ 71 % des cas, contre environ 56 % pour les conclusions valides mais non crédibles
• Evans et Curtis-Holmes (2005) : une limite temporelle de dix secondes a accru le biais de croyance et réduit l'influence de la logique
• De Neys (2006) : une charge simultanée en mémoire de travail a diminué l'exactitude sur les syllogismes conflictuels, sans affecter les syllogismes non conflictuels
• Kahneman rapporte qu'une majorité d'étudiants juge valide le syllogisme « Toutes les roses sont des fleurs ; certaines fleurs fanent vite ; donc certaines roses fanent vite », alors qu'il est logiquement invalide

7. Les bénéfices cachés

Le biais de croyance est le prix d'une politique généralement sensée : pondérer les nouveaux arguments selon la manière dont leur conclusion s'accorde avec tout ce que l'on sait par ailleurs.

• Les croyances préalables sont des indices : Une conclusion qui contredit une croyance bien étayée a réellement plus de chances de venir d'un argument défectueux que d'un argument correct. Traiter la surprise comme un signal pour regarder de plus près est rationnel ; l'erreur est de la traiter comme un verdict.

• Une protection contre les absurdités astucieuses : Le lecteur qui rejette une élégante démonstration que 1 égale 2 sans trouver la division par zéro cachée a quand même raison de la rejeter.

• La stabilité des connaissances : Si tout argument bien formé pouvait renverser une croyance, vous changeriez d'avis à chaque orateur persuasif.

Ces avantages tiennent quand vos croyances préalables sont exactes et que les enjeux sont faibles. Ils cèdent quand la croyance est elle-même en question, quand l'argument vient de quelqu'un de mieux informé et quand le coût du rejet d'une conclusion valide est élevé.

8. Auto-évaluation : avez-vous ce biais ?

8.1. Liste des signaux d'alerte

• Vous vous souvenez rarement d'un raisonnement qui vous a fait changer d'avis sur un sujet qui vous tenait à cœur
• Quand quelqu'un aboutit à une conclusion avec laquelle vous êtes d'accord, vous vérifiez rarement comment il y est arrivé
• Quand quelqu'un aboutit à une conclusion avec laquelle vous n'êtes pas d'accord, votre première pensée est « où est le piège ? »
• Vous qualifiez les arguments qui vous déplaisent de « manifestement faux » sans pouvoir nommer la faille
• Vous trouvez les statistiques convaincantes jusqu'à ce qu'elles mènent à un résultat inattendu
• Vous avez déjà partagé un article pour sa conclusion avant de constater que son raisonnement était médiocre
• Vous jugez un débat d'après le camp avec lequel vous étiez d'accord au départ
• Vous considérez vos collègues comme de « bons penseurs » surtout lorsqu'ils sont d'accord avec vous
• Vous vous contentez d'un « cela va de soi » en guise de justification dès lors que l'affirmation vous arrange
• Vérifier la logique d'un argument en faveur d'une chose que vous croyez déjà vous semble une perte de temps

Interprétation des résultats :

• De 0 à 2 cases cochées : Faible propension
• De 3 à 5 cases cochées : Propension modérée
• De 6 à 8 cases cochées : Forte propension
• De 9 à 10 cases cochées : Très forte propension

8.2. Questions d'autoréflexion

1. Pensez au dernier argument que vous avez rejeté rapidement. Pouvez-vous énoncer, en une phrase, l'étape précise qui échouait ?
2. Pour laquelle de vos convictions fermes n'avez-vous jamais vu de bon argument ? Reconnaîtriez-vous un mauvais argument en leur faveur ?
3. À quand remonte la dernière fois où vous avez accepté la conclusion de quelqu'un dont vous vous méfiez parce que son raisonnement était solide ?
4. Choisissez une conviction que vous avez et imaginez qu'un ami présente exactement les mêmes éléments pour la conclusion inverse. Quelles objections soulèveriez-vous ? S'appliquent-elles à votre propre camp ?
5. Dans votre travail, quels résultats sont vérifiés deux fois et lesquels passent sans examen ? La différence tient-elle aux preuves ou à la réponse ?

8.3. Scénario de diagnostic rapide

Scénario : Un collègue que vous jugez peu rigoureux présente une analyse concluant que le projet phare de votre équipe devrait être abandonné. Les diapositives sont claires et les chiffres proviennent de sources auxquelles vous vous fiez. Vous vous attendiez à ce que le projet se porte bien.

Comment réagiriez-vous ?

• A) Présumer qu'une erreur s'est glissée quelque part, rappeler que cette personne se trompe souvent et demander à un tiers de refaire l'analyse → Forte propension
• B) Être fermement convaincu que la conclusion est fausse, mais accepter de réexaminer la question une fois que l'équipe projet aura répondu → Propension modérée
• C) Examiner l'argument étape par étape et, si aucune étape n'échoue, accepter provisoirement la conclusion et planifier en conséquence → Faible propension

9. Identifier ce biais chez les autres

9.1. Indicateurs comportementaux

• Répond aux arguments par des verdicts sur la conclusion plutôt que par des commentaires sur les étapes
• Applique des niveaux d'exigence visiblement différents selon le sens dans lequel penche un résultat
• Ne parvient pas à situer la faille d'un argument qu'il rejette, mais reste certain qu'il en a une
• Ne demande des preuves supplémentaires que lorsque les preuves sont malvenues

9.2. Signaux d'alerte verbaux

Phrases typiques sous l'emprise de ce biais :

• « Pas besoin de voir l'argument, je sais que c'est faux. »
• « Ça ne peut pas être juste. »
• « Je suis sûr qu'il y a une faille quelque part. »

Types d'arguments avancés :

• Des attaques contre la conclusion présentées comme des réfutations du raisonnement
• Des exigences de preuve qui ne sont jamais formulées pour les affirmations amies

Questions évitées :

• « Avec quelle étape exactement suis-je en désaccord ? »
• « Accepterais-je ce raisonnement s'il aboutissait à la conclusion inverse ? »

9.3. Déclencheurs situationnels

• Les sujets sur lesquels l'auditeur a déjà un avis tranché
• La pression temporelle, la fatigue ou l'attention divisée
• Les conclusions liées à l'identité, à l'appartenance à un groupe ou à l'image de soi
• Les arguments techniques que l'auditeur ne peut pas suivre, qui ramènent le jugement vers la conclusion

10. Stratégies cognitives de débiaisage

10.1. Techniques immédiates

• Séparer les deux questions : Avant de juger un argument, dites à quelle question vous répondez : « La conclusion est-elle vraie ? » ou « La conclusion découle-t-elle des prémisses ? » Leurs réponses diffèrent étonnamment souvent.
• Nommer l'étape défaillante : Si vous rejetez un argument, désignez la prémisse ou l'inférence qui échoue. Si vous n'y arrivez pas, vous avez rejeté la conclusion, pas l'argument.
• Remplacer le contenu : Remplacez les termes par des lettres neutres ou des mots absurdes et voyez si la structure tient encore. Cela retire la croyance qui faisait le jugement.
• Inverser la conclusion : Demandez-vous si vous accepteriez les mêmes preuves si elles pointaient dans l'autre sens. Si ce n'est pas le cas, c'est la conclusion qui fixe votre niveau d'exigence.

10.2. Stratégies à long terme

• Apprendre un peu de logique formelle : Savoir qu'un argument valide aux prémisses vraies ne peut pas avoir de conclusion fausse vous donne autre chose à vérifier que votre intuition. Evans et ses collègues (1994) ont constaté que des consignes insistant sur la nécessité logique réduisaient le biais de croyance, sans toutefois le supprimer.
• S'entraîner sur des problèmes conflictuels : Travaillez des arguments où la logique et la croyance s'opposent, pour que le sentiment de conflit devienne un signal pour réfléchir plutôt qu'un signal pour rejeter.
• Tenir un journal des changements d'avis : Notez les arguments qui vous ont fait bouger, avec l'étape qui l'a fait. Si le journal reste vide pendant un an, c'est que le biais gagne.

10.3. Aménagement de l'environnement

• Masquer la conclusion : Dans les revues et les audits, évaluez la méthode avant que le résultat ne soit révélé, comme le font les rapports préenregistrés en science.
• Des grilles symétriques : Utilisez la même grille écrite pour chaque résultat, bienvenu ou non. Une grille ne sait pas ce que vous espériez.
• Désigner un avocat de la meilleure version : Avant d'écarter une analyse malvenue, demandez à quelqu'un d'en présenter la version la plus solide. Avant d'en accepter une bienvenue, demandez à quelqu'un d'en présenter l'étape la plus faible.
• Récompenser les failles repérées dans les arguments amis : Si l'on ne salue que les failles trouvées dans les arguments adverses, l'examen critique ne s'exercera que dans un sens.

10.4. Quand solliciter un avis externe

• Quand un argument aboutit à une conclusion qui vous tient à cœur, dans un sens ou dans l'autre
• Quand vous rejetez quelque chose comme « manifestement faux » sans pouvoir dire pourquoi
• Quand toutes les personnes présentes sont déjà d'accord avec la conclusion

À qui s'adresser : Quelqu'un qui ne partage pas votre conclusion et qui est compétent sur le sujet. Donnez-lui l'argument sans dire ce que vous en pensez, et posez une seule question : « Quelle étape, s'il y en a une, échoue ? »

11. Exercices pratiques

Exercice 1 : La substitution de contenu

• Objectif : Dissocier la structure d'un raisonnement de la plausibilité de sa conclusion
• Temps requis : 15 minutes
• Matériel nécessaire : Cinq arguments tirés de vos lectures récentes, du papier et un stylo
• Niveau de difficulté : Débutant
• Instructions :
  1. Rédigez chaque argument sous la forme de prémisses et d'une conclusion, le plus simplement possible
  2. Notez votre première réaction à chacun : accepter, rejeter ou incertain
  3. Remplacez chaque mot de contenu par une lettre (A, B, C) ou un mot absurde
  4. Jugez la structure nue : la conclusion découle-t-elle des prémisses ?
  5. Comparez votre première réaction au verdict structurel et notez chaque écart
• Questions de réflexion :
  • Quels arguments aviez-vous acceptés sur la seule foi de leur conclusion ?
  • Les écarts se concentraient-ils sur des sujets qui vous tiennent à cœur ?
• Fréquence : Chaque semaine le premier mois, puis chaque fois qu'un argument provoque une forte réaction

Exercice 2 : Le test d'inversion

• Objectif : Révéler des niveaux d'exigence asymétriques en matière de preuves
• Temps requis : 20 minutes
• Matériel nécessaire : Un élément de preuve ou une argumentation soutenant l'une de vos convictions
• Niveau de difficulté : Intermédiaire
• Instructions :
  1. Rédigez l'argumentation et énumérez toutes les objections qu'un critique pourrait lui adresser (taille d'échantillon, variables confondantes, maillons manquants, fiabilité des sources)
  2. Imaginez que les mêmes preuves pointent vers la conclusion opposée
  3. Écrivez les objections que vous soulèveriez dans ce cas ; soyez honnête et précis
  4. Toute objection qui n'apparaît que sur la seconde liste est un critère que vous appliquez de manière sélective
  5. Appliquez la liste combinée à l'argument initial et notez s'il y résiste
• Questions de réflexion :
  • À quel point les deux listes différaient-elles ?
  • L'argument initial a-t-il résisté à la liste combinée ?
• Fréquence : Une fois par mois, en variant les croyances évaluées

Exercice 3 : Entraînement aux syllogismes conflictuels

• Objectif : Gagner en aisance pour juger la validité quand la croyance tire dans l'autre sens
• Temps requis : 10 minutes
• Matériel nécessaire : Un lot de syllogismes couvrant les quatre combinaisons possibles (valide/invalide, crédible/non crédible)
• Niveau de difficulté : Intermédiaire
• Instructions :
  1. Mélangez les énoncés afin de ne pas pouvoir anticiper leur catégorie
  2. Pour chaque énoncé, déterminez si la conclusion est forcément vraie lorsque les prémisses le sont ; ignorez si elle est vraie dans le monde
  3. Indiquez pour chaque réponse votre degré de certitude
  4. Vérifiez avec le corrigé et classez les erreurs par type
  5. Pour chaque erreur, rédigez un contre-exemple (une situation où les prémisses sont vérifiées mais où la conclusion est fausse)
• Questions de réflexion :
  • Vos erreurs se concentrent-elles sur les cas invalides-crédibles, les cas valides-non crédibles, ou les deux ?
  • Votre certitude suivait-elle l'exactitude, ou la crédibilité ?
• Fréquence : Deux fois par semaine pendant six semaines

Pratique quotidienne

La question « Quelle étape ? »

Une fois par jour, quand vous vous surprenez à accepter ou rejeter rapidement un argument, arrêtez-vous et demandez-vous : « Quelle étape suis-je en train de juger, au juste ? » Si la réponse honnête est « la conclusion », revenez aux prémisses.

• Durée suggérée : 1 à 2 minutes chaque fois que la situation se présente
• Moment idéal : Chaque fois que vous lisez l'actualité, parcourez les réseaux sociaux ou êtes en réunion
• Suivi des progrès : Comptez les jours où vous vous êtes pris sur le fait et notez ce que vous avez trouvé en regardant

Défi hebdomadaire

Défendre au mieux l'autre camp

Chaque semaine, choisissez un argument en faveur d'une conclusion que vous rejetez et écrivez-en la version la plus solide avec vos propres mots, sous forme de prémisses et de conclusion. Puis identifiez la seule étape avec laquelle vous êtes en désaccord, et pourquoi.

• Résultats attendus après 4 semaines : Plus de rapidité à situer le vrai point de désaccord ; moins de rejets en bloc
• Pistes de réflexion pour votre journal :
  • Quels raisonnements se sont avérés plus solides que je ne le supposais ?
  • Dans quels cas n'ai-je pas pu nommer l'étape défaillante ?
  • L'une de mes propres convictions a-t-elle évolué ?

12. Pour des publics spécifiques

Pour les dirigeants et managers

• Le piège de la réponse attendue : Les analyses qui confirment le plan font l'objet d'un examen plus léger que celles qui le menacent. Imposez le même examen aux deux.
• Récompenser la rigueur malvenue : Saluez publiquement la personne qui a trouvé la faille dans l'argument que tout le monde aimait.
• Organisation des réunions : Demandez aux intervenants d'énoncer leurs prémisses avant leur recommandation, et faites évaluer les prémisses en premier.

Pour les parents et éducateurs

• Explication adaptée à l'âge : « Parfois, un raisonnement a l'air juste parce que la réponse nous plaît déjà. Quelqu'un qui réfléchit bien vérifie les étapes, même quand il est d'accord avec la fin. »
• Enseigner la substitution : Montrez aux enfants comment remplacer les mots d'un argument par des mots absurdes pour voir si les étapes marchent encore.
• Donner l'exemple : Quand un enfant présente un argument solide en faveur d'une chose que vous aviez refusée, dites-le et changez votre décision. Il apprend que la logique peut gagner.

Pour les professionnels de santé

• Le biais de croyance diagnostique : Un diagnostic qui correspond au tableau attendu est accepté sur moins de preuves. Énoncez explicitement l'inférence qui va des observations au diagnostic et demandez-vous si elle tiendrait pour un patient qui ne correspondrait pas au tableau.
• Les arguments thérapeutiques : « Cela a du sens sur le plan physiologique » est une prémisse, pas une conclusion. Exigez des preuves issues d'essais, surtout pour les traitements que vous appréciez.
• Communication avec les patients : Les patients jugent votre raisonnement selon que la conclusion leur plaît ou non. Détaillez-leur les étapes et invitez-les à dire de quelle étape ils doutent.

Pour les professionnels de la finance

• Une diligence symétrique : Appliquez la même grille écrite aux thèses haussières et baissières.
• Un examen qui tient compte des positions : Détenir une position fait paraître solides les arguments en sa faveur. Faites vérifier la logique par quelqu'un qui ne détient pas la position.
• Conclusions contre-intuitives : Les arguments de valorisation qui aboutissent à des chiffres « absurdes » méritent une vérification étape par étape, pas un rejet.

13. Interactions avec d'autres biais

Biais qui amplifient celui-ci

Biais qui contrecarrent celui-ci

Chaînes de biais courantes

Biais de confirmation → Biais de croyance → Persévérance de la croyance → Effet retour de flamme

Une personne recherche des informations qui appuient une opinion (biais de confirmation), accepte des arguments faibles en sa faveur parce que la conclusion convient (biais de croyance), garde l'opinion après que son appui d'origine a été discrédité parce que les arguments acceptés ressemblent désormais à des raisons indépendantes (persévérance de la croyance), et réagit à une correction en tenant encore plus fermement à son opinion (effet retour de flamme).

Interrompre la chaîne : La rupture la moins coûteuse se situe au deuxième maillon. Se demander « est-ce que cela découle des prémisses ? » avant d'accepter un argument en faveur d'une conclusion qui vous plaît empêche les arguments faibles de s'empiler en raisons apparentes qui résisteront plus tard à la correction.

14. Perspectives culturelles

Les études sur les syllogismes à l'origine du biais de croyance ont été menées en écrasante majorité auprès d'étudiants en Grande-Bretagne, en Amérique du Nord et en Europe de l'Ouest, et la tâche elle-même, raisonner à partir de prémisses auxquelles on ne croit pas, est une compétence acquise à l'école plutôt qu'une compétence universelle.

Les preuves les plus nettes viennent d'études de terrain du milieu du siècle dernier. Alexandre Louria, qui travaillait dans les campagnes d'Ouzbékistan au début des années 1930, soumettait à des paysans non scolarisés des problèmes comme : « Dans le Grand Nord, où il y a de la neige, tous les ours sont blancs. La Nouvelle-Zemble est dans le Grand Nord. De quelle couleur y sont les ours ? » Beaucoup refusaient de répondre à partir des prémisses : ils n'étaient jamais allés dans le Nord, n'avaient vu que des ours noirs et ne diraient pas de quelle couleur est un animal sur la parole d'un inconnu. Sylvia Scribner a trouvé le même « biais empirique » chez les Kpellés du Liberia dans les années 1970, et il s'estompait après quelques années d'école. Ce n'étaient pas des défaillances de l'intelligence. C'était une attitude raisonnable face à des affirmations non vérifiées.

L'enseignement formel entraîne l'attitude inverse : tenir les prémisses pour données, mettre de côté ce que l'on sait, tester l'inférence. Le biais de croyance, tel qu'on le mesure en laboratoire, est ce qui reste de l'attitude empirique chez des personnes à qui l'on a enseigné l'attitude théorique. Les comparaisons interculturelles directes de son ampleur dans les populations modernes sont rares, et les affirmations sur les sociétés qui y seraient plus sujettes relèvent de la conjecture.

15. Mythes et idées reçues

16. Regards d'experts

« L'entendement humain, lorsqu'il a une fois adopté une opinion (soit comme opinion reçue, soit comme lui étant agréable), entraîne toutes les autres choses à la soutenir et à s'accorder avec elle. » — Francis Bacon, Novum Organum (1620), Livre I, Aphorisme 46

Lorsque les gens croient qu'une conclusion est vraie, ils sont aussi très enclins à croire les arguments qui semblent l'appuyer, même quand ces arguments ne tiennent pas. (paraphrase) — Daniel Kahneman, Thinking, Fast and Slow, à propos du syllogisme des roses

Bien raisonner sur une affirmation exige souvent de la découpler de ce que l'on croit déjà, de la tenir à distance comme une hypothèse plutôt que comme un fait ; ce découplage demande un effort, et la disposition à le faire est distincte de l'intelligence brute. (paraphrase) — Keith Stanovich, Rationality and the Reflective Mind

17. Points clés à retenir

1. Deux questions différentes : « La conclusion est-elle vraie ? » et « La conclusion découle-t-elle des prémisses ? » semblent ne former qu'une question, et ce n'est pas le cas. Le biais de croyance, c'est répondre à la première quand on vous a posé la seconde.

2. Cela joue dans les deux sens : Les conclusions crédibles font accepter des arguments faibles ; les conclusions peu crédibles font rejeter des arguments solides.

3. Réel, répliqué et en partie un biais de réponse : Une grande part de l'effet est un déplacement du seuil pour dire « valide » plutôt qu'une perte de la capacité à distinguer le valide de l'invalide, même si de véritables effets sur le raisonnement apparaissent dans les problèmes plus difficiles.

4. L'effort est le levier : La pression temporelle et la charge en mémoire de travail accroissent le biais ; les consignes, les aptitudes et les dispositions à l'ouverture d'esprit le réduisent.

5. L'expertise ne vaccine pas : Des mathématiciens ont rejeté l'argument de Monty Hall ; des chercheurs en nutrition ont accepté un récit causal que les essais n'appuyaient pas.

6. Nommer l'étape : Refusez de rejeter un argument tant que vous ne pouvez pas montrer l'étape qui échoue, et refusez d'en accepter un tant que vous n'avez pas vérifié qu'aucune n'échoue.

7. Concevoir pour la symétrie : Masquez la conclusion quand vous le pouvez, et utilisez la même grille pour les résultats bienvenus et malvenus.

18. Ressources complémentaires

Articles scientifiques

• Evans, J. St. B. T., Barston, J. L., & Pollard, P. (1983). On the conflict between logic and belief in syllogistic reasoning. Memory & Cognition, 11(3), 295-306.
• Klauer, K. C., Musch, J., & Naumer, B. (2000). On belief bias in syllogistic reasoning. Psychological Review, 107(4), 852-884.
• Dube, C., Rotello, C. M., & Heit, E. (2010). Assessing the belief bias effect with ROCs: It's a response bias effect. Psychological Review, 117(3), 831-863.
• De Neys, W. (2006). Dual processing in reasoning: Two systems but one reasoner. Psychological Science, 17(5), 428-433.
• Trippas, D., Handley, S. J., & Verde, M. F. (2013). The SDT model of belief bias: Complexity, time, and cognitive ability mediate the effects of believability. Journal of Experimental Psychology: Learning, Memory, and Cognition, 39(5), 1393-1402.

Ouvrages

• Evans, J. St. B. T. (1989). Bias in Human Reasoning: Causes and Consequences. Lawrence Erlbaum Associates.
• Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.
• Stanovich, K. E. (2011). Rationality and the Reflective Mind. Oxford University Press.

Chapitres d'ouvrages

• Evans, J. St. B. T. (2004). Biases in deductive reasoning. In R. F. Pohl (Ed.), Cognitive Illusions: A Handbook on Fallacies and Biases in Thinking, Judgement and Memory. Psychology Press.

19. Fiche récapitulative

20. Glossaire des termes utilisés

21. Questions de discussion

Pour les clubs de lecture, les salles de classe ou la réflexion personnelle :

1. Pensez à un argument que vous avez rejeté rapidement au cours du dernier mois. Pouvez-vous maintenant nommer l'étape exacte qui échouait ?

2. La réanalyse par la détection du signal suggère qu'une grande part du biais de croyance est un niveau d'exigence abaissé pour les conclusions bienvenues plutôt qu'une défaillance de la logique. Cela le rend-il plus ou moins inquiétant pour le débat public ?

3. Les paysans ouzbeks de Louria refusaient de dire de quelle couleur étaient les ours d'un endroit où ils n'étaient jamais allés. Raisonnaient-ils mal, ou raisonnaient-ils sensément au sujet des affirmations d'un inconnu ?

4. Près d'un millier de docteurs ont dit à Marilyn vos Savant qu'elle se trompait sur le problème de Monty Hall. Qu'est-ce que cela dit de l'expertise et du biais de croyance ?

5. Si vous pouviez changer une seule chose dans la manière dont votre lieu de travail ou votre classe évalue les arguments, pour que le raisonnement compte plus que les conclusions, laquelle serait-ce ?

Dernière mise à jour : 18 octobre 2026