Aversion pour les algorithmes (Algorithm Aversion)

En un coup d'œil

1. Résumé rapide

L'aversion pour les algorithmes décrit ce qui se produit lorsqu'un modèle prévisionnel commet une seule erreur et que nous cessons de l'utiliser, alors même que le prévisionniste humain vers lequel nous nous tournons se trompe plus souvent. Berkeley Dietvorst, Joseph Simmons et Cade Massey ont baptisé ce phénomène en 2015 après avoir observé des participants délaisser un modèle statistique qui les surpassait, pour l'unique raison qu'ils l'avaient vu faillir. Quatre ans plus tard, Jennifer Logg, Julia Minson et Don Moore ont mis en évidence l'effet inverse : lorsque les participants n'avaient pas été témoins d'un échec de l'algorithme et que la tâche portait sur des faits objectifs plutôt que sur des préférences subjectives, ils suivaient les conseils algorithmiques plus volontiers que les avis humains. Les erreurs visibles, les tâches subjectives et l'expertise personnelle favorisent l'aversion ; les tâches objectives et un bilan sans faute favorisent l'appréciation. Comme les règles statistiques égalent ou surpassent le jugement d'experts dans la plupart des comparaisons directes depuis les années 1950, l'aversion nous coûte en exactitude et l'appréciation nous coûte en vigilance.

En clair

L'aversion pour les algorithmes, c'est laisser tomber les conseils d'un ordinateur la première fois qu'il se trompe, même s'il a encore raison plus souvent qu'une personne. L'inverse, c'est faire trop confiance à un ordinateur quand tu ne l'as jamais vu se tromper. Les deux viennent de la même habitude : nous jugeons les machines avec une règle plus stricte que les gens.

Imagine que l'application de cartes de ton téléphone t'envoie sur une route qui se révèle fermée. Tu es en retard et agacé, et tu décides que l'application ne sert à rien. Le lendemain, tu demandes plutôt ton chemin à un ami. Avec lui, tu te perds deux fois, mais ça te paraît normal, parce que tout le monde fait des erreurs. L'application, elle, a fait une seule erreur et tu l'as rayée pour toujours.

Voici une astuce pour repérer ce piège. Quand quelque chose te déçoit, pose une question toute simple : « Sur les dix dernières fois, qui a eu raison le plus souvent ? » Compte honnêtement. Si l'application gagne huit fois sur dix et ton ami cinq fois, l'application reste le meilleur choix. Et si tu n'as jamais vu l'application se tromper, ça mérite aussi qu'on y regarde de plus près, parce que rien n'a raison à chaque fois.

2. La science derrière ce biais

2.1. Découverte et histoire

L'histoire commence bien avant que le terme « algorithme » n'apparaisse dans un article de psychologie. En 1954, le psychologue clinicien Paul Meehl publie un court ouvrage dérangeant intitulé Clinical versus Statistical Prediction. Il y rassemble la vingtaine d'études alors disponibles comparant des cliniciens formés à de simples formules statistiques : dans la quasi-totalité des cas, la formule égale ou surpasse le praticien. La pratique clinique n'a pourtant guère évolué ; les cliniciens ont trouvé des raisons de se méfier des tables, et cette résistance a constitué la première démonstration à grande échelle de ce biais, des décennies avant qu'il ne porte un nom.

Les preuves se sont ensuite accumulées. En 2000, William Grove et ses collègues ont publié une méta-analyse portant sur 136 études comparant prédiction clinique et prédiction mécanique. La prédiction mécanique s'est révélée environ 10 % plus précise en moyenne : elle l'emportait nettement dans près de la moitié des comparaisons, faisait jeu égal dans la plupart des autres et ne s'inclinait clairement que dans une poignée de cas.

La démonstration expérimentale en laboratoire a eu lieu en 2015. Dietvorst, Simmons et Massey, alors à l'université de Pennsylvanie, ont mené des expériences de prévision rémunérées à la performance et ont forgé l'expression « algorithm aversion » (aversion pour les algorithmes). Les participants invités à choisir entre leurs propres prévisions et celles d'un modèle statistique se montraient beaucoup moins enclins à choisir le modèle dès lors qu'ils l'avaient vu commettre des erreurs, même après avoir constaté qu'il prédisait mieux qu'eux.

Le domaine s'est ensuite compliqué, ce que font les domaines en bonne santé. L'article de 2019 de Logg, Minson et Moore sur l'« appréciation des algorithmes » (algorithm appreciation) a montré que les profanes ajustaient davantage leur avis face à un conseil qualifié d'algorithmique que face à un conseil présenté comme humain, bien que l'effet s'atténue chez les experts. Les revues systématiques de Jussupow, Benbasat et Heinzl (2020), de Burton, Stein et Jensen (2020) et de Mahmud et ses collègues (2022) ont abouti au même verdict : l'aversion est réelle, mais conditionnelle. Un document de travail publié en 2024 par Logg et Schlund a soutenu que la majeure partie de « l'aversion » observée dans la littérature découle de questions portant sur des préférences hypothétiques, alors que les individus confrontés à des choix réels suivent davantage les recommandations algorithmiques qu'humaines. Une méta-analyse de 2025 présentée à la Hawaii International Conference on System Sciences regroupant 32 études d'intervention a constaté une légère réduction moyenne de l'aversion, les gains les plus nets venant d'une modification des modalités d'interaction avec l'algorithme. Au moins une tentative de réplication préenregistrée de l'effet fondamental a par ailleurs échoué.

Grandes étapes :

• 1954 : L'ouvrage de Meehl, Clinical versus Statistical Prediction, montre que les formules égalent ou surpassent les cliniciens, et que ces derniers refusent de les utiliser
• 2000 : La méta-analyse de Grove et de ses collègues sur 136 études révèle que la prédiction mécanique est en moyenne environ 10 % plus précise
• 2015 : Dietvorst, Simmons et Massey forgent le terme « aversion pour les algorithmes »
• 2018 : La même équipe montre que permettre aux utilisateurs de modifier, même légèrement, les résultats d'un modèle rétablit son utilisation
• 2019 : Logg, Minson et Moore publient leurs travaux sur l'« appréciation des algorithmes » ; Castelo, Bos et Lehmann montrent que la subjectivité de la tâche régit la confiance ; Longoni, Bonezzi et Morewedge mettent en évidence la négligence de l'unicité
• 2024-2025 : L'article de réconciliation de Logg et Schlund ainsi qu'une méta-analyse de la conférence HICSS portant sur 32 études d'intervention présentent l'aversion et l'appréciation comme deux réglages d'un même curseur de confiance

2.2. Principaux chercheurs

2.3. Études marquantes

« Algorithm Aversion: People Erroneously Avoid Algorithms After Seeing Them Err » (Dietvorst, Simmons & Massey, 2015)

Les participants devaient prédire les performances futures de candidats à un MBA à partir de leur dossier d'admission, ou estimer le nombre de passagers aériens au départ de chaque État américain. Un modèle statistique conçu à partir des mêmes données était disponible, et certains participants ont pu observer ses résultats avant de choisir sur quelles prévisions indexer leur prime financière. Le modèle a surpassé les humains dans toutes les conditions. Pourtant, les participants qui avaient vu le modèle fonctionner, et qui l'avaient donc vu faire des erreurs, étaient nettement moins enclins à parier sur lui que ceux qui n'avaient rien vu.

« Overcoming Algorithm Aversion » (Dietvorst, Simmons & Massey, 2018)

La même équipe a cherché comment ramener les utilisateurs vers les modèles. Les participants pouvaient utiliser les prévisions du modèle tout en les ajustant, librement dans certaines conditions et de quelques points seulement dans d'autres. Le fait de pouvoir ajuster les résultats, même dans une fourchette étroite, a nettement augmenté la proportion de participants choisissant le modèle, et leurs résultats finaux se sont avérés plus précis que ceux des prévisions humaines isolées. Ce que les gens veulent, c'est avoir leur mot à dire, pas le contrôle total.

« Algorithm Appreciation: People Prefer Algorithmic to Human Judgment » (Logg, Minson & Moore, 2019)

Au cours de six expériences, les participants devaient estimer, par exemple, le poids d'un inconnu sur une photo ou le classement d'une chanson, puis recevaient un conseil présenté comme émanant d'un algorithme ou d'une personne. Les profanes se sont davantage rapprochés du conseil algorithmique. Cet effet s'est atténué lorsque les participants devaient choisir entre l'algorithme et leur propre jugement, et s'est inversé chez les professionnels expérimentés.

2.4. Base neurologique

Les données neuroscientifiques portant spécifiquement sur l'aversion pour les algorithmes demeurent limitées. Les études de référence dans cette littérature sont comportementales ; aucun chercheur n'a encore scanné le cerveau de participants observant un modèle prévisionnel commettre une erreur. Ce qui existe en revanche, c'est un ensemble de résultats établis sur la façon dont le cerveau traite les partenaires humains et non humains.

Les travaux de neuro-imagerie sur les jeux économiques montrent que les zones cérébrales liées à la mentalisation, en particulier le cortex préfrontal médial, réagissent plus fortement lorsque les individus pensent interagir avec un autre être humain plutôt qu'avec un ordinateur exécutant une règle fixe ; McCabe et ses collègues l'ont observé en 2001 et des études ultérieures ont reproduit ce schéma. Nous construisons un modèle mental des intentions d'un conseiller humain, alors qu'une machine est perçue comme un simple mécanisme. Un mécanisme qui échoue semble défectueux ; un être humain qui commet une erreur reste un être humain. Toute affirmation postulant l'existence d'un « circuit dédié à l'aversion pour les algorithmes » doit être considérée comme spéculative.

3. Origines évolutives

Nos ancêtres n'ont jamais rencontré d'algorithmes, mais ils ont connu deux choses qui comptent ici : les outils et les conseillers. Les règles cérébrales élaborées pour chacun d'eux répondaient à des problèmes distincts.

Le conseil d'une autre personne s'accompagnait d'un visage, d'un passé et d'une réputation. L'évaluer exigeait de modéliser les connaissances et les intérêts du conseiller, et ces rouages cognitifs se montrent indulgents face aux erreurs ponctuelles, car un allié fiable qui se trompe parfois mérite d'être conservé. Un outil, à l'inverse, était jugé sur le fait qu'il fonctionnait ou non. Un piège qui ne se déclenchait pas était réparé ou abandonné ; les outils n'apprennent rien et ne présentent pas d'excuses, et rien ne justifiait de leur accorder le bénéfice du doute. Lorsqu'un individu moderne voit un modèle statistique échouer, la règle de l'outil s'active : on s'en débarrasse.

Un second schéma ancestral réside dans l'attrait pour ce qui s'explique. On peut demander à un conseiller humain « pourquoi ? », et il produira un récit. Une formule qui annonce « 73 % » n'offre aucune trame narrative. Yeomans, Shah, Mullainathan et Kleinberg ont montré en 2019 que les participants préféraient des recommandations de blagues faites par un être humain à des recommandations d'égale qualité issues d'un algorithme, et que fournir une explication comblait une grande partie de cet écart. Nos réflexes ne sont pas défaillants : ils sont appliqués à une catégorie inédite d'objets, qui relèvent de l'outil par leur mécanique et du conseiller par leur fonction.

4. Comment ce biais se manifeste

4.1. Dans la vie quotidienne

• Supprimer une application de navigation après un mauvais itinéraire, puis parcourir des trajets plus longs pendant des mois en se fiant à sa mémoire et à ses habitudes
• Qualifier les prévisions météo de « toujours fausses » après un pique-nique gâché par la pluie, en oubliant les dizaines de jours où elles ont vu juste
• Suivre à la seconde près le temps de cuisson d'une application de cuisine lors de la première utilisation, sans jamais vérifier le four

4.2. Dans le milieu professionnel

• Des équipes commerciales qui ignorent un modèle de notation des prospects après qu'il a classé en bas de liste un prospect manifestement prometteur, pour revenir à une priorisation à l'intuition qui convertit moins bien
• Des professionnels chevronnés qui, à l'instar de l'échantillon du secteur de la sécurité nationale dans l'étude de Logg, rejettent des avis que de jeunes collègues auraient adoptés

4.3. Dans les affaires et le marketing

Les travaux de Castelo expliquent un schéma récurrent observé par les spécialistes du marketing : les clients acceptent un algorithme pour les facettes « objectives » d'un produit, mais s'y opposent pour ses aspects « subjectifs ». Une banque peut indiquer ouvertement qu'un modèle détermine un plafond de crédit ; en revanche, une application de rencontre qui afficherait « notre modèle a choisi votre partenaire » risquerait de paraître froide. Les entreprises s'adaptent en dissimulant l'algorithme (une liste de lecture « sélectionnée avec soin »), en lui donnant un nom ou en intégrant une étape symbolique de validation humaine.

4.4. En politique et dans les médias

Les algorithmes publics s'attirent une aversion publique. Lorsqu'un gouvernement utilise un modèle pour attribuer des places scolaires ou harmoniser des notes d'examen, chaque erreur visible fait la une de l'actualité, tandis que les défaillances des procédures humaines antérieures n'avaient jamais été recensées. L'épisode britannique des examens de 2020 (Étude de cas 2) en est le cas d'école. Pourtant, ce même public qui condamne un modèle d'évaluation scolaire fait confiance à un fil de recommandation qu'il n'a jamais audité.

4.5. Dans la santé

Les cliniciens résistent à la prédiction statistique depuis l'époque de Meehl, et la méta-analyse de Grove a constaté que cette réticence a perduré malgré des décennies de preuves contraires. Longoni et ses collègues ont montré que les patients partagent cette méfiance : à niveau de précision identique, ils préfèrent un diagnostic humain, parce qu'ils pensent que leur cas est singulier. Cette préférence bascule dès qu'un médecin « examine » les conclusions de l'IA, même pour la forme. À l'autre extrémité de l'oscillation se trouve le biais d'automatisation, traité par ailleurs sur ce site.

4.6. En finance et en investissement

Un investisseur qui suit une stratégie de rééquilibrage fondée sur des règles pendant deux années fructueuses l'abandonne souvent après un unique trimestre où la règle a vendu trop tôt. Le résultat mis en lumière en 2020 par Dietvorst et Bharti, selon lequel les individus rejettent le plus les algorithmes dans les domaines intrinsèquement incertains, s'applique ici avec le plus de force.

5. Études de cas réels

Étude de cas 1 : Zillow Offers et le prix d'une confiance aveugle dans un modèle

• Contexte : Zillow, la plateforme américaine d'annonces immobilières, a lancé Zillow Offers en 2018, utilisant ses modèles d'estimation de biens pour formuler des offres d'achat comptant immédiates sur des maisons et les revendre.
• Ce qui s'est passé : Tout au long de 2021, les offres formulées par le modèle ont dépassé les prix réels de revente à mesure que le marché immobilier de la pandémie se retournait. À l'automne, l'entreprise détenait environ 7 000 maisons. En novembre 2021, Zillow a annoncé la fermeture de cette division, a fait état d'une perte d'environ 420 millions de dollars pour ce seul secteur au troisième trimestre, et a annoncé la suppression d'environ un quart de ses effectifs.
• Le biais en action : Il s'agit du versant appréciation du balancier, à l'échelle d'une entreprise. Le modèle n'avait pas connu de défaillance manifeste auparavant et l'identité de l'entreprise s'était construite sur la fiabilité de ses estimations algorithmiques ; les vérifications humaines étaient donc minces. Dès lors que l'échec est devenu visible, la réponse a été l'abandon complet plutôt que le réétalonnage.
• Conséquences : Des centaines de millions de dollars de pertes, une réduction d'effectifs de 25 % et l'abandon d'une branche d'activité phare.
• Leçons apprises : Un modèle qui n'a jamais échoué sous vos yeux n'est pas un modèle infaillible. Une surveillance continue assortie de seuils d'alerte prédéfinis transforme une erreur visible en examen plutôt qu'en déni ou en panique.

Étude de cas 2 : L'algorithme d'attribution des notes d'examen en Angleterre en 2020

• Contexte : Lorsque la pandémie a contraint à l'annulation des examens du A-level en Angleterre en 2020, l'organisme de régulation Ofqual a conçu un modèle de standardisation pour modérer les notes estimées par les enseignants et prévenir l'inflation des résultats. Les notes ont été publiées le 13 août 2020.
• Ce qui s'est passé : Le modèle a abaissé près de 36 % des notes du A-level d'un échelon par rapport aux prévisions des enseignants et environ 3 % de deux échelons. Dans la mesure où il s'appuyait sur l'historique des résultats de chaque établissement, les élèves brillants scolarisés dans des écoles historiquement plus fragiles ont été les plus pénalisés. Des manifestations ont éclaté en quelques heures. Le 17 août, quatre jours après la publication, le gouvernement et l'Ofqual ont fait marche arrière et ont réémis les notes sur la base des estimations non modérées des professeurs.
• Le biais en action : Une partie de la contestation relevait d'un jugement d'équité, et d'un jugement raisonnable, car les erreurs frappaient des groupes identifiables. Cet événement met aussi en lumière le mécanisme d'aversion à l'état pur. Les erreurs de l'algorithme étaient visibles et personnelles ; les erreurs de l'alternative humaine (les prédictions des enseignants, réputées depuis longtemps pour leur optimisme excessif) étaient invisibles et diffuses. Le pays a intégralement rejeté la source d'erreur visible au lieu de corriger le dispositif.
• Conséquences : Les résultats ont fortement augmenté par rapport aux années précédentes, les universités ont peiné à attribuer les places aux étudiants et la responsable d'Ofqual a démissionné plus tard dans le mois.
• Leçons apprises : Des erreurs visibles ne signifient pas un nombre accru d'erreurs. Pour évaluer un modèle par rapport au jugement humain, il convient de tenir un décompte équitable des erreurs humaines, et de tester ses cas d'échec sur les groupes les plus susceptibles d'en pâtir avant toute mise en service.

Exemple historique : Les recruteurs d'Oakland et le tableur (2002)

Au début des années 2000, les Athletics d'Oakland, une équipe de baseball disposant de l'une des masses salariales les plus faibles de la ligue, ont commencé à employer l'analyse statistique pour repérer des joueurs sous-évalués par les recruteurs traditionnels. Le manager général Billy Beane et son adjoint Paul DePodesta se sont appuyés sur des critères comme le pourcentage de présence sur les bases, qui prédisait le nombre de points marqués mieux que les jugements utilisés depuis un siècle par les recruteurs.

La réaction des recruteurs, c'était l'histoire de Meehl rejouée sur un terrain de baseball. Ils brandissaient chaque joueur plébiscité par le modèle qui échouait comme la preuve que « l'on ne peut pas résumer le baseball à un tableur », sans jamais tenir un décompte équivalent de leurs propres erreurs de jugement. En 2002, Oakland a remporté 103 matchs, établissant notamment une série record de vingt victoires consécutives, avec un budget trois fois inférieur à celui des Yankees de New York. L'ouvrage de Michael Lewis publié en 2003, Moneyball, a rendu cet épisode célèbre. Une fois que l'approche a visiblement fait ses preuves, presque toutes les équipes l'ont adoptée, et certaines ont basculé à l'autre extrême, en faisant confiance aux modèles là où les données étaient minces.

6. Le coût de ce biais

6.1. Coûts personnels

• Des décisions dégradées dans les domaines où un outil de qualité existe : trajets plus longs, allocations financières moins judicieuses, signaux médicaux négligés
• Le coût inverse : une confiance jamais examinée accordée à une recommandation, à un score de crédit ou à une application de diagnostic jamais vérifiés, jusqu'à ce qu'une erreur aux conséquences graves ne survienne

6.2. Coûts professionnels

• Une précision prévisionnelle sacrifiée : dans les expériences de Dietvorst, les participants ayant rejeté le modèle ont touché des primes inférieures à ceux qui l'avaient conservé
• Des retours coûteux à des processus manuels après une unique défaillance visible, rétablissant discrètement des méthodes moins précises
• L'échec inverse dans les flux automatisés : plus personne ne se sent responsable des résultats au motif que « le système s'en charge », ce qui laisse des dérives s'installer sans surveillance pendant des trimestres entiers

6.3. Coûts sociétaux

• L'abandon de modèles perfectibles par des organismes publics au profit de procédures humaines moins équitables ou moins fiables
• La sous-utilisation d'outils d'évaluation des risques validés en médecine, dans la justice pénale et dans la protection de l'enfance, où les preuves en faveur des démarches statistiques existent depuis des décennies
• Un débat public dans lequel les erreurs algorithmiques sont comptabilisées et les erreurs humaines ne le sont pas

6.4. Impact statistique

• La méta-analyse de Grove et ses collègues en 2000 sur 136 études a constaté que la prédiction mécanique était en moyenne environ 10 % plus précise que le jugement clinique, les cliniciens ne se montrant clairement supérieurs que dans une poignée de comparaisons
• Dans les expériences menées par Dietvorst, Simmons et Massey en 2015, le fait de voir le modèle fonctionner (et faillir) réduisait nettement la proportion de participants qui le choisissaient, alors même qu'il les surpassait dans toutes les configurations
• Permettre aux participants d'ajuster les prévisions d'un modèle dans une marge restreinte (Dietvorst et al., 2018) a nettement accru l'usage de l'outil et amélioré l'exactitude par rapport aux prévisions humaines sans assistance
• Une méta-analyse de 2025 portant sur 32 études d'intervention (89 tailles d'effet) a constaté une légère réduction moyenne de l'aversion, les interventions modifiant les conditions d'interaction s'avérant environ deux fois plus efficaces que la moyenne

7. Les avantages cachés

L'aversion pour les algorithmes n'est pas simplement une erreur dotée d'un bon attaché de presse. Plusieurs de ses composantes méritent d'être conservées.

Un modèle qui s'est trompé une fois l'a peut-être fait parce que le monde a changé, ce qu'un modèle ne peut pas vous signaler. Le prévisionniste qui réagit vivement à un raté visible détecte parfois un changement de régime auquel un modèle calibré sur des données historiques reste aveugle. Les modèles de Zillow ignoraient que le marché immobilier s'était retourné ; un humain sceptique aurait pu le voir.

L'exigence d'une présence humaine dans la chaîne de décision, exprimée par les patients dans les travaux de Longoni, constitue également une exigence de responsabilité. On peut demander des comptes à un médecin. Dans la plupart des déploiements, un modèle ne peut fournir aucune explication, or une décision qui engage une vie devrait s'accompagner de quelqu'un en mesure d'en répondre.

Enfin, le versant d'aversion du balancier constitue le seul frein au versant de l'appréciation. Le problème ne réside pas dans le fait d'examiner les algorithmes d'un œil critique. Il réside dans le fait de le faire au mauvais moment : après une défaillance isolée plutôt qu'avant le déploiement et tout au long de leur exploitation.

8. Auto-évaluation : Avez-vous ce biais ?

8.1. Liste des signaux d'alerte

• Vous avez cessé d'utiliser un outil après une seule mauvaise recommandation sans vérifier l'ensemble de ses résultats
• Lorsqu'un modèle se trompe, vous vous dites « je le savais », mais lorsqu'un humain commet une erreur, vous dites « ça arrive »
• Vous accordez une confiance totale à un système jusqu'à ce que vous le voyiez faillir, pour ensuite vous en méfier totalement
• Vous avez déjà fortement corrigé les résultats d'un modèle sur une simple intuition, sans enregistrer le résultat final
• Vous pensez que votre situation est trop singulière pour qu'un quelconque outil statistique puisse s'y appliquer
• Vous acceptez les recommandations algorithmiques pour des questions de chiffres mais les refusez pour les questions humaines
• Vous ne vous êtes jamais demandé à quelle fréquence un outil que vous utilisez quotidiennement se trompe
• Vous vous sentez vexé lorsqu'un algorithme propose une réponse meilleure que la vôtre
• Vous préférez une explication que vous comprenez à un résultat au meilleur bilan
• Vous avez déjà affirmé que « l'on ne peut pas réduire cela à une formule » à propos d'une décision où les formules ont pourtant surpassé les experts

Résultats :

• 0 à 2 cases cochées : Faible propension
• 3 à 5 cases cochées : Propension modérée
• 6 à 8 cases cochées : Forte propension
• 9 à 10 cases cochées : Très forte propension

8.2. Questions d'introspection

1. Citez un outil ou un modèle que vous avez abandonné. Connaissez-vous son taux de réussite effectif par rapport à la méthode qui l'a remplacé ?
2. Citez un outil sur lequel vous vous reposez les yeux fermés. À quand remonte la dernière fois où vous avez vérifié s'il avait commis une erreur passée inaperçue ?
3. Parmi les décisions propres à votre métier, lesquelles relèvent de faits « objectifs » et lesquelles de choix « subjectifs » ? Avez-vous déjà mis cette distinction à l'épreuve ?
4. Lorsque vous corrigez les résultats d'un système, notez-vous votre intervention pour en évaluer ultérieurement la pertinence ?
5. Si un collègue et un modèle statistique commettaient exactement la même erreur d'estimation, réagiriez-vous de la même façon avec chacun d'eux ?

8.3. Scénario diagnostique rapide

Scénario : Le modèle de prévision de la demande de votre équipe a surpassé les estimations manuelles des gestionnaires onze mois sur douze au cours de l'année écoulée. Ce mois-ci, il a lourdement surestimé la demande pour une gamme de produits. Votre responsable vous demande quelle conduite adopter.

Comment réagiriez-vous ?

• A) Recommander d'abandonner le modèle et de revenir aux prévisions des gestionnaires, puisqu'on ne peut manifestement plus lui faire confiance → Forte propension
• B) Conserver le modèle mais laisser les gestionnaires libres de modifier ses résultats dès qu'ils sont en désaccord → Propension modérée
• C) Conserver le modèle, examiner ce qui a changé sur cette gamme de produits et autoriser des ajustements encadrés en consignant chaque intervention → Faible propension

9. Identifier ce biais chez les autres

9.1. Indicateurs comportementaux

• Considère une unique erreur du modèle comme la preuve de son inutilité, sans comparaison avec le taux d'erreur humain
• Considère une longue série de prédictions justes comme la preuve que le modèle ne requiert aucune surveillance
• Procède à des modifications manuelles massives et non consignées sur les résultats d'un système
• Affirme avec insistance que son cas, son client ou son patient est « différent » au point qu'aucun outil ne saurait le modéliser
• Possède une expertise reconnue dans le domaine et déprécie l'outil davantage que les novices

9.2. Signaux d'alerte verbaux

Paroles fréquentes sous l'emprise de ce biais :

• « Vous voyez ? Le modèle s'est trompé. Je vous l'avais bien dit. »
• « On ne peut pas mettre ce genre de choses en équation. »
• « Le système ne s'est jamais trompé, pourquoi irions-nous vérifier ? »
• « Il ne connaît pas ma situation. »
• « Laissez-moi corriger les chiffres, cela fait vingt ans que je fais ce travail. »

Types d'arguments avancés :

• Opposer une défaillance algorithmique marquante au sentiment diffus que les humains « voient généralement juste »
• Invoquer le caractère exceptionnel du cas présent plutôt que des données portant sur des situations comparables

Questions évitées :

• « À quelle fréquence le modèle a-t-il raison par rapport à nous ? »
• « À quand remonte notre dernier audit de ce système ? »

9.3. Déclencheurs situationnels

• Une erreur algorithmique visible et attribuable, en particulier si elle est rendue publique
• Des tâches perçues comme subjectives, personnelles ou morales
• Une question hypothétique du type « à qui feriez-vous confiance ? » plutôt qu'une décision effective assortie d'enjeux réels
• L'expertise dans le domaine, qui renforce l'assurance dans son propre jugement
• L'absence de défaillance constatée jusqu'alors, associée à l'urgence d'agir, ce qui déclenche le versant de l'appréciation

10. Stratégies cognitives de débiaisement

10.1. Techniques immédiates

• Le décompte en deux colonnes : Lorsqu'un outil commet une erreur, inscrivez ses dix derniers résultats dans une colonne et ceux de l'alternative humaine dans une autre. Comparez avant de prendre la moindre décision.
• Le test de l'erreur équivalente : Demandez-vous : « Si un collègue avait commis exactement cette erreur, l'aurais-je renvoyé ? » Si la réponse est non, ne renvoyez pas le modèle.
• L'ajustement encadré : Au lieu d'accepter ou de rejeter en bloc les résultats d'un modèle, modifiez-les dans une fourchette préalablement fixée et consignez la modification. Les participants de l'étude de Dietvorst en 2018 s'en sortaient bien avec une marge de quelques points de pourcentage.
• Inverser la question : Si vous n'avez jamais vu un système échouer, demandez-vous à quoi ressemblerait sa défaillance et si vous seriez en mesure de la déceler.

10.2. Stratégies à long terme

• Tenir un registre des interventions : Consignez chaque modification manuelle apportée aux prévisions d'un modèle et réexaminez-la chaque trimestre. La plupart des personnes qui s'y astreignent découvrent que leurs interventions ont plus souvent dégradé la précision qu'elles ne l'ont améliorée, ce qui réétalonne la confiance plus vite que n'importe quelle leçon.
• Apprendre les fréquences de base : Lisez une fois la méta-analyse de Grove ou le chapitre de Kahneman sur l'intuition face aux formules. Cela transforme la perception d'une erreur isolée.
• Auditer les systèmes réputés infaillibles : Planifiez des vérifications régulières des outils qui n'ont jamais commis d'erreur apparente. Ce sont précisément ceux qui risquent le plus de dériver sans bruit.

10.3. Conception de l'environnement

• Intégrer une modification encadrée : Proposez aux utilisateurs une marge d'ajustement limitée et enregistrée plutôt qu'un choix binaire accepter/rejeter. L'étude de 2018 a constaté que cette approche augmentait simultanément l'usage et l'exactitude.
• Afficher les taux d'erreur comparatifs : Présentez le taux de réussite du modèle à côté du niveau de référence humain sur le même écran, afin qu'une erreur isolée apparaisse en regard de l'ensemble des cas traités.
• Prévoir des seuils d'alerte plutôt que des arrêts d'urgence : Engagez-vous à ce qu'une erreur visible déclenche une enquête menée par un responsable désigné avec une date butoir, et que seul un rapport documenté puisse motiver le retrait du modèle.

10.4. Quand solliciter une aide extérieure

• Lorsque vous êtes sur le point de retirer un modèle après une erreur visible sans avoir comparé les taux d'erreur
• Lorsque vous vous apprêtez à déployer un modèle auprès du public ou dans un cadre à forts enjeux sans avoir éprouvé ses cas de défaillance sur les populations les plus susceptibles d'être affectées
• Lorsqu'un système fonctionne depuis un an sans que quiconque ne soit en mesure d'indiquer son taux d'erreur

Vers qui se tourner : une personne capable d'effectuer la comparaison, non quelqu'un qui partage votre agacement.

11. Exercices pratiques

Exercice 1 : Le procès équitable

• Objectif : Remplacer un jugement fondé sur une seule erreur par une comparaison fondée sur les données
• Temps requis : 45 minutes
• Matériel nécessaire : Les historiques des résultats d'un outil et les jugements passés de l'alternative humaine ; un tableur
• Niveau de difficulté : Débutant
• Instructions :
  1. Choisissez un outil que vous avez délaissé ou dont vous vous méfiez
  2. Rassemblez ses 20 derniers résultats et ce qui s'est réellement produit
  3. Rassemblez les 20 derniers jugements de l'alternative humaine sur des dossiers comparables
  4. Notez les deux selon le même indicateur
  5. Rédigez une phrase précisant quelle source vous devriez privilégier à l'avenir et pour quelle raison
• Questions de réflexion :
  • La comparaison confirme-t-elle votre sentiment intuitif initial ?
  • Quelle erreur précise avait le plus pesé dans votre opinion de l'outil ?
  • Que vous faudrait-il pour faire confiance à la source victorieuse, quelle qu'elle soit ?
• Fréquence : Une fois par outil que vous êtes tenté d'abandonner

Exercice 2 : Le registre des corrections encadrées

• Objectif : Déterminer si vos modifications manuelles améliorent ou dégradent les prévisions
• Temps requis : 2 minutes par décision, 30 minutes de bilan mensuel
• Matériel nécessaire : Un carnet de notes ou un tableur partagé
• Niveau de difficulté : Intermédiaire
• Instructions :
  1. Pendant un mois, chaque fois que vous modifiez le résultat d'un modèle, notez sur une ligne la valeur du modèle, votre valeur et votre justification
  2. Définissez à l'avance une marge maximale d'ajustement (par exemple 10 %)
  3. À la fin du mois, ajoutez les résultats effectifs et calculez l'erreur du modèle seul par rapport à l'erreur après votre intervention
  4. Classez chaque modification en « bénéfique », « néfaste » ou « sans effet »
  5. Décidez de resserrer ou d'élargir votre marge d'ajustement pour le mois suivant
• Questions de réflexion :
  • Quelle proportion de vos interventions a amélioré le résultat ?
  • Les modifications utiles étaient-elles motivées par une raison précise ou par une impression subjective ?
  • Le fait de savoir que vos interventions seraient évaluées a-t-il modifié la fréquence de vos modifications ?
• Fréquence : Mensuelle, pendant au moins trois mois

Exercice 3 : Auditer les systèmes réputés infaillibles

• Objectif : Porter un regard critique sur un système auquel vous vous fiez par défaut
• Temps requis : 60 minutes
• Matériel nécessaire : L'accès à un système sur lequel vous comptez sans jamais le vérifier
• Niveau de difficulté : Intermédiaire
• Instructions :
  1. Écrivez le taux d'erreur que vous attribuez au système. Soyez précis.
  2. Décrivez à quoi ressemblerait une erreur et si vous seriez en mesure de la voir
  3. Échantillonnez 20 résultats récents et vérifiez chacun d'eux par rapport à la réalité ou à votre meilleur jugement
  4. Comparez le taux d'erreur mesuré à votre estimation de l'étape 1
  5. Rédigez un plan de suivi en un paragraphe : éléments à vérifier, fréquence, responsable désigné
• Questions de réflexion :
  • Votre estimation initiale du taux d'erreur était-elle trop élevée, trop basse ou inexistante ?
  • Quelles erreurs seraient restées invisibles sans cet exercice ?
  • Quel est le seuil d'alerte le moins coûteux que vous pourriez instaurer ?
• Fréquence : Trimestrielle, par rotation sur vos différents systèmes

Pratique quotidienne

La question du dénominateur

Une fois par jour, dès qu'un outil ou un système vous fait défaut, demandez-vous à voix haute : « Sur combien de fois au total ? » Répondez par un nombre avant de réagir.

• Durée suggérée : 30 secondes
• Moment idéal : Dès qu'un outil commet une erreur
• Suivi des progrès : Cochez une case chaque fois que vous avez posé la question avant de vous plaindre

Défi hebdomadaire

Changer de référence

Chaque semaine, choisissez une décision que vous prenez d'ordinaire à l'intuition (quel courriel traiter en premier, quelle durée prévoir pour une tâche, quel itinéraire emprunter) et appliquez à la place une règle simple ou un outil. Comparez les résultats à la fin de la semaine.

• Résultats attendus après 4 semaines : Un bilan personnel précisant les cas où les règles vous surpassent et ceux où elles échouent
• Pistes de réflexion pour votre journal :
  • Quelle règle vous a surpris en l'emportant ?
  • Dans quelles situations votre jugement a-t-il battu la règle, et que savait-il que la règle ignorait ?

12. Pour des publics spécifiques

Pour les dirigeants et les managers

• Fixer la règle de retrait à l'avance : Décidez avant le déploiement quelles preuves justifieraient l'abandon d'un modèle. Une seule erreur visible doit déclencher une enquête, jamais une décision.
• Rendre visibles les taux d'erreur : Publiez le degré de précision du modèle aux côtés du niveau de référence humain. On ne peut pas mettre en balance une défaillance isolée avec un dénominateur que l'on n'a jamais vu.
• Offrir un contrôle encadré : Les collaborateurs autorisés à ajuster les prévisions d'un modèle dans des limites définies l'utilisent davantage et obtiennent de meilleurs résultats que ceux soumis à un simple choix binaire accepter/rejeter.

Pour les parents et les éducateurs

• Explication adaptée aux enfants : « Les ordinateurs et les applications se trompent, tout comme les humains. L'astuce consiste à compter combien de fois chacun a raison, au lieu de ne retenir que l'unique fois où il y a eu une erreur. »
• Enseigner le dénominateur dès le plus jeune âge : Lorsqu'un enfant qualifie une application ou une calculatrice de « nulle », demandez-lui combien de fois elle a vu juste cette semaine.
• Donner l'exemple sur les deux versants : Montrez que vous vérifiez parfois un itinéraire sur un panneau routier, et que vous ne jetez pas la carte dès qu'une route est fermée.

Pour les professionnels de santé

• Connaître les données scientifiques : La prédiction statistique égale ou surpasse le jugement clinique dans la plupart des comparaisons depuis soixante-dix ans. Un score de risque qui échoue une fois n'est pas pour autant discrédité.
• Traiter directement la négligence de l'unicité : Les patients résistent aux soins assistés par algorithme parce qu'ils ont le sentiment de ne pas être compris dans leur individualité. Expliquez comment l'outil traite leurs données spécifiques et restez visiblement impliqué dans la décision.
• Surveiller l'autre versant : Le biais d'automatisation, par lequel les soignants valident une alerte erronée sans vérification, relève du même curseur de confiance poussé à l'opposé. Formez les équipes aux deux dérives.

Pour les professionnels de la finance

• Anticiper la réaction face aux baisses de performance : Les clients ayant adhéré à une stratégie fondée sur des règles voudront s'en détourner dès le premier mauvais trimestre. Préparez-les à des sous-performances périodiques avant qu'elles ne se produisent.
• Présenter l'historique complet : Exposez les performances d'une stratégie sous la forme d'une distribution et non de son dernier résultat, et comparez-la à ce que le client aurait fait seul.
• Ne pas confondre absence d'échec et absence de risque : Un modèle qui n'a pas failli dans la mémoire d'un client n'a pas été mis à l'épreuve. Exposez ses modes de défaillance avant que le marché ne s'en charge.

13. Interactions avec d'autres biais

Biais qui amplifient celui-ci

Biais qui contrecarrent celui-ci

Chaînes de biais courantes

Aversion pour les algorithmes → Biais de résultat → Biais rétrospectif → Syndrome pas inventé ici

Un modèle commet une erreur visible. L'équipe le juge sur ce résultat plutôt que sur son processus (Biais de résultat), se persuade rapidement d'avoir « toujours su » qu'il n'était pas fiable (Biais rétrospectif) et le remplace par une méthode interne jugée digne de confiance pour sa seule provenance plutôt que sur des preuves (Syndrome pas inventé ici), méthode dont les propres erreurs ne sont pas comptabilisées.

La chaîne inverse s'articule ainsi : Biais d'automatisation → Illusion de validité → Aversion pour les algorithmes. Un système est accepté sans vérification, et lorsqu'une dérive silencieuse finit par provoquer un échec visible, le basculement vers l'aversion est total.

Interrompre la chaîne : Le point d'intervention reste identique dans les deux sens : une comparaison continue et visible entre le taux d'erreur du modèle et celui de l'alternative humaine.

14. Perspectives culturelles

La majeure partie des travaux scientifiques sur l'aversion pour les algorithmes s'appuie sur des échantillons américains et ouest-européennes, et les rares comparaisons interculturelles existantes doivent être interprétées comme des observations préliminaires plutôt que comme des certitudes établies.

La première tendance concerne l'individualisme. La négligence de l'unicité décrite par Longoni, le sentiment que « mon cas est particulier », vient plus naturellement dans les cultures qui valorisent le moi individuel. Les études internationales synthétisées dans les revues de littérature relèvent une aversion moindre au sein d'échantillons plus collectivistes, ce qui concorde avec cette idée sans avoir encore été solidement répliqué.

La seconde tendance a trait à l'autorité conférée à la technologie. Dans les pays où l'État déploie largement des algorithmes, les citoyens manifestent une plus grande acceptation des décisions automatisées dans la vie publique, même s'il demeure difficile de dissocier la confiance dans l'algorithme de la déférence envers l'institution. En revanche, lorsqu'un scandale public récent a éclaté (l'épisode des notes d'examen en Grande-Bretagne en 2020, l'affaire des allocations familiales aux Pays-Bas), l'aversion envers les modèles gouvernementaux est plus forte et relève en partie d'une réaction raisonnable à l'expérience.

15. Mythes et idées fausses

16. Points de vue d'experts

« Il n'existe aucune controverse en sciences sociales qui montre un ensemble aussi vaste d'études qualitativement diversifiées aboutissant de manière aussi uniforme dans la même direction que celle-ci. » — Paul Meehl, 1986, au sujet des preuves comparant prédiction clinique et prédiction statistique

« Pour maximiser la précision prévisionnelle, les décisions finales devraient être confiées à des formules, en particulier dans les environnements à faible validité. » — Daniel Kahneman, Thinking, Fast and Slow, 2011

Les gens perdent confiance plus vite dans un algorithme que dans un être humain après avoir vu les deux commettre la même erreur, et ils choisissent donc l'humain même lorsque l'algorithme est plus précis. — Berkeley Dietvorst, Joseph Simmons et Cade Massey, 2015 (paraphrase de la conclusion centrale de l'article)

17. Points clés à retenir

1. Il s'agit d'une oscillation, non d'une position figée : La même personne qui délaisse un modèle après une seule erreur fera trop confiance à un autre modèle qui n'a encore jamais failli de manière visible.

2. L'erreur visible constitue le déclencheur : Dietvorst, Simmons et Massey ont montré qu'observer un modèle commettre une erreur nuit davantage à la confiance que de voir un être humain commettre la même faute.

3. Les fréquences de base avantagent les formules : Des vingt études compilées par Meehl en 1954 aux 136 méta-analysées par Grove en 2000, la prédiction statistique égale ou surpasse le jugement d'expert dans la plupart des domaines testés. Un échec isolé ne remet pas en cause ce bilan.

4. Le cadre de la tâche et l'expertise sont déterminants : Les tâches objectives et les bilans sans faute suscitent l'appréciation ; les tâches perçues comme subjectives, les enjeux personnels et l'expertise professionnelle alimentent l'aversion.

5. Un peu de contrôle suffit à beaucoup : Permettre aux utilisateurs d'ajuster les prévisions d'un modèle dans une marge étroite et consignée a rétabli l'utilisation et amélioré la précision dans les expériences de 2018, et l'aménagement des interactions a fait mieux que les explications dans la méta-analyse de 2025.

6. L'effet est conditionnel et découle en partie du protocole de questionnement : Les revues de littérature recensent de nombreux facteurs modérateurs, Logg et Schlund font valoir que les scénarios hypothétiques gonflent l'aversion, et une réplication préenregistrée a échoué.

7. Surveiller en amont, non après la faute : Auditez les systèmes qui n'ont jamais échoué de façon apparente, fixez à l'avance les règles de retrait et tenez un registre des interventions manuelles. L'objectif demeure une confiance calibrée, dans un sens comme dans l'autre.

18. Ressources supplémentaires

Articles scientifiques

• Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General, 144(1), 114-126.
• Dietvorst, B. J., Simmons, J. P., & Massey, C. (2018). Overcoming algorithm aversion: People will use imperfect algorithms if they can (even slightly) modify them. Management Science, 64(3), 1155-1170.
• Logg, J. M., Minson, J. A., & Moore, D. A. (2019). Algorithm appreciation: People prefer algorithmic to human judgment. Organizational Behavior and Human Decision Processes, 151, 90-103.
• Castelo, N., Bos, M. W., & Lehmann, D. R. (2019). Task-dependent algorithm aversion. Journal of Marketing Research, 56(5), 809-825.
• Longoni, C., Bonezzi, A., & Morewedge, C. K. (2019). Resistance to medical artificial intelligence. Journal of Consumer Research, 46(4), 629-650.
• Burton, J. W., Stein, M.-K., & Jensen, T. B. (2020). A systematic review of algorithm aversion in augmented decision making. Journal of Behavioral Decision Making, 33(2), 220-239.
• Jussupow, E., Benbasat, I., & Heinzl, A. (2020). Why are we averse towards algorithms? A comprehensive literature review on algorithm aversion. Proceedings of the 28th European Conference on Information Systems (ECIS 2020).
• Mahmud, H., Islam, A. K. M. N., Ahmed, S. I., & Smolander, K. (2022). What influences algorithmic decision-making? A systematic literature review on algorithm aversion. Technological Forecasting and Social Change, 175, 121390.
• Grove, W. M., Zald, D. H., Lebow, B. S., Snitz, B. E., & Nelson, C. (2000). Clinical versus mechanical prediction: A meta-analysis. Psychological Assessment, 12(1), 19-30.
• Dietvorst, B. J., & Bharti, S. (2020). People reject algorithms in uncertain decision domains because they have diminishing sensitivity to forecasting error. Psychological Science, 31(10), 1302-1314.

Livres

• Meehl, P. E. (1954). Clinical versus Statistical Prediction: A Theoretical Analysis and a Review of the Evidence. University of Minnesota Press.
• Kahneman, D., Sibony, O., & Sunstein, C. R. (2021). Noise: A Flaw in Human Judgment. Little, Brown Spark.
• Lewis, M. (2003). Moneyball: The Art of Winning an Unfair Game. W. W. Norton.

Chapitres de livres

• Kahneman, D. (2011). Intuitions vs. formulas. In Thinking, Fast and Slow (Chapter 21). Farrar, Straus and Giroux.
• Mosier, K. L., & Skitka, L. J. (1996). Human decision makers and automated decision aids: Made for each other? In R. Parasuraman & M. Mouloua (Eds.), Automation and Human Performance: Theory and Applications (pp. 201-220). Lawrence Erlbaum Associates.

19. Fiche de synthèse

20. Glossaire des termes utilisés

21. Questions de discussion

Pour les clubs de lecture, les salles de classe ou la réflexion personnelle :

1. Pensez à un outil ou à une application que vous avez cessé d'utiliser après une déconvenue. Si vous deviez justifier cette décision en comparant son taux de réussite réel à celui de l'alternative retenue, en seriez-vous capable ?

2. Pourquoi une personne qui se trompe donne-t-elle l'impression de « passer une mauvaise journée », tandis qu'un modèle qui commet une erreur semble « cassé » ? Cette distinction est-elle parfois légitime ?

3. Le public britannique a rejeté un algorithme d'attribution des notes d'examen dont les erreurs étaient visibles, au profit des prédictions des enseignants dont les erreurs étaient invisibles. S'agissait-il d'aversion, d'une exigence d'équité ou des deux à la fois ?

4. Logg et Schlund soutiennent que demander aux gens quel conseiller ils préfèrent suscite de l'aversion, tandis qu'observer leurs choix effectifs révèle de l'appréciation. Que nous apprend ce décalage sur la façon de concevoir les enquêtes, et les produits ?

5. Dans votre vie quotidienne ou professionnelle, quel système fonctionne actuellement sans jamais avoir failli de façon visible sous vos yeux ? À quoi ressemblerait sa défaillance, et seriez-vous en mesure de la déceler ?

Dernière mise à jour : 18 octobre 2026