Bizarrerie cognitive connue sous le nom de «biais de résultat» peut provoquer une catastrophe

Le biais de résultat érode votre sens du risque et vous rend aveugle à l’erreur, expliquant tout, des accidents d’avion mortels au crash de Columbia et à la marée noire de Deepwater Horizon.

Imaginez qu’un pilote effectue un vol familier le long d’une route connue, au cours de laquelle le temps tourne au pire. Elle sait que voler à travers la tempête comporte de sérieux risques – et selon sa formation, elle devrait faire un détour ou revenir. Mais elle a déjà emprunté le même itinéraire, dans des conditions météorologiques similaires – et elle n’avait connu aucun problème à l’époque.

Doit-elle continuer? Ou devrait-elle faire demi-tour?

Si vous pensez qu’elle peut voler en toute sécurité, vous êtes tombé dans une bizarrerie cognitive connue sous le nom de «biais de résultat».

Des études ont montré que nous jugeons souvent la qualité d’une décision ou d’un comportement en fonction de son point final, tout en ignorant les nombreux facteurs atténuants qui auraient pu contribuer au succès ou à l’échec – et que cela peut nous rendre inconscients des erreurs potentiellement catastrophiques dans notre pensée.

Nous jugeons souvent la qualité d’une décision ou d’un comportement par son point final, tout en ignorant les nombreux facteurs atténuants qui auraient pu contribuer au succès ou à l’échec

Dans cet exemple, la décision de prendre le vol précédent était en soi très risquée – et le pilote n’a peut-être évité un accident que grâce à une combinaison de circonstances chanceuses.

Le biais de résultat  c’est quoi ?

Mais grâce au biais de résultat, elle pourrait ignorer cette possibilité et supposer que soit les dangers avaient été surestimés, soit que c’était son talent extraordinaire qui l’avait aidée à traverser, la conduisant à se sentir encore plus heureuse en prenant à nouveau le risque à l’avenir. Et plus elle le fait, moins elle devient préoccupée par le danger.

En plus de nous conduire à devenir de plus en plus risqués dans notre prise de décision, le biais de résultat peut nous conduire à ignorer l’incompétence et les comportements contraires à l’éthique de nos collègues.

Et les conséquences peuvent être vraiment terrifiantes, avec des études suggérant que cela a contribué à de nombreuses catastrophes célèbres, y compris le crash de la navette Columbia de la Nasa et la marée noire de Deepwater Horizon.

Le biais de résultat peut conduire à des résultats dévastateurs en ignorant les risques pendant le processus décisionnel (Crédit: Alamy Photos)

La fin, pas les moyens

Comme une grande partie de notre compréhension de l’irrationalité humaine, le biais des résultats a été observé pour la première fois dans les années 1980, avec une étude fondamentale de la prise de décision médicale .

Les participants ont reçu des descriptions de divers scénarios, y compris les risques et les avantages des différentes procédures, puis ont été invités à évaluer la qualité du jugement des médecins.

Les participants ont été informés du choix d’un médecin d’offrir à un patient un pontage cardiaque, par exemple, ce qui pourrait ajouter de nombreuses années supplémentaires de bonne santé, mais avec un faible risque de décès pendant l’opération.

Peut-être de manière prévisible, les participants jugeaient la décision du médecin beaucoup plus sévèrement si on leur disait que le patient était décédé par la suite que lorsqu’on leur disait que le patient vivait – même si les avantages et les risques étaient exactement les mêmes dans chaque cas.

Le biais des résultats est si profondément ancré dans notre cerveau qu’il est facile de comprendre pourquoi ils penseraient que le médecin devrait être puni pour la mort du patient. Pourtant, le raisonnement des participants n’est pas logique, car il n’y aurait pas eu de meilleur moyen pour le médecin de peser ces preuves – au moment de prendre la décision, il y avait toutes les chances que l’opération soit un succès.

Une fois que vous êtes au courant de la tragédie, cependant, il est difficile d’échapper à ce sentiment tenace que le médecin était néanmoins en faute – ce qui a conduit les participants à remettre en question sa compétence.

Les résultats négatifs nous amènent à blâmer quelqu’un pour des événements qui échappaient clairement à son contrôle, même lorsque nous connaissons tous les faits qui excusent sa prise de décision

«Nous avons juste du mal à dissocier les événements aléatoires qui, avec la qualité de la décision, contribuent conjointement au résultat», explique Krishna Savani de l’Université technologique de Nanyang à Singapour.

La découverte, publiée en 1988, a été reproduite à plusieurs reprises, montrant que les résultats négatifs nous amènent à blâmer quelqu’un pour des événements qui étaient clairement hors de son contrôle, même lorsque nous connaissons tous les faits qui excusent leur prise de décision.

Et nous savons maintenant que l’inverse est également vrai: grâce au biais de résultat, un résultat positif peut nous conduire à ignorer des prises de décision erronées qui devraient être contrôlées , donnant aux gens un laissez-passer gratuit pour un comportement inacceptable.

Avec un biais de résultat, nous avons tendance à blâmer quelqu’un, comme un médecin, pour les résultats négatifs d’un événement indépendant de sa volonté et vice versa (Crédit: Alamy Photos)

Dans une expérience menée par Francesca Gino à la Harvard Business School , les participants ont appris l’histoire d’un scientifique qui a truqué leurs résultats pour prouver l’efficacité d’un médicament qu’ils testaient.

Gino a constaté que les participants étaient moins critiques à l’égard du comportement du scientifique si le médicament s’avérait sûr et efficace que s’il s’avérait avoir des effets secondaires dangereux.

Dans l’idéal, bien sûr, vous jugeriez les deux situations de manière tout aussi sévère – car un employé qui se comporte de manière si irresponsable pourrait être une responsabilité sérieuse à l’avenir.

Une telle pensée erronée est un problème grave lorsque l’on considère des choses comme la promotion. Cela signifie qu’un investisseur, par exemple, pourrait être récompensé pour une séquence chanceuse dans sa performance même s’il existe des preuves claires d’un comportement incompétent ou contraire à l’éthique, car son patron est incapable de déconnecter sa prise de décision de ses résultats.

À l’inverse, cela montre comment un échec peut nuire subtilement à votre réputation, même s’il existe des preuves claires que vous avez agi de manière appropriée sur la base des informations disponibles.

C’est un gros problème que les gens soient loués ou blâmés pour des événements qui ont été largement déterminés par le hasard – Krishna Savani
«C’est un gros problème que les gens soient loués ou blâmés pour des événements qui ont été largement déterminés par le hasard», dit Savani. «Et cela est pertinent pour les décideurs du gouvernement, pour les chefs d’entreprise – pour quiconque prend une décision.»

Le biais des résultats peut même affecter notre compréhension du sport. Arturo Rodriguez de l’Université du Chili a récemment examiné les évaluations des footballeurs par des experts sur Goal.com .

Dans les matchs qui devaient être décidés par des tirs au but, il a constaté que les résultats de ces quelques courtes minutes à la fin du match influençaient les jugements des experts sur la performance des joueurs tout au long du match . Fondamentalement, c’était même vrai pour les joueurs qui n’avaient marqué aucun but.

A lire aussi Plus de 575 millions des Nations Unies pour atténuer l’impact du Covid-19 sur l’éducation

«Le résultat de la fusillade a eu un impact significatif sur l’évaluation individuelle des joueurs – même s’ils n’y ont pas participé», explique Rodriguez. Ils pouvaient simplement se réjouir de la victoire des autres.

Les lieux de travail et le sport sont des environnements courants où le biais des résultats peut grandement affecter son jugement et ses évaluations (Crédit: Alamy Photos)

Évités de justesse

Les conséquences les plus graves du biais de résultat concernent cependant nos perceptions du risque.

Une étude de l’aviation générale, par exemple, a examiné les évaluations des pilotes de voler dans des conditions météorologiques périlleuses avec une mauvaise visibilité. Il a révélé que les pilotes étaient plus susceptibles de sous-estimer les dangers du vol s’ils venaient d’apprendre qu’un autre pilote avait réussi à emprunter la même route.

En réalité, rien ne garantit que leur succès signifierait un passage sûr pour le deuxième vol – ils ne l’ont peut-être réussi que par chance – mais le biais de résultat signifie que les pilotes ont ignoré ce fait.

Si quelqu’un résiste indemne à une tempête, il devient moins susceptible de souscrire une assurance contre les inondations avant la prochaine catastrophe.

Catherine Tinsley, de l’Université de Georgetown, a trouvé un schéma similaire dans les réponses des gens aux catastrophes naturelles comme les ouragans . Si quelqu’un résiste indemne à une tempête, il devient moins susceptible de souscrire une assurance contre les inondations avant la prochaine catastrophe, par exemple.

Les recherches ultérieures de Tinsley suggèrent que ce phénomène peut également expliquer de nombreuses défaillances organisationnelles et catastrophes .

Le crash de la navette Columbia de la Nasa a été causé par une isolation en mousse cassant un réservoir externe lors du lancement, créant des débris qui ont percuté un trou à travers l’aile de l’orbiteur.

Cependant, la mousse s’était rompue de l’isolation lors de nombreux vols précédents, mais en raison de circonstances chanceuses, elle n’avait jamais causé suffisamment de dégâts pour provoquer un accident.

Le biais de résultat a eu des conséquences mortelles en raison de risques écartés, comme on le voit dans des catastrophes telles que la navette Columbia de la Nasa et les catastrophes naturelles (Crédit: Alamy Photos)

Les organisations doivent mettre l’accent sur la responsabilité de chacun de détecter les risques latents et récompenser les personnes qui les signalent.

Inspiré par ces résultats, l’équipe de Tinsley a demandé aux participants d’envisager une mission hypothétique avec un quasi-accident et d’évaluer la compétence du chef de projet.

Elle a constaté que mettre l’accent sur des facteurs tels que la sécurité et la visibilité de l’organisation signifiait que les gens étaient plus susceptibles de repérer l’événement comme un signe d’avertissement d’un danger potentiel.

Les participants étaient également plus conscients du danger latent si on leur disait qu’ils devraient expliquer leur jugement à un cadre supérieur. Compte tenu de ces résultats, les organisations devraient mettre l’accent sur la responsabilité de chacun dans la détection des risques latents et récompenser les personnes qui les signalent.

Savani convient que nous pouvons nous protéger du biais des résultats. Il a découvert, par exemple, qu’inciter les gens à réfléchir plus attentivement au contexte entourant une décision ou un comportement peut les rendre moins sensibles à l’effet du résultat . Le but devrait être de réfléchir aux circonstances particulières dans lesquelles il a été réalisé et de reconnaître les facteurs, y compris le hasard, qui auraient pu contribuer au résultat final.

Une façon de faire est de s’engager dans une réflexion contre-factuelle lors de l’évaluation de votre performance ou de celle de quelqu’un d’autre, dit-il.

1. Quels facteurs pourraient avoir causé ce résultat différent?
2. Et évalueriez-vous toujours la décision ou le processus de la même manière, si cela s’était produit?

Prenons le cas du scientifique qui truquait les résultats de leurs médicaments. Même si le médicament était sûr à la fin, imaginer le pire des cas – avec la mort de patients – vous rendrait plus conscient des risques qu’il prenait.

De même, si vous étiez ce pilote qui a choisi de voler dans des conditions inappropriées, vous pourriez regarder chaque vol pour examiner les risques que vous preniez et réfléchir à la façon dont cela aurait pu se dérouler dans différentes circonstances.

Que vous soyez un investisseur, un pilote ou un scientifique de la Nasa, ces stratégies pour éviter le biais de résultat vous aideront à éviter qu’une chance de succès ne vous aveugle aux dangers sous vos yeux.

La vie est un pari, mais vous pouvez au moins empiler les chances en votre faveur, plutôt que de laisser votre esprit vous endormir dans un faux sentiment de sécurité.

---

David Robson est un écrivain basé à Londres et à Barcelone. Son premier livre, The Intelligence Trap: Why Smart People Do Dumb Things , est maintenant disponible. Il est  d_a_robson sur Twitter.