Le biais au sein du biais

Rappelez-vous de cette scène-clé du film de 1997 Men In Black : James Edward (alias Will Smith, alias l’agent J) arrive au quartier général du MiB – une agence secrète protégeant la Terre des menaces extraterrestres – afin de se mesurer aux « meilleurs des meilleurs des meilleurs » pour y obtenir un poste.

Edward, un officier de la police de New York sûr de lui et presque arrogant, passe avec succès de nombreux tests, y compris une simulation où il tire une balle dans la tête d’une jeune fille manifestement innocente. Lorsqu’on lui demande pourquoi, Edward explique que même en comparaison des redoutables aliens, c’est la jeune fille qui représente la menace la plus importante. Et il réussit le test : les aliens les plus dangereux sont toujours déguisés en vrais humains.

L’agent K (Tommy Lee Jones) lui offre un poste et les autres participants ont leur mémoire effacée : ils retournent à une vie normale sans jamais réaliser que les aliens étaient une ruse, un moyen pour l’agent K de déterminer la sagacité des candidats.

Ce test astucieux d’intelligence et d’attention est défini par deux caractéristiques : la première est que la plupart des gens le rate, la seconde est que l’on y insère un artifice afin de leurrer une réflexion trop rapide (la petite fille dans cet exemple).

Les romans et les films qui comportent un test semblable fonctionnent comme ceci : de nombreux prétendants ont essayé et échoué car ils n’ont pas compris le « truc » – même si ils étaient persuadés du contraire – jusqu’à ce qu’un jour un héros y arrive et passe le test (Edward).

Les lecteurs de Game of Thrones se rappellent peut-être le moment où Syrio devient la première épée de Braavos : contrairement aux autres avant lui, quand le Seigneur des Mers interroge à propos de son chat, Syrio répond simplement au lieu de se perdre en explications.

La fin d’Indiana Jones et la dernière croisade pourrait marcher aussi il manque un point crucial : ceux qui ratent se font décapiter au lieu de continuer à vivre sans comprendre là où ils ont échoué.

Voilà le problème : la même chose arrive lorsque des profanes lisent des livres à propos des biais cognitifs, ils comprennent l’erreur mais il ne voient pas le « truc » – qu’être simplement au courant de leur existence ne suffit pas. Trop souvent, les lecteurs finissent un livre sur la prise de décision en se disant qu’ils prendront mieux les leurs à l’avenir.

Ils deviennent l’équivalent des compétiteurs d’Edward, les soit-disant « meilleurs des meilleurs des meilleurs » qui étaient passé à coté du test.

La raison souvent laissée de coté de ce phénomène est que chaque biais est fait de composantes. La première est le phénomène lui-même, le biais de confirmation par exemple est la tendance naturelle que nous avons de chercher à confirmer des informations en ignorant tout le reste. Et la seconde est la certitude que nous avons que tout le monde est sujet à ce biais, sauf nous. Et ceci est un biais en soit – le biais du point aveugle – un méta-biais inhérent à tous les biais et qui nous rendent aveugles à notre propres erreurs.

La littérature populaire sur la prise de décision ne met pas l’accent sur le second point, ce qui empêche potentiellement le lecteur de comprendre entièrement la source de leur irrationalité. Même si nous pensons intuitivement que nous corrigeons nos biais après qu’ils nous aient été montrés, ceci est impossible à achever sans prendre en compte la façon dont ce point aveugle – le biais dans le biais – déforme notre façon de penser.

Ironiquement, ce que cela implique est que ce genre de livre est peut-être une partie intégrante du problème. L’idée habituelle « maintenant que vous êtes au courant de l’existence de ce biais, peut-être que vous pourrez prendre mieux vos décision en le prenant en compte » crée une fausse confiance : c’est le piège que nous échouons tous à repérer.

C’est souvent le cas lorsqu’on commence à se renseigner sur les biais les plus courant (confirmation, régression à la moyenne ou encore effet Barnum) et que l’on commence à se dire que l’on est un génie cerné d’idiots aveugles. Bien sûr, on est l’idiot de la farce et il faut souvent quelques années avant de s’en rendre compte.

Ce méta-biais arrive partout autour de nous et on s’en rend facilement compte si on y prête un peu attention : les retards et les dépassements de budget sont quasi-systématiques dans le bâtiment car les architectes et chefs de chantiers ont fait des recherches sur les retards et dépassements de budgets précédents sont intimement convaincus que leurs travaux ne connaîtra pas le même destin.

Idem pour les guerres : l’Irak, comme certains le croyaient, ne deviendrait jamais un nouveau Vietnam… et cette attitude pourrait avoir été une des causes de l’enlisement.

Lorsque l’on apprend l’existence d’un biais, on tend naturellement à penser qu’il ne s’applique pas à nous et cela nous conduit à tomber en plein dedans.

Le problème vient de l’introspection : les biais sont très largement inconscients donc lorsque nous y réfléchissons, nous ne parvenons pas à éclairer les processus qui nous font nous tromper. Pire encore, puisque nous avons tendance à nous considérer comme des personnes éclairées et objectives, lorsque nous faisons cette introspection, nous ne pouvons identifier que les raisons de notre infaillibilité.

On peut donc voir pourquoi la simple description des biais ne suffit pas : ils nous rendent en fait plus faussement confiants dans notre capacité à décider, ce qui fait dresser un tableau assez pessimiste de la rationalité humaine.

Nous sommes maudits par les biais cognitifs et y réfléchir ne fait qu’exacerber le problème. Comme avec une Hydre, chaque fois que nous apprenons à identifier un biais, c’est pour mieux plonger dans un autre.

Y a t il un moyen de s’en sortir ? La pensée systémique – la capacité à méditer et à penser en même temps – est capable d’auto-analyse critique. On peut donc rester finalement optimiste.

Il est impossible de ne pas remarquer le pouvoir de la raison, notamment au XXIème siècle. C’est l’un de nos « meilleurs anges » comme le fait remarquer Steven Pinker et elle nous a poussé dans la voie de la coopération et des bénéfices mutuels tout en nous éloignant de la violence et des égoïsmes.

Attention cependant, il est crucial d’utiliser notre capacité à penser et méditer non pas pour se plonger dans l’auto-introspection mais afin de devenir plus attentif. Et c’est une distinction importante à faire : l’introspection implique de se poser des questions alors que nous savons que nous avons tendance à répondre à ces questions d’une manière qui nous met en valeur.

Comme Nietzsche l’indique dans Le crépuscule des idoles « nous désirons toujours trouver une raisons à nos sentiments… cela ne nous suffit jamais de simplement établir le simple fait que nous les ressentons ».

La pleine conscience, au contraire, implique d’observer sans se poser de questions. Si le point central à retenir des recherches sur les biais cognitifs est qu’elle n’est pas simplement la connaissance de ce qu’un biais existe mais aussi le fait qu’il faut être conscient du fait que nous en sommes tous victimes, alors la vertu de la pleine conscience est de permettre de se mettre en retrait afin d’observer ce processus complexe sans chercher à le critiquer.

Nous dépensons beaucoup d’énergie à protéger nos ego au lieu de chercher à remettre nos défauts en question et cela pourrait être une solution à ce problème. Mais cela ne signifie pas que ce soit un moyen de corriger ou d’éliminer les erreurs, ce n’est pas le but. Il s’agit plutôt d’une pause permettant d’observer que les erreurs de raisonnement existent – de reconnaître le biais au sein du biais.

L’implication est que nous devrions lire ce genre de livre sur la prise de décision non pas pour dénigrer la rationalité chez les autres (ce qui conduirait à les braquer) mais pour la reconsidérer avec un esprit ouvert.

Au lieu de tirer plus fort pour vous débarrasser des poucettes, essayez de vous détendre. Et peut-être que vous choperez le truc…

Traduit de : The bias within the bias