Quand nos biais nous désarment : l'illusion de l'imprévisible

Rappelez-vous de la crise des SubPrimes et du cataclysme économique qui s'en est suivi ! La plupart des experts se sont exclamés : « C'était imprévisible ! » Pourtant, avec le recul, les signes avant coureurs étaient là, dissimulés par nos propres jugements.

Ce sentiment de surprise face à ce genre d'événement n'est pas juste le fruit du hasard ! Il découle souvent de nos biais cognitifs, ces mécanismes mentaux qui nous aident à naviguer dans la vie quotidienne mais nous rendent aveugles aux ruptures. Dans cet article, je vous propose d'explorer comment ces biais transforment des événements potentiellement anticipables en chocs inattendus, en nous appuyant sur des concepts philosophiques, économiques et technologiques.

Similarités et identités

La « tyrannie de la similarité » désigne notre tendance à projeter le passé sur l'avenir, en supposant que demain ressemblera à hier. Nos biais et nos a priori ne sont pas des erreurs isolées, ils sont des outils d'accélération évolutifs, conçus pour simplifier un monde complexe. Ils nous permettent de prendre des décisions rapides mais, dans un environnement volatile, ils deviennent des œillères. 

Par exemple, nous voyons le temps comme une ligne droite, prévisible et linéaire, alors qu'il est ponctué de ruptures imprévues, ce sont les Cygnes Noirs décrits par Nassim Nicholas Taleb dans son ouvrage Le Cygne Noir. Ces événements rares et significatifs défient la courbe de Gauss et l'architecture de notre mode de fonctionnement, révélant nos angles morts.

Notre besoin de sécurité nous pousse à ignorer l'incertitude mais, comme le souligne Taleb, l'imprévisible peut survenir même si, en théorie, la probabilité de survenance est quasi nulle. Pourtant rétrospectivement, on peut voir une logique dans ces évènements, une fois que nous avons abandonné nos grilles de lecture rigides.

Le syndrome de la dinde : quand le passé ment

Plongeons dans une analogie saisissante tirée de l'œuvre de Nassim Nicholas Taleb. Imaginez une dinde élevée dans une ferme. Jour après jour, pendant 364 jours, elle est nourrie, soignée et protégée par l'éleveur. Chaque matin renforce sa confiance : le monde est prévisible, bienveillant et l'avenir s'annonce radieux. Sa grille de similarité, basée sur l'expérience répétée, lui dicte que demain sera comme hier. Mais au jour 365, veille de l'Action de grâce, l'éleveur l'abat. Le choc est total pour la dinde, mais prévisible pour l'observateur extérieur.

Cette histoire illustre le syndrome de la dinde, où le passé induit une croyance erronée en une continuité éternelle. Taleb utilise cette métaphore pour critiquer notre dépendance au rétroviseur : nous extrapolons des patterns historiques sans considérer les ruptures possibles. Le biais de rétrospective entre en jeu ici : une fois l'événement survenu, nous réécrivons l'histoire pour la rendre cohérente et prévisible. « Ah, bien sûr, c'était évident ! » disons-nous, oubliant notre aveuglement initial.

« Le problème avec les experts, c'est qu'ils ne savent pas ce qu'ils ne savent pas. » nous dit Nassim Nicholas Taleb, Le Cygne Noir

Narrativement, le contraste est poignant : la dinde au jour 364 rayonne de certitude, entourée de preuves accumulées de sécurité. Au jour 365, tout s'effondre. Cela reflète des crises réelles, comme la chute des marchés en 2008, où des années de croissance ont masqué les risques systémiques et les signes, dont les évaluations hypothécaires qui dépassaient de beaucoup la valeur réelle. Nos biais nous rassurent, mais ils mentent en occultant l'incertitude réelle, opposée à la simple probabilité calculable.

• Avantage des biais : Ils accélèrent la prise de décision en temps normal.
• Risque : Ils créent des illusions de stabilité, rendant les Cygnes Noirs d'autant plus dévastateurs.

L'optimisation aveugle : quand la performance tue la résilience

Le monde économique et sociétal dans le quel nous vivons est obsédé par l'efficacité, nous optimisons tout : finances, santé, éducation. Mais cette quête de rendement maximal érode les marges de sécurité, ces coussins essentiels pour absorber les chocs. Selon un rapport de l'OCDE sur la pensée systémique pour la politique publique, l'optimisation à outrance fragilise les systèmes en éliminant les redondances. En temps calme, cela fonctionne mais en temps de crise, cela devient un piège mortel.

Prenez l'exemple des chaînes d'approvisionnement globales : pour minimiser les coûts, les entreprises réduisent les stocks au minimum. Cela dope la performance à court terme mais un événement imprévu, comme la pandémie du COVID, révèle les faiblesses. L'OCDE met en garde contre cette « optimisation aveugle » qui priorise l'efficacité sur la résilience. Nos biais nous poussent à voir l'avenir comme une extension linéaire du présent, ignorant les angles morts systémiques.

Cette grille d'analyse d'optimisation est adaptée aux périodes stables mais elle tue la capacité d'adaptation. En finance, les modèles basés sur des données historiques sous-estiment les événements extrêmes. L'OCDE préconise une pensée systémique pour intégrer l'incertitude, en cultivant des marges qui absorbent les ruptures plutôt que de les nier.

1. Identifier les vulnérabilités : évaluer les points de rupture potentiels.
2. Construire de la redondance : ajouter des marges pour la survie.
3. Adopter une vision holistique : au-delà de l'efficacité immédiate.

Ainsi, l'optimisation, si séduisante, nous rend vulnérables face à l'imprévisible, transformant des risques gérables en catastrophes.

L'IA ou l'industrialisation du rétroviseur

L'intelligence artificielle (IA) incarne l'apogée de nos biais : entraînée sur des données passées, elle excelle dans la reconnaissance de patterns similaires mais échoue face à l'inédit. Comme le souligne la recherche de Microsoft sur l'optimisation avec incertitude, les algorithmes classiques fonctionnent avec des entrées complètes mais dans des environnements évolutifs, ils doivent gérer l'incertain. L'IA, championne de la similarité, industrialise le rétroviseur en projetant l'histoire sur l'avenir.

Le problème du « Out-of-Distribution » (OOD) est central ici. Imaginez l'IA comme un conducteur qui ne connaît que les routes connues. Donc, face à un chemin inconnu, elle force l'entrée dans ses cartes existantes plutôt que d'admettre « je ne sais pas ».

Une étude de Google Research explore les limites de la détection OOD, montrant que même les modèles pré-entraînés sur de vastes ensembles de données, comme les Vision Transformers sur ImageNet, améliorent les performances mais peinent à identifier les scénarios vraiment nouveaux. 

Pédagogiquement, l'IA renforce nos biais en offrant une illusion de précision probabiliste. Elle calcule des risques basés sur l'historique mais ignore l'incertitude qui n'est pas quantifiable. Microsoft met l'accent sur des frameworks pour évaluer les algorithmes en environnements stochastiques [qui dépendent du hasard], tandis que Google suggère l'exposition à quelques exemples pour améliorer la détection.

• Avantages de l'IA : précision dans les scénarios connus.
• Risques : amplification des angles morts humains, menant à des erreurs coûteuses en santé ou finance.

En fin de compte, l'IA n'invente pas l'avenir, elle recycle le passé, nous invitant à questionner notre dépendance à ces outils.

Vers une vigilance intellectuelle

Gérer nos biais ne signifie pas les éradiquer car c'est impossible, mais cultiver une humilité cognitive qui accepte l'incomplétude de nos grilles de perception et d'analyses. Au lieu de viser une prévision parfaite, priorisons la résilience : construisons des systèmes flexibles, prêts à absorber l'imprévisible. Taleb, l'OCDE et les recherches de Google et Microsoft convergent sur ce point : l'excellence réside dans la préparation à l'erreur, non dans l'illusion de maîtrise.

Pour conclure, nos biais nous rassurent en temps de paix mais nous désarment face aux ruptures. En adoptant une vigilance intellectuelle, nous transformons l'illusion de l'imprévisible en opportunité d'adaptation. L'avenir n'est pas à prévoir intégralement mais à affronter avec ouverture d'esprit. Cultivons cette posture pour naviguer un monde de Cygnes Noirs avec plus de sagesse.

Références

Oeuvre de Nassim Nicholas Taleb - Le cygne Noir - https://fr.wikipedia.org/wiki/Le_Cygne_noir_(livre)

Systemic Thinking for Policy Making - William Hynes, Martin Lees et Jan Marco Müller - OCDE
https://www.oecd.org/content/dam/oecd/en/publications/reports/2020/02/systemic-thinking-for-policy-making_a95b3226/879c4f7a-en.pdf

Optimization with Uncertainty - Microsoft
https://www.microsoft.com/en-us/research/project/optimization-with-uncertainty/

Exploring the Limits of Out-of-Distribution Detection - Stanislav Fort, Jie Jessie Ren, Balaji Lakshminarayanan
https://research.google/pubs/exploring-the-limits-of-out-of-distribution-detection/