Notre propension à adopter des biais, des «pré-jugements», s'appuie sur une propriété des similarités : quelque chose de similaire à une autre chose a des meilleures probabilités de partager de ses caractéristiques. Avec comme effet d’accélérer le raisonnement sans avoir à analyser et à observer un grand ensemble de paramètres qui sont, en principe, déjà connus. Cette propriété est évidemment exploitée par l’intelligence artificielle : d’abord reconnaître les chats, puis les races de chats, puis les comportements des chats… l’I.A sait maintenant reconnaître bien plus, accompagné des biais issus de nos comportements observés et, heureusement, de gardes-fous.
Ainsi les biais servent de raccourcis ou de conclusions qui évitent d’avoir à activer de nouveau le jugement, opération plus coûteuse en temps et en ressources. Mais il arrive que des incohérences surgissent avec le devoir de les confronter, ce qui est perçu comme un désagrément, un obstacle que l’on cherche naturellement à éviter. Les individus et les systèmes intègres en tiennent compte, mais souvent ont à choisir entre l’intégrité à leurs valeurs et l’approbation du groupe qui détient la clé de leur survie. Dans bien des cas le groupe est choisi et le biais est adopté massivement, la démocratie électorale n’y change rien. Un biais peut devenir systémique.
Au niveau des connaissances, on peut considérer les grilles d’analyse comme des biais documentés. Les grilles servent de base à des corpus de connaissances organisées. On peut faire entrer la même réalité dans la grille «économique», «politique libérale», «santé publique», «sport» ou dans une grille religieuse ou philosophique, à chaque fois avec des conclusions différentes. Il existe assurément un hiérarchie des systèmes d’interprétation et parmi eux certains sont plus bénéfiques que d’autres, et d’autres plus efficaces selon certains paramètres comme le bien commun ou le pouvoir personnel.
Les biais sont avec nous, ils sont parfois pratiques, ils évitent d’avoir à se questionner, ils peuvent aussi être dommageables si leurs conséquences ne sont pas observées, sont cachées ou minimisées. Apprendre à gérer les biais, les siens et ceux de notre milieu, fait partie depuis longtemps du mandat des écoles publiques; l’importance du sujet s'est accentuée avec l’I.A. Cette édition invite à relever le défi de la gestion des biais.
Denys Lamontagne - [email protected]
Illustration : ShutterStock - 2691914877
