Peut-on décoloniser l'intelligence artificielle?

L’intelligence artificielle n’est pas ce parangon de neutralité supposée. Création d’esprits surtout occidentaux, elle a tendance à reproduire des biais sexistes, racistes et autres qui sont encore ancrés dans nos sociétés. Par conséquent, les individus provenant de la diversité se trouvent le plus souvent devant un miroir qui ne leur renvoie pas du tout l’image du Moyen-Orient, de l'Asie ou de l’Afrique qu’ils connaissent ou que leurs parents leur ont racontée. Ils perçoivent le reflet déformé de la colonisation qui se perpétue quelques siècles plus tard.

Derrière le miracle de l’apprentissage-machine se cachent des milliers de petites mains bien humaines. Ce personnel entassé dans d’exigus bureaux en Afrique subsaharienne, entre autres, doit analyser des photos et vidéos de toutes sortes pour entraîner l’algorithme à reconnaître ce qui est bien ou non. Un développement « numérique de la morale » qui a un poids psychologique conséquent : bien des travailleurs doivent regarder des images abominables d’agression, de cadavres et autres pour entraîner les robots conversationnels à ne pas reproduire certains contenus, à refuser de répondre à des exigences, etc. Plus de 80 % de la force de travail derrière cet apprentissage témoigne de chocs post-traumatiques.

Heureusement, certains décident de prendre les mêmes armes et de s’en servir pour détricoter les pensées. Ils développent carrément des IA qui sont plus sensibilisées aux grandes figures de l’anticolonialisme, qui remettent en question des biais classiques, qui participent à un effort d’éducation afin que les concernés autant que les autres en sachent plus sur les disparités encore présentes, ceux qui les ont dénoncées et ce qu’il est possible de faire.

Durée : 41min55

Image : Eris de Pixabay