L’Intelligence artificielle est un outil d’amplification de nos capacités, elle ne juge pas. Elle n'a pas non plus de vision «civilisatrice». Même si elle a accès à toute la sagesse du monde, elle a aussi accès à toute sa débilité et c’est cette dernière qui est la plus numérisée. L’I.A. s’est emparée d’un seul coup du patrimoine de l’humanité et y ajoute une masse considérable de données non qualifiées ni éprouvées ou, si elles le sont, sur des critères intéressés peu significatifs du point de vue civil ou social.
L’utilisation du matériel culturel collectif est une matière dynamique. Elle dépend de plusieurs facteurs mais au final, ce qui fonctionne est retenu et le reste est écarté à plus ou moins court terme. C'est le même principe derrière le fonctionnement des algorithmes et ceux-ci sont l'expression du pouvoir de ceux qui les contrôlent.
Que des étudiants se servent de l’I.A. est une chose, que l’I.A. leur parle sans que l’on sache sur quelle base elle sélectionne les données est déjà un problème, mais si en plus les données ne procurent aucune orientation sociale collective critiquée ou évolutive, l’esprit d’une collectivité disparait avec la cohérence et c'est l'esprit de ceux derrière les algorithmes qui s'impose, sans possibilité de négociation.
Les groupes de frustrés agglomérés, les ayatollahs du bonheur céleste et autres exaltés peuvent être instrumentalisés et stimulés que ce soit par un gouvernement, par les intérêts commerciaux d’un géant du web, de l’industrie pétrolière ou par n’importe qui bien organisé. On revient toujours à la question du contrôle de l'I.A et dans les intérêts de qui.
La qualité d’une boucle de rétroaction est pour l’instant une des meilleures propositions pour éduquer les algorithmes, dans un dialogue constant entre les I.A et ceux qui sont affectés par son utilisation. La puissance et la portée de l’intelligence artificielle appellent à concevoir une nouvelle forme de démocratie, d’où cet appel aux philosophes : on a vraiment besoin de vous.
Denys Lamontagne - [email protected]
Illustration - Pixabay
