La régulation des algorithmes : transparence, loyauté, modération

Questions de savoir

Dans l'article «Pour une régulation des algorithmes»  sont abordées les questions de la part d’intervention humaine dans un algorithme, de comment se pratique la régulation de ces algorithmes et  de la transparence ou plutôt de l’opacité de ceux-ci.

L'humain programme les algorithmes, les alimente avec certaines données, le tout dans une intention précise et vérifie ensuite les effets afin de réguler l'ensemble.

Dans ce domaine dynamique, les remises en question sont fréquentes et la tradition ou la jurisprudence sont de peu de secours tant les phénomènes sont nouveaux. Les paradoxes entre les possibilités et les désirs, entre les intentions et les pratiques réelles amènent les chercheurs à définir des moyens de supervision des algorithmes.

Entre l'intention et le résultat

Par exemple, des algorithmes plus anciens peuvent ne plus correspondre à la réalité et pourtant continuer de filtrer les appels venant des téléphones fixes; d'autres algorithmes présentent des biais établis pour maximiser les profits plutôt que la satisfaction du client puisqu'on sait que seulement une faible minorité contesteront. Sans compter les biais établis par une intelligence artificielle à partir de données dont elle dispose et dont on ne peut expliquer comment elle est arrivé à ses conclusions; quand on parle de transparence, le matériel est parfois tout à fait opaque.

Ce qui amène des situations injustes dont personne ne semble pouvoir assumer la responsabilité et qui sont difficiles à renverser.  Par exemple, des fraudeurs continent d'annoncer sur les réseaux sans être inquiétés par Facebook, d'autres distribuent des insanités proposées par leurs membres sans assumer de responsabilité enfin d'autres censurent systématiquement tout ce qui pourrait affecter leur pouvoir. Entre la censure et le laisser aller, il n'est pas évident d'établir un algorithme équilibré ou de superviser les réelles intentions.

Aussi les approches en amont, au niveau de la programmation, et en aval, au niveau de la surveillance, se développent.

«Nous pensons que la recherche académique a beaucoup à apporter sur ces sujets. Elle a plutôt contribué jusqu’ici à créer de formidables librairies logicielles de prédiction et d’influence du comportement client, et elle aspire aujourd’hui à bâtir des intelligences artificielles à la fois explicables, frugales et loyales. Armer le régulateur face aux mastodontes algorithmiques pose d’autres questions, non élémentaires, qui exigent un devoir de rigueur scientifique, un discours de preuve ou du moins une solution parallèle à la méthode de surveillance.»

Pour l'article complet : Pour une régulation des algorithmes

Visiter inria.fr

Ajouter à mes listes de lecture