«Sur le plan informatique, affecter à 950 000 jeunes une place parmi un choix de 24 000 formations reste un processus assez simple. Mais garantir l’égalité des chances, c’est une autre affaire ! »
Simon Mauras - Chercheur au sein de l’équipe-projet commune Fairplay
En effet, peu importe la façon de pondérer les critères, il faut parvenir à justifier le résultat et faire en sorte que les règles soient connues. Par exemple, si la priorité des choix d'un étudiant est un critère plus important que ses résultats scolaires, il faut qu'il le sache.
Le problème est de traduire l'équité en algorithme, de trouver une traduction mathématique, intégrable dans un algorithme et de pouvoir valider ses propriétés éthiques. On peut aussi ajouter celui de la confidentialité et de ses limites. Même sans connaitre le nom d'une personne, je peux la reconnaître dans une foule par un certain nombre de ses caractéristiques physiques ou par ses habitudes.
«La confidentialité des données privées, autre challenge pour les chercheurs, se base également sur des groupes et des comparaisons. Imaginons un outil d’IA qui utilise des données agrégées de groupes anonymisés : on compare les données d'un groupe complet à celles du même groupe privé de l'un des membres. La notion de "confidentialité différentielle" postule que si la statistique change de manière significative, on peut en déduire que l'algorithme en "sait" trop sur la personne écartée.»
Dans le cas de Parcoursup, ces questions d'équité se posent pour les étudiants internationaux sur lesquels il y a beaucoup moins de données sur lesquelles s'appuyer. D'autres problèmes quant à l'affectation des places en Internat ou les délais d'attente pour les cas particuliers nécessitent aussi de meilleures réponses.
Le groupe Fairplay développe aussi des solutions afin d’aider les universités et les écoles, souveraines dans leurs choix, à évaluer a posteriori si elles ont retenu les bons dossiers. Au-delà de Parcoursup, l’IA éthique promue par Fairplay peut bénéficier à toute la société et des exemples sont présentés...
Pour l'article complet : Sur Parcoursup, l’IA conduit-elle à des décisions éthiques ?
Illustration : Augusto Ordóñez - Pixabay
En savoir plus sur cette
actualité
Visiter inria.fr
Voir plus de nouvelles de cette institution