"En términos informáticos, asignar a 950.000 jóvenes una plaza entre 24.000 cursos sigue siendo un proceso bastante sencillo. Pero garantizar la igualdad de oportunidades es otra cosa".
Simon Mauras - Investigador del equipo del proyecto conjunto Fairplay
Independientemente de cómo se ponderen los criterios, hay que poder justificar el resultado y asegurarse de que se conocen las reglas. Por ejemplo, si la prioridad de las elecciones de un estudiante es un criterio más importante que sus resultados académicos, tiene que saberlo.
El problema es traducir la equidad en un algoritmo, encontrar una traducción matemática que pueda integrarse en un algoritmo y poder validar sus propiedades éticas. También podemos añadir el problema de la confidencialidad y sus límites. Aunque no conozca el nombre de una persona, puedo reconocerla en una multitud por algunas de sus características físicas o hábitos.
"La confidencialidad de los datos privados, otro reto para los investigadores, también se basa en grupos y comparaciones. Imaginemos una herramienta de IA que utilice datos agregados de grupos anonimizados: comparamos los datos de un grupo completo con los del mismo grupo privado de uno de sus miembros. La noción de "confidencialidad diferencial" postula que si la estadística cambia significativamente, podemos deducir que el algoritmo "sabe" demasiado sobre la persona que ha quedado fuera".
En el caso de Parcoursup, estas cuestiones de equidad se plantean para los estudiantes internacionales, sobre los que hay muchos menos datos a los que recurrir. Otros problemas, como la asignación de plazas de internado y los tiempos de espera para casos especiales, también requieren mejores soluciones.
El grupo Fairplay también está desarrollando soluciones para ayudar a las universidades y escuelas, que son soberanas en sus elecciones, a evaluar a posteriori si han seleccionado las solicitudes correctas. Más allá de Parcoursup, la IA ética promovida por Fairplay puede beneficiar a toda la sociedad, y se presentan ejemplos...
Para leer el artículo completo: En Parcoursup, ¿conduce la IA a decisiones éticas?
Ilustración : Augusto Ordóñez - Pixabay
Más información sobre esta
noticias
Visite inria.fr
Ver más noticias de esta institución