Les règles à adopter avec l'IA en formation

Un cadre se met en place en Europe

Une tête de robot sur une image de classe vide

Nous utilisons souvent l’expression « flou juridique » pour parler de domaines ou de sujets où la justice n’aurait rien de paré. Néanmoins, cette formulation est un non-sens puisque, dès qu’un juge est saisi d’une affaire, il appose une décision qui entre dans la jurisprudence et participe à encadrer juridiquement une question.

Ainsi, même si le sujet semble récent, il existe déjà un cadre entourant la question de l’intelligence artificielle avec la formation. Toutefois, le parlement européen a, au début de l’année 2024, adopté le « AI Act » qui la balise encore plus.

Celui-ci entrera en vigueur au gros maximum deux ans après l’adoption du texte. Celui-ci obligera les systèmes scolaires à observer des exigences modulées et, ce, selon les risques encourus par les utilisateurs.

Les usages faisant peser un risque inacceptable, comme la reconnaissance des émotions ou la notation sociale, seront tout bonnement interdits.
Ceux dits à haut risque pour évaluer les aptitudes d’apprentissage, orienter dans le processus et surveiller les comportements devront respecter le droit de protection des données personnelles, un régime contraignant des données utilisées pour éviter les biais et une obligation de transparence et d’information.
Cette dernière doit aussi guider ceux dits à faible risque comme les robots conversationnels dans un système d’apprentissage qui devront bien souligner qu’il s’agit d’une IA qui parle et pas un humain.

Durée : 11min46

Image : Alexandra_Koch de Pixabay

En savoir plus sur cette ressource

Voir plus de ressources de cette institution