Las reglas que hay que adoptar con la IA en la formación

A menudo utilizamos la expresión "vaguedad jurídica" para referirnos a ámbitos o temas en los que la justicia no tiene nada que decir. Sin embargo, esta formulación carece de sentido porque, en cuanto un juez conoce de un asunto, toma una decisión que pasa a formar parte de la jurisprudencia y contribuye al marco jurídico de una cuestión.

Así pues, aunque el tema parezca reciente, ya existe un marco que rodea la cuestión de la inteligencia artificial con formación. Sin embargo, a principios de 2024, el Parlamento Europeo adoptó la "Ley de IA", que establece un marco aún más claro.

La Ley entrará en vigor no más de dos años después de su adopción. Obligará a los sistemas escolares a observar requisitos modulados, en función de los riesgos que corran los usuarios.

• Los usos que supongan un riesgo inaceptable, como el reconocimiento de emociones o la calificación social, simplemente se prohibirán.
• Los llamados usos de alto riesgo para evaluar las capacidades de aprendizaje, orientar en el proceso y supervisar el comportamiento tendrán que cumplir la ley de protección de datos personales, un régimen restrictivo de los datos utilizados para evitar sesgos y una obligación de transparencia e información.
• Esto último también debe guiar las llamadas aplicaciones de bajo riesgo, como los robots conversacionales en un sistema de aprendizaje, que deben dejar claro que están hablando con una IA y no con un humano.

Duración: 11min46